Utdatert estimat om framtidig KI-generert innhold

Siden den første betalingsversjonen av ChatGPT ble lansert i Norge i februar 2023, har utviklingen innen kunstig intelligens (KI) lagt mer og mer beslag på vår oppmerksomhet.

Språkrådet kåret sågar «KI-generert» til årets ord 2023. Samtidig står store deler av norsk samfunnsliv midt i krevende debatter om hvordan best dra nytte av den nye teknologien, men samtidig demme opp for utfordringene som følger med.

Noe av dette var tema da Medietilsynet inviterte til fagseminar 7. mai under overskriften «Hvordan påvirker desinformasjon norsk demokrati og virkelighet?».

Første post på programmet var et innlegg fra kultur- og likestillingsminister Lubna Jaffery (Ap). Der tok hun tak i truslene knyttet til KI-generert innhold, og sa blant annet følgende: «Europol har estimert at 90 prosent av alt innhold på nett kommer til å være KI-generert innen 2026.»

Men kan det virkelig stemme at så mye av innholdet på nett vil være laget av kunstig intelligens, og det bare om drøyt halvannet år?

Oppdatert rapport

Spådommer om framtiden kan vanskelig faktasjekkes, men det er mulig å se nærmere på hvor kulturminsteren hentet sitt estimat fra. En leser har nemlig gjort oss oppmerksom på at dette estimatet ikke lenger har gyldighet.

Jaffery sier i sitt innlegg at estimatet stammer fra Europol, som er EUs sentrale politiorgan. I 2022 publiserte de rapporten «Law enforcements and the challenge of deepfakes».

Den opprinnelige rapporten inneholder følgende spådom om framtidens digitale innhold: «Experts estimate that as much as 90 % of online content may be synthetically generated by 2026. Synthetic media refers to media generated or manipulated using artificial intelligence (AI).»

Europols kilde for estimatet er en bok skrevet av Nina Schick, en rådgiver/konsulent innen generativ KI.

Men som den oppmerksomme leseren som kontaktet oss, påpeker i en epost: Rapporten gikk tidligere i år gjennom en oppdatering. Ovennevnte linjer ble da fjernet fordi det opprinnelige estimatet var basert på «en påstand fra en unøyaktig kilde».

Svar fra kulturministeren

Faktisk.no har vært i kontakt med Europol med spørsmål om bakgrunnen for oppdateringen, men har ikke fått noen nærmere forklaring. Vi har imidlertid fått svar fra kultur- og likestillingsminister Lubna Jaffery.

– Jeg burde selvsagt ikke referert til en rapport som Europol nylig har gjort endringer i. Disse var jeg ikke klar over, sier Lubna Jaffery per epost.

Hun sier hun setter pris på å ha blitt gjort oppmerksom på at talen inneholdt et estimat som Europol nå har tatt ut av rapporten.

– Estimatet som nå er trukket fra Europol-rapporten ble brukt for å illustrere at den tekniske utviklingen går raskt, og at omfanget av KI-generert innhold er raskt økende, sier Jaffery.

Statsråden sier at utviklingen innebærer nye muligheter og nye utfordringer for den demokratiske samtalen.

– En av utfordringene er at det kan være vanskelig, tilnærmet umulig, å se forskjell på KI-generert innhold og ekte vare. I en utrygg tid er det en nøkkeloppgave for meg som kultur- og likestillingsminister å arbeide for å styrke vår evne til å håndtere den utviklingen vi går i møte, og sikre tilliten til den offentlige samtalen.

Medieforsker har også brukt estimatet

I den norske samfunnsdebatten er det ikke bare kulturministeren som har brukt Europols estimat. Den samme leseren som gjorde oss oppmerksom på tallglippen fra Jaffery, var tidligere i år tilhører på et foredrag der medieforsker Petter Bae Brandtzæg brakte på bane påstanden om 90 prosent KI-generert innhold innen 2026.

– Ja, 90 prosent-estimatet er blitt brukt svært ofte, også av meg. Men jeg kjenner til at dette nå er fjernet, sier Brandtzæg, professor i medieinnovasjon ved Universitetet i Oslo og sjefforsker ved SINTEF Digital.

Brandtzæg, som har generativ kunstig intelligens og sosiale medier blant sine forskningsfelt, sier at det uansett er veldig vanskelig å definere hva som er KI-generert.

– Hvor stor del av innholdet skal være syntetisk, før det defineres som akkurat det? Innholdsproduksjon er jo ofte en samarbeidsprosess med mange iterasjoner mellom mennesker og KI, sier han til Faktisk.no.

– Hva tenker du er det riktigste 2026-estimatet?

– Det er som alltid umulig å spå om fremtiden. Men jeg tenker at majoriteten av innhold vil ha mer eller mindre deler av KI i seg innen 2026, så rundt 80 prosent er ikke urealistisk. KI-verktøy blir integrert inn i alle arbeidsprosesser samt private kommunikasjonsprosesser. Så vi er der snart, mener Brandtzæg.

Mye delt, men uten særlig støtte hos andre kilder

90 prosent-estimatet har siden 2022 vært mye delt verden over, men dets gyldighet har også vært omdiskutert før Europols oppdatering. Her hjemme skrev foredrags- og kursholderen Ståle Lindblad i fjor et innlegg på sin blogg der han etterlyste dokumentasjon bak den mye spredte påstanden.

I blogginnlegget skriver Lindblad, som er konsulent og kommentator innenfor «digitalisering, kunstig intelligens og sosiale medier», at Europol-estimatet ikke støttes av andre kilder enn Nina Schick, og han har heller ikke sett estimatet blitt brukt av forskere.

– Jeg gjorde ganske grundig research da jeg skrev om saken i fjor, men klarte ikke å finne noen tilsvarende påstander. De eneste jeg fant var de som refererte til enten Schick eller Europol, skriver Lindblad i en epost.

Faktisk.no har også prøvd å komme i kontakt med Nina Schick, hvis 2020-bok «Deepfakes: The Coming Infocalypse» var den opprinnelige kilden for Europols estimat. Hun har ikke besvart våre henvendelser.

Litt mindre dramatisk fremtidsscenario

Til Faktisk.no sier Ståle Lindblad at han tror estimatet fikk så stor spredning fordi det er ganske dramatisk, og fordi seriøse medier deretter gjenga det.

– Når seriøse medier rapporterer noe, oppfattes det gjerne som en form for «hvitvasking» av påstanden. Da blir vi kanskje mindre opptatt av å faktasjekke den, sier Lindblad.

– Har du et estimat for hvor mye KI-generert innhold nettet vil inneholde i 2026?

– Jeg tror også at en betydelig andel av innholdet på internett vil være KI-generert i 2026, men at det vil være mye mindre enn 90 prosent. Om vi ser bort fra alle svindelsidene som masseproduseres av KI, og holder oss til den delen av internett som folk flest forholder seg til, tror jeg at andelen KI-generert innhold fortsatt vil være godt under 50 prosent i 2026.