Amnesty Norges KI-flause går verden rundt

I 2021 var det store demonstrasjoner i Colombia. Flere tok til gatene for å markere motstand mot økte skatter, korrupsjon og endringer i helsevesenet. Demonstrasjonene ble slått hardt ned på av colombiansk politi, som i etterkant fikk sterk kritikk av blant annet FN.

I forbindelse med en markering av at det var to år siden protestene startet 28. april, la Amnesty International Norge ut fire bilder som er generert av kunstig intelligens (KI) på Twitter.

Er du interessert i fakta? Følg oss på Facebook.

Bildene skulle illustrere hva som skjedde for to år siden. De ble også delt av Amnesty Internationals hovedkonto på Instagram, ifølge en skjermdump delt på Twitter. Bildene er nå fjernet.

To av bildene viser det som skal være en colombiansk politimann i hjelm og uniform, med påtrykket tekst om politiets ugjerninger. Et tredje bilde viser en kvinnelig demonstrant, omgitt av flammer. Det fjerde bildet viser en kvinne svøpet i det som ser ut til å være en fremstilling av det colombianske flagget, mens hun blir ført bort av uniformert opprørspoliti.

Alle bildene er merket nederst i venstre hjørne med teksten «illustrasjoner produsert av kunstig intelligens».

Omfattende politivold

På Twitter ble bildene ledsaget av tekst der det sto at politiet påførte mer enn 100 mennesker øyeskader, at det ble rapportert om 89 dødsfall og at det var foretatt 3546 arrestasjoner. I tillegg skal politiet ha voldtatt og forulempet flere kvinner og LGBTQI+-personer. Det ble også lenket til en rapport om politivolden.

Bildene har flere trekk som avslører at de er laget med KI. For eksempel er det colombianske flagget fremstilt feil. Fargene er riktige, men de er lagt i feil rekkefølge. I tillegg er politiuniformene utdaterte, ifølge The Guardian.

Man finner også andre trekk som er typiske for KI-genererte bilder: forvridde ansikter og rare hender.

Flere internasjonale medier som Evening Standard, Vice og The Telegraph har også omtalt saken.

Amnesty beklager

Ifølge John Peder Egenæs, som er generalsekretær i Amnesty International Norge, ble ikke bildene laget av Amnesty i Norge, men av kolleger i organisasjonen. Egenæs forteller at bildene ble laget og brukt fordi aktivister og organisasjoner i Colombia, som hadde vært aktive i demonstrasjonene, ba Amnesty om ikke å bruke reelle bilder.

– Dette var for å anonymisere og beskytte demonstranter fra det voldelige politiet som kan bruke slike bilder til å spore opp de som har vært med og trakassere dem eller til og med arrestere dem, skriver Egenæs til Faktisk.no.

Egenæs forteller at de fjernet bildene fordi de innså at de var egnet til å forvirre folk til å tro at det var virkelige bilder.

– Selv om de var merket med at de var AI-genererte og forsøkt laget slik at de framstod som illustrasjoner, var ikke det godt nok. Det beklager vi.

Kritisert av medieforsker

Amnestys bruk av KI-bildene har fått kritikk på sosiale medier. Selv om de fleste av bildene ikke fremstår som reelle fotografier, advarer flere mot å benytte KI i en slik kontekst. Blant disse er medieforsker Roland Meyer ved Brandenburger Center for Media Studies. På Twitter skriver han at støtter Amnestys budskap, men mener metoden for å fremme det blir helt feil.

«Bruken av datagenererte, fotorealistiske illustrasjoner, bidrar ikke bare til å gjøre skillet mellom fakta og fiksjon uklart, det devaluerer også arbeidet til modige reportere og fotografer som har brukt årtier på å dokumentere menneskerettighetsbrudd», skriver Meyer.

Også den norske pressenestoren Sven Egil Omdal kritiserte Amnestys bruk av KI-bilder på Twitter:

Lages gjennom enkel spørring

Kunstig intelligens har gjort det mye enklere å lage falske bilder. Det siste året har det skjedd viktige fremskritt innen kunstig intelligens.

Spesielt har såkalt generativ KI har fått et gjennombrudd. Den avanserte chat-roboten Chat-GPT er trolig verktøyet som har fått mest oppmerksomhet. Denne kan generere nye tekster ved bruk av statistikk og store mengder data.

Det finnes også flere modeller som kan lage bilder basert på store mengder treningsdata. Bildene finnes ikke fra før. Det lages nye bilder hver gang brukerne gir modellen nye instruksjoner. Dette skjer i praksis ved at brukerne gir noen korte instruksjoner til KI-modellen, der de beskriver hvordan de ønsker at bildet skal se ut.

Slik kjenner du igjen KI-bilder

Faktisk.no har nylig skrevet om hvordan du selv kan kjenne igjen KI-genererte bilder. Les mer i denne saken: