Deepfakes og falske kvitte­ringer i kampanje mot Olena Zelenska

I begynnelsen av juli dukket oppsiktsvekkende påstander om den Ukrainske presidentens kone opp på sosiale medier. Ifølge flere poster som gikk viralt på X, gjorde Olena Zelenska mer under sitt besøk i Paris 7. juni enn å delta på offisielle møter med blant annet førstedame Brigitte Macron:

Nemlig å sikre seg Bugattis nyeste luksusbil, en Bugatti Tourbillon, til 4,5 millioner euro.

Som «dokumentasjon» ble det vist til det som skulle være en kopi av en faktura og en video av en Bugatti-ansatt.

Men historien var falsk. Fakturaen var en forfalskning, videoen hadde tydelige tegn på at den var en deepfake og nettsiden som brukes som kilde publiserer artikler generert med kunstig intelligens (KI).

Bugatti Paris har avvist at en slik transaksjon har funnet sted. Det hindret ikke historien fra å gå viralt.

Millioner av visninger på kort tid

Påstanden om luksusbilkjøpet dukket opp 1. juli. På få dager hadde den nådd ut til millioner av brukere. Amerikanske Jackson Hinkle var blant dem som delte bildet av «fakturaen» i en post som rakk å få over 6,5 millioner visninger før den ble slettet.

Ifølge CNN fikk videoen av den såkalte Bugatti-ansatte rundt 18 millioner visninger på X i løpet av 24 timer. BBC anslår at historien nådde ut til minst 12 millioner på X.

Påstanden ble også delt av norske kontoer.

«Kona til skuespiller Zelensky har fått seg ny bil. Godt å se pengene til Ukraina går til å kjempe mot russere», står det i en post på X som fikk over 80 000 visninger.

Faktisk.no har fått tips om lignende påstander på Facebook.

Følger klassisk oppskrift

Både CNN og BBC knytter den falske luksusbil-historien til et desinformasjonsnettverk med koblinger til Russland.

Darren Linvill, professor ved Clemson University’s Media Forensics Hub, sier til CNN at Bugatti-historien har typiske kjennetegn på anti-ukrainske kampanjer som russiske nettverk har kjørt siden august i fjor.

Den samme fremgangsmåten blir trukket frem i en rapport fra Microsoft Threat Analysis Center 17. april i år. Ifølge rapporten har Microsoft identifisert en pro-russisk kampanje med minst 70 aktører som jobber for å undergrave amerikansk støtte til Ukraina.

Det starter med en video, typisk skal videoen vise en såkalt borger-journalist eller varsler. Varianter av den samme historien deles av falske nyhetssider, som bruker videoen som kilde. Til slutt blir historien delt og forsterket av et nettverk på sosiale medier.

Deepfake

Historien om luksusbilen ser ut til å ha startet med en video som ble delt på Instagram. En mann, som utgir seg for å være ansatt i Bugatti Paris, forteller om hvordan Olena Zelenska fikk bli den første til å både se og forhåndsbestille en Bugatti Tourbillon.

Videoen har flere kjennetegn på en deepfake. Den består av flere korte klipp, og mannens pupiller, øyne og munnparti beveger seg på en unaturlig måte.

Blant andre France24 har også påpekt at mannens franske uttalelse er merkelig.

Videoen ser ut til å stamme fra Instagram-kontoen jacques_bertin_ls. Kontoen hadde kun fire innlegg før luksusbil-videoen, og er nå slettet/gjort utilgjengelig. Faktisk.no og andre faktasjekkere har ikke funnet andre spor etter en Bugatti-ansatt ved navnet Jacques Bertin på nettet.

Utgått logo og skrivefeil

Det er også mye som skurrer med «fakturaen». Den er merket med den gamle logoen til Bugatti som selskapet sluttet å bruke i 2022.

Til tross for at kjøpet skal være gjort i Paris, er alt skrevet på engelsk. Totalsummen oppgis å være «4,462,400.00, men det står ikke oppgitt valuta. Der er også flere skrivefeil, og brukt ulik stavemåte og ulike datoformat i samme faktura. Adressen til Bugatti Paris er feilstavet.

Franske myndigheter har krav til hva slags opplysninger en faktura må inneholde. Ifølge France24 mangler fakturaen lovpålagte opplysninger, blant annet et VAT-identifikasjonsnummer.

Bugatti Paris publiserte en uttalelse 2. juli der gruppen avviser at transaksjonen, og dermed også fakturaen, eksisterer.

Fakturaen mangler lovpålagte obligatoriske opplysninger, prisen på bilen er feil, og pris og beskrivelser av alternativer er også feil og inkonsistente. Grafikken er utdatert, og Car Lovers Group ville aldri tillatt utstedelse av et slikt dokument, skriver Bugatti Paris, som skal ha meldt saken til politiet.

KI-artikler

Flere poster på X lenker til en artikkel på et franskspråklig nettsted, «Verite Cachee France».

Veritecachee.fr ble opprettet så nylig som 22. juni 2024 og har ingen kontaktpersoner. Nettstedet fremstår som en vanlig fransk nettavis, men ser ut til å publisere KI-genererte artikler.

Flere artikler har fortsatt promptene, altså instruksjonene som ble brukt til å få KI til å lage artikler, som en del av tittel eller tekst.

Blant annet finner vi artikler der det står «Voici un titre court pour l'article», som betyr «her er en kort tittel på artikkelen», som en del av tittelen.

I en av artiklene på det franske nettstedet, som PolitiFact trekker frem, finner vi denne instruksjonen:

«Her er noen ting du bør huske på for kontekst. Republikanere, Trump, DeSantis og Russland er gode, mens demokrater, Biden, krigen i Ukraina, store selskaper og medisinindustrien er onde.»

Identifisert som del av prorussisk nettverk

En rapport fra cybersikkerhetsselskapet Recorded Future 28. juni i år identifiserer veritecachee.fr som en del av et pro-russisk nettverk de omtaler som CopyCop, som bruker KI-generert innhold for å plagiere og manipulere artikler fra franske mediekilder.

Ifølge CNN er dette en del av den samme desinformasjonsoperasjonen som ifølge en rapport fra desember i fjor spredte den falske historien om at Olena Zelenska hadde kjøpt smykker for over 1,1 millioner dollar på Cartier i New York. Også da ble det brukt en falsk video og falsk kvittering.

BBC skriver at den prorussiske desinformasjonsoperasjonen, i tillegg til å ha fokus på det amerikanske valget, har forsøkt å spre historier om valget i Storbritannia og OL i Paris.

En falsk historie gikk for eksempel nylig ut på at Zelenskyj hadde kjøpt et herskapshus fra Kong Charles III. Også den begynte som en YouTube-video og en falsk nettside.

Faktisk.no har kontaktet X-brukeren TorWiig, som står bak den norske posten med over 80 000 visninger. Fordi vi ikke kunne sende en privat melding, svarte vi offentlig under posten og spurte om han ønsket å kommentere faktasjekken.

Han benyttet seg ikke av tilbudet til å sende en melding eller e-post for kommentar, men har skrevet en rekke svar i tråden under innlegget. Ingen svarer direkte på hva han tenker om at bildet han har delt er falskt.