Deepfakes er nå et politisk våpen i den ukrainske krigen

Skaperen av deepfake er fortsatt ukjent, men ukrainske tjenestemenn har advart innbyggerne om muligheten for Russland til å spre falsk medieinformasjon om krigen i flere uker.

For å forutsi bruken av denne taktikken i begynnelsen av mars, distribuerte Ukrainas militære etterretning en video som forklarer hvordan manipulerte videoer kan brukes til å vekke bekymring og forvirring blant innbyggerne.

Ved utgivelsen på onsdag oppdaget mange ukrainere at videoen var en svindel. Selv om leppesynkroniseringen til Zelenskyy var acceptabel, er resten av videoen ikke bra, med Zelenskyys aksent, hodeform og stemme som ikke stemmer overens.

Denne deepfake var kanskje ikke så overbevisende, men fremtidige versjoner kan være vanskeligere å skille. Å være nøye med subtile detaljer (som munn, ansikt og kroppsbevegelser) er nøkkelmåter for å få en følelse av om en video er ekte eller ikke.

På toppen av dette vil de fleste deepfake-skapere stole på allerede eksisterende opptak som en mal for å konstruere mediene sine, noe som betyr at å finne kilden til et originalt videoklipp kan bidra til å knuse eventuelle truende usikkerheter.

Kort tid etter at Zelenskyys dype forfalskning ble løslatt, ble en dyp forfalskning av Putin som sa til soldatene «gå hjem mens du lever» og kunngjorde overgivelsen av Russland sluppet.

Seerne påpekte at denne videoen ble laget ved hjelp av et klipp fra en nylig nasjonal adresse av Putin og manipulerte den med AI-teknologi. Putins dypfalske ble antatt å bli løslatt som direkte gjengjeldelse mot Zelenskyys dype forfalskning.

Bruken av dype forfalskninger i politikken har vært sjelden så langt, men mange mener at disse to nylige videoene er «bare toppen av isfjellet» i en serie med dype forfalskninger som vil dukke opp gjennom Russlands invasjon av Ukraina.

Ettersom Putin gjør useriøse forsøk på å endre fortellingen om måten krigen utspiller seg på, er det ingen tvil om at han vil få sine statspropagandister på overtid for å prøve å svinge en seier i Russlands favør på alle nødvendige midler.

Og i en tid med feilinformasjon og maskinlæringsalgoritmer, er det bekymringsfullt å tro at vi kan se denne teknologien utvikle seg og bli langt mer involvert i fremtidige politiske konflikter.

Når det er sagt, mens internett lar falske bilder og videoer sirkulere raskt, mobiltelefoner og sosiale medier også gjøre det enkelt for verdens ledere å avkrefte disse forfalskningene ved å snakke direkte til innbyggerne med et øyeblikks varsel.

Etter å ha fått vite om den dype forfalskningen, tok Zelenskyy til ukrainere på sin Telegram-historie og sa: 'Vi forsvarer landet vårt, barna våre, familiene våre. Så vi planlegger ikke å legge ned noen våpen. Inntil vår seier.'