Deepfakes är nu ett politiskt vapen i det ukrainska kriget

Skaparen av deepfake är fortfarande okänd, men ukrainska tjänstemän har varnat medborgare för möjligheten för Ryssland att sprida falsk medieinformation om kriget i flera veckor.

Ukrainas militära underrättelsetjänst förutspådde användningen av denna taktik i början av mars och distribuerade en video som förklarade hur manipulerade videor kunde användas för att väcka oro och förvirring bland deras medborgare.

När den släpptes på onsdagen upptäckte många ukrainare att videon var ett bedrägeri. Även om läppsynkroniseringen av Zelenskyy var acceptabel, är resten av videon inte bra, med Zelenskyys accent, huvudform och röst som inte matchar.

Denna deepfake kanske inte var så övertygande, men framtida versioner kan vara svårare att urskilja. Att ägna stor uppmärksamhet åt subtila detaljer (som mun, ansikte och kroppsrörelser) är viktiga sätt att få en känsla av om en video är verklig eller inte.

Utöver detta kommer de flesta deepfake-skapare att förlita sig på redan befintliga filmer som en mall för att konstruera sina media, vilket innebär att hitta källan till ett originalvideoklipp kan hjälpa till att slå sönder eventuella hotande osäkerheter.

Kort efter att Zelenskyys djupförfalskning släpptes släpptes en djupförfalskning av Putin som sa till soldaterna "att gå hem medan du lever" och tillkännagav att Ryssland skulle överlämna sig.

Tittarna påpekade att den här videon gjordes med hjälp av ett klipp från ett nationellt tal nyligen av Putin och manipulerade det med AI-teknik. Putins djupförfalskning ansågs släppas som direkt vedergällning mot Zelenskyjs djupförfalska.

Användningen av deepfakes i politiken har varit sällsynt hittills, men många tror att dessa två senaste videor är "bara toppen av isberget" i en serie av deepfakes som kommer att dyka upp under Rysslands invasion av Ukraina.

När Putin gör lättsinniga försök att ändra berättelsen om hur kriget utvecklas, råder det ingen tvekan om att han kommer att få sina statliga propagandister att arbeta övertid för att försöka svänga en seger till Rysslands fördel med alla nödvändiga medel.

Och i en tid av desinformation och maskininlärningsalgoritmer för nyheter är det oroande att tro att vi skulle kunna se den här tekniken gå framåt och bli mycket mer involverade i framtida politiska konflikter.

Som sagt, medan internet tillåter att falska bilder och videor cirkulerar snabbt, mobiltelefoner och sociala medier också göra det enkelt för världsledare att avfärda dessa förfalskningar genom att tala direkt till sina medborgare med ett ögonblicks varsel.

Efter att ha fått reda på det djupa förfalskningen tog Zelenskyy till ukrainare i sin Telegram-berättelse och sa: 'Vi försvarar vårt land, våra barn, våra familjer. Så vi planerar inte att lägga ner några vapen. Tills vår seger.'