Facebooks Deep Fake Detection Challenge returnerar oroande data

Hur hanterar Facebook deepfakes?

Efter kölvattnet av två högprofilerade ärenden på plattformen - utsmytning av demokratiska talare Nancy Pelosi och Mr. Zucker själv - Facebook uppmanade användarna i slutet av 2019 att hjälpa till att stärka sina djupa insatser för falsk upptäckt via en offentlig "utmaning".

De som deltog fick 100,000 3000 kortklipp med filmer från XNUMX skådespelare som anställts av Facebook. Från denna pool fick deltagarna i uppgift att identifiera vilka prover som hade manipulerats av Facebook med hjälp av egna skräddarsydda automatiska detektionsalgoritmer.

Nästan ett år har vi äntligen resultat från dessa tester på rekord. 2000 deltagare testade sina algoritmer (sökande var mestadels från teknikindustrin eller hade akademisk bakgrund), och det mest framgångsrika provet säkerställde en imponerande detekteringsgrad på 82%. Med tanke på de många digitala bedrifter som går in i djupa förfalskningar idag; oskärpa, bildhastighetsändringar, överlägg, bara för att nämna några ... du måste säga att detta är en riktigt lovande avkastning.

Vinnaren av utmaningen, Selim Seferbekov, belönades med 500,000 XNUMX dollar och fick sedan i uppgift att ställa sin vinnande algoritm mot en `` black box '' -uppsättning fylld med de mest invecklade formerna av djupa falska bedrägerier som AI -experter känner till. När poängen var slutförd och kombinerad med de tidigare resultaten kom ett övergripande snitt ut på bara 65%.

Bör dessa resultat vara ett problem för Facebook?

Denna studie belyser hur svårt det verkligen är att upptäcka en djupfake i naturen. När allt kommer omkring betyder AI: s adaptiva karaktär att så snart befintliga exploater stängs av kan nya snabbt växa fram och det är tillbaka till ruta ett. Det är ett frustrerande, oändligt spel med katt och mus.

Facebook -forskare är dock övertygade om att data som samlats in från detta test kommer att visa sig ovärderliga för att förstärka sin egen förebyggande programvara som för närvarande pågår. Facebook planerar också att släppa källkoden för de mest framgångsrika algoritmerna - inklusive Seferbekovs - för att hjälpa andra forskare att upptäcka falska videor innan de blir virala.

För tillfället spelar Facebook det smart och håller sin egen detekteringsprogramvara hemlig för att förhindra att någon form av omvänd teknik dyker upp 2020. Teknisk chef Mike Schroepfer konstaterar att från och med nu är djupt falska 'inte en stor fråga' med Facebook, men att han och hans team arbetar outtröttligt för att undvika att bli '' fasta '' i uppbyggnaden till det amerikanska valet i november.

Som det ser ut återstår att se om vi verkligen är rustade för att hantera nästa våg av djupa förfalskningar. Men du kan garantera en sak, det is kommande.