Facebooks Deep Fake Detection Challenge returnerer bekymringsfulle data

Hvordan takler Facebook dype forfalskninger?

Etter kjølvannet av to høyprofilerte saker på plattformen - utsmøring av demokratisk høyttaler Nancy Pelosi og Mr. Zuckerberg seg selv - Facebook oppfordret brukerne i slutten av 2019 til å styrke sin dype falske gjenkjenningsinnsats via en offentlig "utfordring".

De som deltok fikk 100,000 3000 korte klipp med opptak fra XNUMX skuespillere ansatt av Facebook. Fra denne puljen fikk deltakerne i oppgave å identifisere hvilke prøver Facebook hadde manipulert med sine egne skreddersydde automatiske deteksjonsalgoritmer.

Nesten et år etter har vi endelig resultater fra disse testene på rekord. 2000 deltakere testet algoritmene sine (søkere var for det meste fra teknologibransjen eller hadde akademisk bakgrunn), og den mest vellykkede prøven sikret en imponerende deteksjonsrate på 82%. Med tanke på mangfoldet av digitale bedrifter som går inn i dype forfalskninger i dag; uklarheter, endringer i bildefrekvens, overlegg, bare for å nevne noen ... du må si at dette er en virkelig lovende avkastning.

Vinneren av utfordringen, Selim Seferbekov, ble tildelt 500,000 XNUMX dollar og fikk deretter i oppgave å sette sin vinnende algoritme mot et 'black box' datasett fylt med de mest intrikate formene for dype falske bedrag som AI -eksperter kjenner. Når poengsummen var fullført og kombinert med de tidligere resultatene, kom et samlet gjennomsnitt ut på bare 65%.

Bør disse resultatene være en bekymring for Facebook?

Denne studien belyser hvor vanskelig det virkelig er å oppdage en deepfake i naturen. Tross alt betyr den adaptive naturen til AI at så snart eksisterende utnyttelser stenges, kan nye dukke opp raskt og det er tilbake til rute ett. Det er et frustrerende, uendelig spill av katt og mus.

Imidlertid er Facebook -forskere sikre på at dataene som samles inn fra denne testen, vil vise seg å være uvurderlige for å forsterke deres egen forebyggende programvare som for tiden er under arbeid. Facebook planlegger også å frigjøre kildekoden for de mest vellykkede algoritmene - inkludert Seferbekovs - for å hjelpe andre forskere med å oppdage falske videoer før de går viralt.

Foreløpig spiller Facebook det smart og holder sin egen deteksjonsprogramvare hemmelig for å forhindre at noen form for reverse engineering dukker opp i 2020. Teknologisjef Mike Schroepfer uttaler at for øyeblikket er deepfakes 'ikke et stort problem' med Facebook, men at han og teamet hans jobber utrettelig for å unngå å bli 'tatt flatfoten' i oppbyggingen til det amerikanske valget i november.

Slik det ser ut, gjenstår det å se om vi virkelig er rustet til å håndtere den neste bølgen av dype forfalskninger. Men du kan garantere en ting, det is kommer.