Meny Meny

Facebook lanserar djup falsk utmaning

Samarbetet med Microsoft och flera universitet syftar "detekteringsutmaningen" till att förbättra AI: s förmåga att upptäcka djupt falskt innehåll.

Du har förmodligen sett "falska nyheter" över hela internet under de senaste åren. Begreppet myntades av Trump under 2016 års valkampanj och har blivit vanligt när man diskuterar onlineinnehåll - och avfärdar kritik.

Medan Trumps användning av frasen alltid har varit partisk (mildt sagt) kan den användas mer demokratiskt för att hänvisa till en allmän medvetenhet om mediaspänning. Experter rekommenderar ständigt att vi bör vara vaksamma när det gäller onlinenyheter och propaganda, särskilt med tanke på oro över ryska robotar och företag som Cambridge Analytica som missbrukar personuppgifter.

Det är inte bara begränsat till nyheter och rubriker. De djupa falska fenomenen har vuxit avsevärt de senaste åren eftersom tekniken som behövs för att dra av den blir billigare och lättillgänglig. Vi har skrivit om dess tillväxt tidigare - och nu uppmanar Facebook allmänheten att hjälpa till att bättre förstå det.

Initiativet heter 'The Deep Fake Detection Challenge' och är den kombinerade insatsen från Facebook, Microsoft, partnerskapet om AI-koalition och sju universitet. Mycket stor hjärnkraft ligger i grunden.

Deltagarna i utmaningen kommer att screenas och få tillgång till en databas med djupa förfalskningar, som alla kommer att innehålla professionella, samtyckta aktörer och kommer att behöva skapa programvara som kan skilja dem exakt från normala videor.

Facebook släppte ett blogginlägg förra veckan som meddelade att de ägde 10 miljoner dollar till projektet, med bidrag och utdelningar till de mest effektiva programmen. Om du är en nystartad kodare som vill kasta din hatt i ringen måste du vänta lite - enligt den officiella FAQ-webbplatsen börjar utmaningen inte förrän i slutet av detta år.

Denna "utmaning" väcker vissa farhågor, särskilt med tanke på att Facebook tvingades ta en starkare hållning mot djupt falskt innehåll tidigare i år. Bill Poster skapade en övertygande video av Mark Zuckerberg som på ett olyckligt sätt förklarar sin kontroll över ”miljarder människors data” som blev virala. Medan Facebooks påstående att vilja ta itu med problemet med djupa förfalskningar är beundransvärt - det finns för närvarande inget sätt att upptäcka djupa falska metoder i videor - vi borde nog vara försiktiga med att ge Facebook till och med mer makt över denna ännu otestade teknik.

Plus att uppmuntra allmänheten att få information om hur man gör, distribuerar och upptäcker djupa förfalskningar kan öppna en burk maskar och påskynda spridningen av problemet snarare än att sakta ner det. Om mer djupt falskt videoinnehåll kommer in i den politiska diskursen på nätet, kommer förmågan att berätta fakta från fiktion och att berätta historien som helhet hotas djupt.

Vi måste vänta och se vad som kommer med denna utmaning, men en positiv är att Facebook åtminstone inte använder sina användardata. Användningen av samtyckta skådespelare för videor är ett steg i rätt riktning för företaget, och förhoppningsvis ser vi mer respekt för våra data i framtiden. Mina pinsamma bilder från 2012 borde ligga hos mig och bara jag.

Tillgänglighet