Facebooks „Deep Fake Detection Challenge“ liefert besorgniserregende Daten

Wie geht Facebook mit Deepfakes um?

Nach den Folgen von zwei hochkarätigen Fällen auf seiner Plattform – der Verleumdung des demokratischen Sprechers Nancy Pelosi und Mr. Zuckerberg selbst – Facebook forderte die Nutzer Ende 2019 auf, seine Bemühungen zur Erkennung von Deep-Fakes durch eine öffentliche „Herausforderung“ zu unterstützen.

Die Teilnehmer erhielten 100,000 kurze Clips mit Filmmaterial von 3000 von Facebook engagierten Schauspielern. Aus diesem Pool sollten die Teilnehmer ermitteln, welche Proben von Facebook mit ihren eigenen, maßgeschneiderten automatischen Erkennungsalgorithmen manipuliert wurden.

Fast ein Jahr später haben wir endlich die Ergebnisse von diesen Tests zu Protokoll. 2000 Teilnehmer stellten ihre Algorithmen auf die Probe (Bewerber kamen meist aus der Technologiebranche oder hatten einen akademischen Hintergrund), und die erfolgreichste Stichprobe sicherte sich eine beeindruckende Erkennungsrate von 82%. Angesichts der Vielzahl digitaler Exploits, die heute in Deep Fakes stecken; Unschärfen, Bildratenänderungen, Überlagerungen, um nur einige zu nennen… man muss sagen, dass dies eine wirklich vielversprechende Rückkehr ist.

Der Gewinner der Herausforderung, Selim Seferbekov, erhielt 500,000 US-Dollar und wurde dann damit beauftragt, seinen Siegeralgorithmus gegen einen „Black Box“-Datensatz zu stellen, der mit den kompliziertesten Formen der tiefen Fälschung gefüllt ist, die KI-Experten bekannt sind. Nachdem die Punktzahl fertiggestellt und mit den vorherigen Ergebnissen kombiniert wurde, ergab sich ein Gesamtdurchschnitt von nur 65%.

Sollten diese Ergebnisse Facebook beunruhigen?

Diese Studie zeigt, wie schwierig es wirklich ist, einen Deepfake in freier Wildbahn zu entdecken. Schließlich bedeutet der adaptive Charakter der KI, dass, sobald bestehende Exploits geschlossen werden, schnell neue auftauchen können und es wieder auf den Punkt eins geht. Es ist ein frustrierendes, nie endendes Katz-und-Maus-Spiel.

Die Facebook-Forscher sind jedoch zuversichtlich, dass die bei diesem Test gesammelten Daten von unschätzbarem Wert sein werden, um ihre eigene präventive Software zu stärken, die derzeit in Arbeit ist. Facebook plant auch, den Quellcode für die erfolgreichsten Algorithmen – einschließlich des von Seferbekov – zu veröffentlichen, um anderen Forschern zu helfen, gefälschte Videos zu erkennen, bevor sie viral werden.

Im Moment spielt Facebook es schlau und hält seine eigene Erkennungssoftware geheim, um zu verhindern, dass im Jahr 2020 jede Form von Reverse Engineering auftaucht. Chief Technology Officer Mike Schroepfer stellt fest, dass Deepfakes derzeit bei Facebook „kein großes Thema“ sind, er und sein Team jedoch unermüdlich daran arbeiten, im Vorfeld der US-Wahlen im November nicht „plattfüßig“ erwischt zu werden.

Wie es aussieht, bleibt abzuwarten, ob wir wirklich für die nächste Welle von Deep Fakes gerüstet sind. Aber eines kannst du dir garantieren, es ist is Kommen.