Facebook „Deep Fake Detection Challenge” zwraca niepokojące dane

Jak Facebook radzi sobie z deepfake'ami?

W następstwie dwóch głośnych przypadków na swojej platformie – rozmazywania mówcy Demokratów Nancy Pelosi i pan Zuckerberg sam – Facebook wezwał użytkowników pod koniec 2019 r., aby pomogli wzmocnić swoje głębokie wysiłki w zakresie wykrywania fałszywych informacji poprzez publiczne „wyzwanie”.

Uczestnikom rozdano 100,000 3000 krótkich klipów zawierających materiał od XNUMX aktorów wynajętych przez Facebooka. Z tej puli uczestnicy mieli za zadanie określić, które próbki zostały naruszone przez Facebooka przy użyciu własnych, niestandardowych algorytmów automatycznego wykrywania.

Prawie rok później wreszcie mamy have wyniki z tych testów. 2000 uczestników przetestowało swoje algorytmy (wnioskodawcy pochodzili głównie z branży technologicznej lub mieli wykształcenie akademickie), a najbardziej udana próbka zapewniła imponujący wskaźnik wykrywalności wynoszący 82%. Biorąc pod uwagę mnogość cyfrowych exploitów, które dziś są głęboko podrabiane; rozmycia, modyfikacje liczby klatek na sekundę, nakładki, żeby wymienić tylko kilka… trzeba by powiedzieć, że jest to naprawdę obiecujący powrót.

Zwycięzca wyzwania, Selim Seferbekov, otrzymał 500,000 XNUMX dolarów, a następnie otrzymał zadanie zmierzenia swojego zwycięskiego algorytmu z zestawem danych „czarnej skrzynki” wypełnionym najbardziej zawiłymi formami głębokiego fałszywego oszustwa znanego ekspertom AI. Gdy wynik został sfinalizowany i połączony z poprzednimi wynikami, ogólna średnia wyszła na właśnie % 65.

Czy te wyniki powinny budzić obawy Facebooka?

To badanie pokazuje, jak trudno jest naprawdę dostrzec deepfake w środowisku naturalnym. W końcu adaptacyjny charakter sztucznej inteligencji oznacza, że ​​gdy tylko istniejące exploity zostaną zamknięte, nowe mogą szybko pojawić się i wracają do punktu wyjścia. To frustrująca, niekończąca się gra w kotka i myszkę.

Jednak badacze Facebooka są przekonani, że dane zebrane w ramach tego testu okażą się nieocenione we wzmacnianiu ich własnego oprogramowania zapobiegawczego, nad którym obecnie pracujemy. Facebook planuje również opublikować kod źródłowy najbardziej udanych algorytmów – w tym algorytmu Seferbekova – aby pomóc innym badaczom w wykrywaniu fałszywych filmów, zanim staną się wirusowe.

Na razie Facebook postępuje mądrze i utrzymuje w tajemnicy własne oprogramowanie do wykrywania, aby zapobiec pojawieniu się jakiejkolwiek formy inżynierii wstecznej w 2020 roku. Mike'a Schroepfera twierdzi, że w tej chwili deepfake nie są „dużym problemem” dla Facebooka, ale on i jego zespół pracują niestrudzenie, aby uniknąć „przyłapania na płaskiej stopie” podczas przygotowań do wyborów w USA w listopadzie.

W obecnej sytuacji okaże się, czy naprawdę jesteśmy przygotowani do radzenia sobie z następną falą głębokich podróbek. Ale możesz zagwarantować jedno, to is nadchodzi.