Facebook 'Deep Fake Detection Challenge' возвращает тревожные данные

Как Facebook борется с дипфейками?

После двух громких дел на его платформе - очернения спикера-демократа Нэнси Пелоси и мистер Цукерберг В конце 2019 года Facebook обратился к пользователям с призывом поддержать усилия по обнаружению фейков с помощью публичного `` вызова ''.

Тем, кто принял участие, было предоставлено 100,000 3000 коротких роликов, содержащих кадры XNUMX актеров, нанятых Facebook. Из этого пула участникам была поставлена ​​задача определить, какие образцы были подделаны Facebook, используя собственные индивидуальные алгоритмы автоматического обнаружения.

Спустя почти год у нас, наконец, есть Результаты из этих тестов записано. 2000 участников протестировали свои алгоритмы (кандидаты в основном были из технической индустрии или имели академическое образование), и самый успешный образец обеспечил впечатляющий уровень обнаружения - 82%. Учитывая множество цифровых эксплойтов, которые сегодня превращаются в глубокие подделки; размытия, изменения частоты кадров, наложения, и это лишь некоторые из них… вы должны сказать, что это действительно многообещающее возвращение.

Победитель конкурса, Селим Сефербеков, был награжден 500,000 долларов, а затем ему было поручено сопоставить свой выигрышный алгоритм с набором данных «черного ящика», заполненным самыми сложными формами глубокого ложного обмана, известными экспертам в области ИИ. После того, как оценка была завершена и объединена с предыдущими результатами, общее среднее значение составило всего 65%.

Должны ли эти результаты беспокоить Facebook?

Это исследование подчеркивает, насколько сложно обнаружить дипфейк в дикой природе. В конце концов, адаптивный характер ИИ означает, что как только существующие эксплойты будут закрыты, могут быстро появиться новые, и все вернется на круги своя. Это неприятная, бесконечная игра в кошки-мышки.

Однако исследователи Facebook уверены, что данные, собранные в ходе этого теста, окажутся неоценимыми для улучшения их собственного профилактического программного обеспечения, которое в настоящее время разрабатывается. Facebook также планирует выпустить исходный код наиболее успешных алгоритмов, в том числе алгоритмов Сефербекова, чтобы помочь другим исследователям обнаруживать фальшивые видео до того, как они станут вирусными.

На данный момент Facebook играет с умом и держит в секрете свое собственное программное обеспечение для обнаружения, чтобы предотвратить возникновение любой формы обратной инженерии в 2020 году. Главный технический директор Майк Schroepfer заявляет, что на данный момент дипфейки не являются «большой проблемой» для Facebook, но что он и его команда неустанно работают, чтобы не «застрять на ногах» в подготовке к выборам в США в ноябре этого года.

В нынешнем виде еще неизвестно, действительно ли мы готовы справиться со следующей волной глубоких подделок. Но вы можете гарантировать одно: это is приходит.