Facebook的“深度伪造检测挑战”返回令人担忧的数据

Facebook 如何应对深度造假？

在其平台上发生两起备受瞩目的案件之后——民主党议长的诽谤 南希·佩洛西 和先生 扎克伯格 他本人 – Facebook 在 2019 年底呼吁用户通过公开“挑战”帮助加强其深度伪造检测工作。

参与者获得了 100,000 个短片，其中包含 Facebook 雇佣的 3000 名演员的镜头。 从这个池中，参与者的任务是使用他们自己定制的自动检测算法识别哪些样本被 Facebook 篡改。

快一年了，我们终于有了 结果 从这些记录的测试中。 2000 名参与者对他们的算法进行了测试（申请者大多来自科技行业或具有学术背景），最成功的样本获得了令人印象深刻的 82% 的检测率。 考虑到当今大量的数字漏洞利用深度造假； 模糊、帧率修改、叠加，仅举几例……你不得不说这是一个非常有希望的回报。

挑战赛的获胜者 Selim Seferbekov 获得了 500,000 美元的奖金，然后他的任务是将他的获胜算法与一个“黑匣子”数据集进行对比，该数据集充满了人工智能专家已知的最复杂形式的深度虚假欺骗。 一旦分数最终确定并与之前的结果相结合，总平均数为 只是 65％。

这些结果是否应该引起 Facebook 的关注？

这项研究强调了在野外发现深度伪造的真正困难。 毕竟，人工智能的自适应特性意味着一旦现有漏洞利用被关闭，新漏洞可能会迅速出现并恢复原状。 这是一场令人沮丧、永无止境的猫捉老鼠游戏。

然而，Facebook 研究人员相信，从这次测试中收集的数据将证明在加强他们自己目前正在开发的预防软件方面非常宝贵。 Facebook 还计划发布最成功算法（包括 Seferbekov 算法）的源代码，以帮助其他研究人员在虚假视频传播之前检测它们。

目前，Facebook 正在聪明地玩这个游戏，并将自己的检测软件保密，以防止任何形式的逆向工程在 2020 年出现。首席技术官 迈克施罗普弗 表示，截至目前，深度造假对 Facebook 来说“不是一个大问题”，但他和他的团队正在不知疲倦地工作，以避免在今年 XNUMX 月的美国大选之前“措手不及”。

就目前而言，我们是否真的有能力应对下一波深度造假还有待观察。 但是你可以保证一件事，它 is 未来。