菜单 菜单

Facebook发起深度造假挑战

与微软和几所大学合作,“检测挑战”旨在提高人工智能检测深度虚假内容的能力。

在过去的几年里,您可能已经在互联网上看到了“假新闻”。 特朗普在 2016 年竞选期间创造的这个词在讨论在线内容和驳斥批评时变得司空见惯。

虽然特朗普对这个词的使用一直带有党派色彩(委婉地说),但可以更民主地使用它来指代对媒体偏见的普遍认识。 专家不断建议,在涉及在线新闻和宣传时,我们应该保持警惕,特别是考虑到对俄罗斯机器人和剑桥分析等公司滥用个人数据的担忧。

这不仅限于新闻和头条新闻。 近年来,随着实现深度造假所需的技术变得更便宜且更容易获得,深度造假现象显着增加。 我们之前写过关于它的成长 – 现在 Facebook 正在呼吁公众帮助更好地理解它。

该计划被称为“深度伪造检测挑战”,是 Facebook、微软、人工智能联盟伙伴关系和七所大学的共同努力。 基本上,这背后有很多强大的脑力。

挑战的参与者将接受筛选并获得深度伪造数据库的访问权限,所有这些都将由专业的、同意的演员组成,并且需要创建可以准确区分它们与普通视频的软件。

Facebook 上周发布了一篇博文 该公司宣布将向该项目投入 10 万美元,并为最有效的项目提供赠款和奖励。 如果您是一名初出茅庐的程序员,希望将自己的帽子扔到戒指上,那么您将不得不稍等片刻 - 根据官方常见问题解答网站,该挑战要到今年年底才会开始。

这一“挑战”引起了一些担忧,特别是考虑到 Facebook 在今年早些时候被迫对深度虚假内容采取更坚定的立场。 Bill Posters 制作了一段令人信服的视频,内容是马克·扎克伯格险恶地宣称他控制着“数十亿人的数据”,该视频在网上疯传。 虽然 Facebook 声称希望解决深度造假的问题令人钦佩——目前还没有办法检测视频中的深度造假方法——但我们可能应该警惕给 Facebook 甚至 更多 这种尚未经过测试的技术的力量。

此外,鼓励公众了解如何制作、分发和检测深度伪造可能会打开一罐蠕虫,并加速问题的扩散而不是减缓问题的发展。 如果更多的 Deepfake 视频内容进入网络上的政治话语,那么从小说中辨别事实以及从整体上叙述历史的能力将受到严重威胁。

我们将不得不拭目以待,看看这一挑战会带来什么,但积极的一面是 Facebook 至少没有使用其用户数据。 在视频中使用同意的演员是公司朝着正确方向迈出的一步,希望我们将来会看到对我们数据的更多尊重。 我尴尬的 2012 照片应该留在我身边 只是我.

无障碍