菜单 菜单

新的人工智能工具仅通过语音数据重建面部

随着深度伪造技术变得越来越难以在网上查出,从人工智能声音到名人相似物,一种新工具允许研究人员通过录音重新创建面部。

深度伪造和人工角色的时代正在稳步向我们走来,一次是一项技术突破。

虽然您可能已经看到一些不可思议的 TikTok 帐户创建了 Tom Cruise 等名人的 deepfake 视频,以及名人 AI 语音生成器,例如 优步鸭,麻省理工学院开发的一种新研究工具,只使用声音重建真人的脸。

到目前为止的结果相当复杂——有些人的种族、性别和面部结构都混在一起了——但已经有准确的样本显示出未来的潜在用途。

该算法称为 语音脸 并且是 2019 年首次发表的研究论文的一部分。如果您有兴趣,可以在线获得演示 自己检查一下.

使用更长的音频片段似乎可以更准确地重新创建面部,这不足为奇。 该代码是使用 YouTube 上的数百万个视频创建的,该软件通过从广泛的样本中学习“视听和语音面部相关性”来建模。

当然,它仍在进行中,因此并非每次都完全正确。 注册声音和快速识别个人的系统的潜力可能是巨大的,特别是在法律系统和监控公司中。

该技术背后的研究人员坚持认为它仅用于科学目的,但我们已经知道,像 Facebook、谷歌、亚马逊等大公司已经对高级 Metaverse 程序、Web 3.0 和收集用户数据非常感兴趣. 像这样快速识别任何人的能力在坏人手中可能是毁灭性的。

DIY摄影 也指出 像这样的软件可能会使影响者的身份处于危险之中,尤其是那些隐藏自己面孔的人。 刻意掩盖自己身份的 TikTok 用户或 YouTube 用户可以通过他们声音的音频片段被发现,来自 任何 他们曾经发布过的剪辑。

不过,这在未来可能还很遥远,因为该算法目前是私有的。 看来我们将不得不接受人工智能和深度伪造技术模糊真实与人造之间界限的未来,错误信息可能会继续猖獗且难以消除。

通过简短的语音片段检测身份只是不可避免的路径上的另一个步骤。 让我们只希望事情不要失控。

无障碍