菜单 菜单

Snapchat 和 TikTok 投资深度造假技术

无论是好是坏,Snapchat 和 TikTok 都在各自追求深度造假技术方面取得进展。

看起来深度伪造技术很快就会变得不仅仅是计算机书呆子的晦涩做法。

根据SocialMediaToday本周,Snapchat 以 166 亿美元的价格收购了初创公司 AI Factory,而据传 TikTok 正在开发一种深度伪造过滤器,可以让您将自己的肖像放在应用程序中预先存在的镜头上。 这显然是一个令人兴奋的发展,但考虑到围绕深度伪造的所有潜在危险,它也有点令人担忧。

我们之前已经讨论过操纵政客的镜头使他们似乎在说些什么可能会引起的问题 他们从来没有. 确定什么是真实的在未来可能会变得更加困难,如果 TikTok 和 Snapchat 也开始使用这项技术,这甚至可以扩展到朋友之间共享的镜头。

不过,就目前而言,它只会真正用于在宠物狗、自由女神像或任何其他类似的东西上拍打自己的脸。 它很可能是一个有趣的功能,而不是反乌托邦式的数字错误信息。 至少现在。

我们应该担心技术冲击主流受众吗?

如果没有制定标准来监控什么是真实的,什么不是,那么政客、名人甚至你的亲密关系都可能受到影响。 现在没有太多可担心的,因为一个人的脸何时被扭曲仍然相当明显,但与所有技术一样,情况并非总是如此。

Snapchat 对 AI Factory 的收购表明,该公司正在寻求进一步追求将您的自拍照动画化为不同视频的功能,尽管围绕着深度伪造的所有恐惧。

AI Factory 已经与 Snapchat 合作创建了该应用程序的新功能,称为 Cameos,它就是这样做的,它与 YouTube 上到处都是奥巴马和马克·扎克伯格的有点吓人的深度假视频相去甚远。 或者这个将汤姆克鲁斯的脸无缝融入比尔哈德的脸。

TikTok一直在制作 它自己的深层假特征 也在低位。 它的母公司字节跳动一直在开发一种工具,可以让你把脸贴在别人的脸上。 它尚未发布——考虑到围绕其中国所有权和数据使用的谣言和担忧的漩涡,这并不奇怪——但如果向公众公开,几乎可以肯定会成为热门话题。

我们应该有 一些 意识到这种特征可能给我们彼此的交流带来的危险。 想象一下,对某人的伴侣或同事进行深度伪造,以及滥用这项技术的后果。 模糊图像处理和个人身份之间的界限是一个棘手的话题,而且很容易出错。

当技术还处于起步阶段时,这一切都很有趣和轻松,但是随着大公司开始将深度伪造正常化,我们还应该记住为什么所有专家都警告我们要保持警惕并安全使用它。

无障碍