看看上面深度伪造的艾玛·沃特森的视频，你就会知道这项技术有多逼真。
说真的，我最近去了伦敦广受好评的 ABBA 全息音乐会，那个片段中栩栩如生的动作在质量上惊人地相似。
但很难忽视视频的暗示性，它完美地说明了用户的阴暗意图——也许还有程序员自己。 让事情变得更麻烦的是，这个片段被用作广告。
转发广告录屏， 一位推特用户说：'这只是性骚扰女性的一种新方式。 它剥夺了你的身体自主权，迫使你进入非自愿的性材料，然后可以用来羞辱和歧视你。 更不用说心理影响了。
鼓励为此目的使用 deepfake AI 显然是险恶的。 然而，这并不奇怪，因为到目前为止，深度造假技术最著名的用途要么是色情的，要么是与政治有关的。
根据 Deeptrace 进行的研究，在 2019 年——该技术诞生仅两年后——据报道，在网上发现的所有 Deepfake 视频中至少有 96% 是色情内容。
推动这些视频创作的是众多专门托管 deepfake 色情内容的网站。 上传到这些平台的许多伪造视频都是由报复心重的前任或希望玷污敌人形象的人制作的。
因此，世界各国政府已开始建立更强大的法律框架，以限制深度造假技术的使用方式。 诚然，这些必须以现有案例为依据，这就是为什么技术专家警告我们对其危险毫无准备。
早在 2022 年 XNUMX 月，英国政府就制作了 deepfake 色情内容 可入狱的刑事犯罪. 但是，法院只能起诉在网上传播这些图像或视频的个人。
美国一些州还提出 类似法律 到位。 但实际上，这些政策无法保护任何人不被插入到图形视频中供其他人私下观看。
对于绝大多数女性来说，这种想法即使不是令人毛骨悚然的反应，也足以激起厌恶和愤怒。
如前所述，深度造假也被用来煽动政治骚动。
巴拉克奥巴马已经 描绘 侮辱唐纳德特朗普。 马克扎克伯格有 蓄势待发 可以说，Facebook 的唯一目的就是控制和剥削该平台的用户。
这些都像病毒一样传播开来，揭示了人们对深度造假技术的兴趣、敬畏程度，在某些情况下还揭示了它的诡计。
在其他情况下使用，后果可能要危险得多。 在俄罗斯入侵乌克兰的最初几个月里， 泽伦斯基总统的视频 出现在其中，他告诉乌克兰士兵向俄罗斯士兵投降。
幸运的是， 真实 泽伦斯基总统在他的个人社交媒体账户上确认该视频已被反对派篡改。 他提醒他的人民，为他们的国家而战尚未结束，并敦促他们保持团结。
看起来好像是深度造假，即使被用来制作伊丽莎白二世女王传统的令人发笑的版本 圣诞致辞，往往会在我们内心产生一种不安的感觉。
或许我们 知道 在内心深处，该技术更有可能被用于恶意目的。 那么，当它变得如此先进以至于我们无法区分事实和虚构之间的区别时会发生什么？
有了像 Facemega 这样的免费下载应用程序，我们是否应该担心 deepfake 技术正在通过我们的智能手机广泛使用？
我会说，不幸的是，我们应该是。
0评论
