deepfake 技术还用在什么地方?
Deepfake 内容已经走过了漫长的道路,并且正稳步成为主流在线内容的一部分,无论好坏。 一个例子是 Tom Cruise deepfake TikTok 帐户,该帐户创建了短视频,令人信服地展示了演员在各种情况下的情况。
用户经常被愚弄,认为它是 真实 汤姆,当它实际上是一个相似的演员时,克鲁斯的脸在后期制作中被数字化了。
虽然这个例子在很大程度上是无害的,也无意造成问题,但类似的 deepfake 技术正以更恶意的方式使用。
Deepfake AI 色情内容尤其值得关注。 由于许多成人网站没有得到适当的监管并且很少遵循严格的指导方针,因此在未经同意的情况下创建和共享显性材料的可能性很大。
还创建了 Deepfake 材料以混淆和误导 公众对乌克兰战争. 内容已在网上分享,显示两国领导人“说”了他们没有说的话。 其后果可能是深远的——我们可能会看到更多的事情向前发展。
也不仅仅是可以操纵的视觉效果。 音频深度伪造正在获得关注,并且更容易获得。 我们在 Thred 办公室尝试过的一项服务是 UberDuck,它允许我们创建 整个老派阿姆歌曲 从头开始。
另一个工具能够创建自动面孔 仅从音频,同样,这意味着我们可能很快就会看到整个数字人从零开始,他们甚至从未 存在。 该平台 Replika 正在使用聊天机器人进行实验,为人类创造数字对话角色。 想想情节 她的 你就在不远处。
为什么这会令人担忧?
deepfakes 在道德上的使用目前有点喜忧参半。
现在,我们看到了一系列新颖或花哨的技术实现,但它很容易变得更加普遍,并且很快就难以识别。
如上所述,这带来了许多问题,从明确的内容到误导性的政治内容。 想象一下,如果一个精神错乱的世界领导人(其中似乎有很多人)看到一个威胁核战争的伪造视频,可能会产生什么样的后果。
我并不是说肯德里克的视频表明我们正在走上一条注定失败的道路,但视频 不 证明深度伪造变得越来越容易创建并且非常有效。 如果看到 Kanye 的脸强加在 Kendricks 身上还不足以让你数周来噩梦般的燃料,我不知道会是什么。
现在,带上 Kendrick 的专辑——它无疑是经典之作,对吧?