菜单 菜单

Kendrick 的最新单曲采用了先进的 deepfake 技术

肯德里克·拉马尔 (Kendrick Lamar) 的新专辑预告片音乐视频融合了 deepfake 技术来描绘各种文化偶像的视角。 这是一个真实和先进的深度伪造技术的例子。

如果您是音乐迷,那么您无疑会看到和听说过 Kendrick Lamar 即将发行的专辑,这是他五年来的第一张专辑。

与 Lamar 的每一滴作品一样,他在本周初发行了“Heart”系列的第五首歌曲,为完整 LP 的主题和声音提供了一个品尝者。 这首歌是一种复杂而浓密的抒情体验,探索了在世和已故文化偶像的视角。

总体共识是,它不负众望——但人们谈论最多的是视频。 看看下面。

在整个五分钟的运行时间内,肯德里克的脸会变化,以模仿其他人的身份,包括坎耶·韦斯特、尼普西·哈斯勒、科比·布莱恩特和 OJ 辛普森。 这种效果在第一次观看时非常强大且令人惊讶,并且证明了即使在过去几年中,deepfake 技术也取得了进步。


deepfake 技术还用在什么地方?

Deepfake 内容已经走过了漫长的道路,并且正稳步成为主流在线内容的一部分,无论好坏。 一个例子是 Tom Cruise deepfake TikTok 帐户,该帐户创建了短视频,令人信服地展示了演员在各种情况下的情况。

用户经常被愚弄,认为它是 真实 汤姆,当它实际上是一个相似的演员时,克鲁斯的脸在后期制作中被数字化了。

虽然这个例子在很大程度上是无害的,也无意造成问题,但类似的 deepfake 技术正以更恶意的方式使用。

Deepfake AI 色情内容尤其值得关注。 由于许多成人网站没有得到适当的监管并且很少遵循严格的指导方针,因此在未经同意的情况下创建和共享显性材料的可能性很大。

还创建了 Deepfake 材料以混淆和误导 公众对乌克兰战争. 内容已在网上分享,显示两国领导人“说”了他们没有说的话。 其后果可能是深远的——我们可能会看到更多的事情向前发展。

也不仅仅是可以操纵的视觉效果。 音频深度伪造正在获得关注,并且更容易获得。 我们在 Thred 办公室尝试过的一项服务是 UberDuck,它允许我们创建 整个老派阿姆歌曲 从头开始。

另一个工具能够创建自动面孔 仅从音频,同样,这意味着我们可能很快就会看到整个数字人从零开始,他们甚至从未 存在。 该平台 Replika 正在使用聊天机器人进行实验,为人类创造数字对话角色。 想想情节 她的 你就在不远处。


为什么这会令人担忧?

deepfakes 在道德上的使用目前有点喜忧参半。

现在,我们看到了一系列新颖或花哨的技术实现,但它很容易变得更加普遍,并且很快就难以识别。

如上所述,这带来了许多问题,从明确的内容到误导性的政治内容。 想象一下,如果一个精神错乱的世界领导人(其中似乎有很多人)看到一个威胁核战争的伪造视频,可能会产生什么样的后果。

我并不是说肯德里克的视频表明我们正在走上一条注定失败的道路,但视频 证明深度伪造变得越来越容易创建并且非常有效。 如果看到 Kanye 的脸强加在 Kendricks 身上还不足以让你数周来噩梦般的燃料,我不知道会是什么。

现在,带上 Kendrick 的专辑——它无疑是经典之作,对吧?

无障碍