上周,泰勒·斯威夫特 (Taylor Swift) 使用人工智能创建的露骨图像在 Twitter (X) 上分享,其中一些帖子获得了数百万次浏览。随之而来的法律恐慌可能会对名人肖像和人工智能图像的使用产生影响。
泰勒·斯威夫特上周成为人工智能图像生成的受害者。未经她同意就创建了露骨的色情图片,并由数千名用户在 X(以前的 Twitter)上分享。
这些帖子在被从平台上删除和清除之前已被浏览了数千万次。
随之而来的后果很快,X 在周末调整了其审查过滤器,删除了任何提及这些图像的内容。美国政客们是 呼吁制定新法律 将深度造假定为刑事犯罪作为直接结果,并且 微软已承诺 在其 Designer IP 应用程序上推出更多护栏,以防止未来发生类似事件。
X 上严格禁止发布非自愿裸露 (NCN) 图像,我们对此类内容采取零容忍政策。我们的团队正在积极删除所有已识别的图像,并对负责发布这些图像的帐户采取适当的行动。我们很接近……
— 安全(@Safety) 2024 年 1 月 26 日
这些深度造假争议的最新进展是在多年来网上不道德的色情内容出现之后发生的,其中大多数内容剥夺了受害者对其肖像的自主权。这是一个名人和普通人都关心的问题,因为人工智能工具变得越来越普遍,任何人都可以使用。
泰勒的高调地位和忠实粉丝群帮助将这个问题推到了当前新闻的最前沿,并且无疑将以我们迄今为止从未见过的方式向政策制定者、社交媒体平台和科技公司发出警报。
虽然变革和更严格的法律早就应该实施,但我们很可能在未来几周和几个月内看到急需的进展。其影响可能是广泛的,并且会影响整个人工智能图像的生成——而不仅仅是名人肖像或露骨内容。
法律后果将如何影响未来的人工智能图像生成?
那么,是什么 特别是 正在合法地打击泰勒的深度伪造人工智能内容?
周二,一个由美国参议员组成的两党团体 提出了一项法案 这将把传播由人工智能生成的未经同意的色情图像定为犯罪。这将使受害者能够对“制作或拥有伪造品并意图传播伪造品的个人”寻求民事处罚。
此外,任何收到图像或材料但知道其未经同意创建的人也会受到影响。
美国参议院多数党党鞭迪克·德宾(Dick Durbin)以及参议员林赛·格雷厄姆(Lindsey Graham)、艾米·克洛布查尔(Amy Klobuchar)和乔什·霍利(Josh Hawley)支持该法案。它被称为“2024 年破坏显式伪造图像和未经同意的编辑法案”,或 《反抗法案》 简而言之。
泰勒的露骨照片也传到了白宫。新闻秘书卡琳·让-皮埃尔周五告诉美国广播公司新闻,政府“对流传图像的报道感到震惊”。
这一切都源于 另一个 10 月 XNUMX 日推出的名为《禁止人工智能欺诈法案》的法案th2024。
其目的是创建“针对人工智能滥用的联邦基线保护”,并维护第一修正案的在线权利。它特别强调个人对自己的肖像和声音的权利,以防止人工智能伪造。如果获得通过,《禁止人工智能欺诈法案》将“重申每个人的肖像和声音都受到保护,并赋予个人控制其识别特征使用的权利”。
当然,法律保护是一回事,实际上 强制执行 在全网范围内则是另一回事。还有 有争议的言论自由问题 和表达——并确定惩罚所在。
使人工智能图像成为可能的中介软件平台是否应该受到限制或惩罚?例如,我们不限制 Photoshop,尽管它是创建误导性图像的重要工具。人工智能公司在法律上应该站在什么立场?目前还不清楚。
泰勒·斯威夫特争议后,立法者提出反非自愿人工智能色情法案 https://t.co/3PS8h0ULxO
- The Verge(@verge) 2024 年 1 月 31 日