Explizite KI-Bilder von Taylor Swift lösen juristische Panik aus

Letzte Woche wurden explizite Bilder von Taylor Swift, die mit KI erstellt wurden, auf Twitter (X) geteilt, wobei einige Beiträge Millionen von Aufrufen erzielten. Die daraus resultierende rechtliche Panik könnte Auswirkungen auf die Verwendung von Promi-Abbildungen und KI-Bildern im Allgemeinen haben.

Taylor Swift wurde letzte Woche Opfer der KI-Bildgenerierung. Explizite, pornografische Bilder wurden ohne ihre Zustimmung erstellt und von Tausenden von Nutzern auf X (ehemals Twitter) geteilt.

Die Beiträge wurden zig Millionen Mal aufgerufen, bevor sie entfernt und von der Plattform gelöscht wurden.

Die daraus resultierenden Konsequenzen waren schnell, da X am Wochenende seine Zensurfilter optimierte, um jegliche Erwähnung der Bilder zu entfernen. US-Politiker sind es fordert neue Gesetze Deepfakes als direkte Folge zu kriminalisieren und Microsoft hat sich verpflichtet um weitere Sicherheitsvorkehrungen für die Designer IP-App zu treffen, um zukünftige Vorfälle zu verhindern.

Das Posten von Bildern mit nicht einvernehmlicher Nacktheit (NCN) ist auf X strengstens untersagt und wir haben eine Null-Toleranz-Richtlinie gegenüber solchen Inhalten. Unsere Teams entfernen aktiv alle identifizierten Bilder und ergreifen entsprechende Maßnahmen gegen die Konten, die für die Veröffentlichung dieser Bilder verantwortlich sind. Wir sind eng miteinander verbunden …

– Sicherheit (@Safety) 26. Januar 2024

Diese neuesten Entwicklungen in der Deepfake-Kontroverse folgen auf viele Jahre unethischer pornografischer Inhalte im Internet, von denen die meisten den Opfern die Autonomie über ihr Abbild nehmen. Es ist ein Problem, das sowohl Prominente als auch normale Menschen betrifft, da KI-Tools immer alltäglicher und für jedermann zugänglich werden.

Taylors hochkarätiger Status und seine treue Fangemeinde haben dazu beigetragen, dieses Thema in den Vordergrund der aktuellen Nachrichten zu rücken und werden zweifellos politische Entscheidungsträger, Social-Media-Plattformen und Technologieunternehmen auf eine Weise alarmieren, wie wir es bisher noch nicht gesehen haben.

Obwohl Änderungen und strengere Gesetze schon vor langer Zeit hätten eingeführt werden sollen, werden wir in den kommenden Wochen und Monaten wahrscheinlich dringend benötigte Fortschritte erleben. Die Auswirkungen könnten weitreichend sein und die Erzeugung von KI-Bildern im Allgemeinen betreffen – nicht nur das Abbild von Prominenten oder explizite Inhalte.

Wie könnten sich die rechtlichen Folgen in Zukunft auf die KI-Bildgenerierung auswirken?

Also, was speziell Wird rechtlich gegen Taylors Deepfake-KI-Inhalte vorgegangen?

Am Dienstag traf sich eine überparteiliche Gruppe US-Senatoren führte eine Rechnung ein Dies würde die Verbreitung nicht einvernehmlicher, sexualisierter Bilder, die von KI erzeugt werden, unter Strafe stellen. Dies würde es den Opfern ermöglichen, eine zivilrechtliche Strafe gegen „Personen zu fordern, die die Fälschung mit der Absicht hergestellt oder besessen haben, sie zu verbreiten“.

Darüber hinaus wäre auch jeder betroffen, der Bilder oder Material erhält, wenn er weiß, dass diese nicht mit Zustimmung erstellt wurden.

Dick Durbin, der Mehrheitsführer im US-Senat, und die Senatoren Lindsey Graham, Amy Klobuchar und Josh Hawley stehen hinter dem Gesetzentwurf. Es wird als „Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024“ bezeichnet „Defiance Act“ kurz gesagt.

Taylors explizite Fotos gelangten auch ins Weiße Haus. Pressesprecherin Karine Jean-Pierre sagte am Freitag gegenüber ABC News, dass die Regierung „durch Berichte über die Verbreitung von Bildern alarmiert“ sei.

All dies folgt aus ein anderer Der Gesetzentwurf namens „No AI FRAUD Act“ wurde am 10. Januar eingeführt^th 2024.

Ziel ist es, einen „bundesstaatlichen Grundschutz gegen KI-Missbrauch“ zu schaffen und die First Amendment-Rechte online zu wahren. Dabei wird besonderer Wert auf das Recht des Einzelnen auf sein Abbild und seine Stimme gegen KI-Fälschungen gelegt. Im Falle einer Verabschiedung würde das No AI FRAUD Act „bestätigen, dass das Abbild und die Stimme jedes Einzelnen geschützt sind, und Einzelpersonen das Recht geben, die Verwendung ihrer identifizierenden Merkmale zu kontrollieren“.

Natürlich ist Rechtsschutz eigentlich eine Sache Durchsetzung Es ist auf einer netzweiten Basis eine andere. Es gibt auch das umstrittene Thema der freien Meinungsäußerung und Ausdruck – und bestimmen, wo die Strafe liegt.

Sollten die Vermittlung von Softwareplattformen, die KI-Bilder ermöglichen, eingeschränkt oder bestraft werden? Wir beschränken beispielsweise Photoshop nicht, obwohl es ein beliebtes Werkzeug zum Erstellen irreführender Bilder ist. Wo sollten KI-Unternehmen hier rechtlich stehen? Es ist derzeit unklar.

Der Gesetzgeber schlägt nach der Kontroverse um Taylor Swift einen Gesetzesentwurf gegen nicht einvernehmliche KI-Pornos vor https://t.co/3PS8h0ULxO

- Der Verge (@verge) 31. Januar 2024