Kategorien Kategorien

Netflix‘ geheim gehaltener KI-Einsatz entfacht Debatte über Medienmanipulation

Netflix ist in die Kritik geraten, weil es in einer neuen Dokumentation über wahre Kriminalität unbekannte KI-Bilder verwendet hat. Die Gegenreaktion hat wichtige Gespräche über Medienmanipulation ausgelöst. 

Egal, ob Sie es mögen, fürchten oder verabscheuen: KI ist mittlerweile Teil unseres Alltags. Von der Bildung bis zur Unterhaltung wird die künstliche Intelligenz weiter wachsen und nahezu jeden Aspekt unserer Interaktion mit den Medien prägen.

Aber diese Veränderungen erfordern Grenzen. Sowohl die Unvorhersehbarkeit als auch das beispiellose Wachstum der KI machen sie zu einem gefährlichen Werkzeug, wenn sie nicht vorsichtig eingesetzt wird. Und in den letzten Tagen gerieten zwei große Medienunternehmen in die Kritik, weil sie genau das nicht getan hatten.

Nur wenige Tage nachdem Studio A24 wegen der Verwendung kritisiert wurde KI-Poster Um den neuen Film „Civil War“ zu promoten, hat Netflix eine hitzige Debatte über den Einsatz künstlicher Intelligenz in Fernsehen und Film entfacht, insbesondere wenn die Zuschauer nicht darauf aufmerksam gemacht werden.

Es wurde festgestellt, dass der Streaming-Dienst KI-Bilder der verurteilten Mörderin Jennifer Han als Teil seiner neuen Dokumentation über wahre Kriminalität „What Jennifer Did“ verwendet hat. Der Film folgt der Polizei, die den brutalen Mord an Hans Mutter und den versuchten Mord an ihrem Vater untersucht. Zunächst glaubt sie, Jennifer sei eine unschuldige Zeugin.

Sie gestand schließlich, dass sie einen Mordanschlag auf ihre Eltern inszeniert hatte, um deren Geld zu erben.

Ungefähr 28 Minuten nach Beginn des Films beschreibt Pans Schulfreundin Nam Nguyen sie als „toll, mit ihr zu reden“.

„Jennifer war lebhaft, glücklich, selbstbewusst und sehr aufrichtig“, erklärt er, während drei Bilder von Pan auf dem Bildschirm erscheinen.

Die Fotos wurden seitdem unter die Lupe genommen, da Objekte im Hintergrund sowie Details in Jennifers Händen, Ohren und Haaren verzerrt erscheinen.

Zuschauer haben Netflix vorgeworfen, KI zu nutzen, um sie zu manipulieren, und eine falsche Vorstellung von Jennifer Han vermittelt, die zum dramatischen Höhepunkt des Films beitragen würde.

„Der Einsatz von KI zur Manipulation des Zuschauers bei Sachinhalten ist definitiv ein erstklassiges Übel“, sagte einer Instagram-Benutzer. Der überwältigende Konsens unter den Netflix-Zuschauern war negativ, und viele betonten die Ironie der Verwendung falscher Informationen während eines Films über die Aufdeckung der „Wahrheit“.

Während Netflix sich noch nicht zu der Gegenreaktion geäußert hat, wirft die Entscheidung, KI-generierte Bilder ohne Offenlegung zu verwenden, ernsthafte ethische Fragen hinsichtlich der Verantwortung der Inhaltsersteller auf.

Durch die Darstellung von KI-generierten Bildern als echt riskieren Inhaltsersteller, die Wahrheit zu verzerren und Fehlinformationen zu verbreiten. Im Fall von „What Jennifer Did“ haben sich die Zuschauer möglicherweise aufgrund der in der Dokumentation präsentierten erfundenen Bilder eine ungenaue Vorstellung von Jennifer Han gebildet.

Die Manipulation von Bildern durch KI gibt auch Anlass zur Sorge, dass das Vertrauen in die Medien schwindet. Wenn der Betrachter nicht mehr zwischen echten und künstlichen Bildern unterscheiden kann, gerät die Glaubwürdigkeit der Mainstream-Medien in Frage. Vertrauen ist die Grundlage des Journalismus und des Filmemachens, und Vorfälle wie dieser untergraben es nur.

 

Sieh diesen Beitrag auf Instagram

 

Ein von MODERNNOTORIETY (@modernnotoriety) geteilter Beitrag

Einige Internetnutzer sind der Meinung, dass der Aufstieg der KI in der Populärkultur, insbesondere ihr unbekanntes Auftreten in dokumentarischen Inhalten, das Ende des Informationszeitalters signalisiert.

Während in den USA und Europa derzeit Gesetze zur Regulierung des Einsatzes von KI gelten, gibt es derzeit solche keine besonderen Rechtsvorschriften Regelung der Verwendung von KI-Bildern oder -Videos in Dokumentationen oder anderen Inhalten.

Der unkontrollierte Einsatz von KI kann auch Auswirkungen auf die Beschäftigten in der Branche haben. Da die Technologie der künstlichen Intelligenz immer weiter voranschreitet, wächst die Angst, dass traditionelle Rollen im Filmemachen, wie Maskenbildner und Spezialisten für visuelle Effekte, obsolet werden könnten.

Und wenn KI-generierte Bilder zur Norm werden, könnte dies tiefgreifende Auswirkungen auf die Zukunft der Beschäftigung in den Unterhaltungsmedien haben.

Wenn Unternehmen es versäumen, ihr Publikum darüber zu informieren, dass KI in Inhalten enthalten ist, wird die Fähigkeit des Publikums, zwischen Echtem und Fälschlichem zu unterscheiden, beeinträchtigt. Daher ist die Gültigkeit der KI als Unterhaltungstool in den Köpfen der Content-Ersteller verankert.

Produzenten und Medienunternehmen sind dafür verantwortlich, die Verwendung künstlicher Bilder offenzulegen und sicherzustellen, dass die Zuschauer über etwaige Manipulationen oder Änderungen am Bildmaterial informiert sind. Transparenz fördert Vertrauen und Verantwortlichkeit, wesentliche Elemente für die Wahrung der Integrität der Inhalte, die wir täglich konsumieren.

Zugänglichkeit