Da es immer schwieriger wird, Deep-Fake-Technologie online aufzuspüren, von KI-Stimmen bis hin zu Promi-Lookalikes, hat ein neues Tool es Forschern ermöglicht, Gesichter durch Sprachaufnahmen nachzubilden.
Die Ära der Deepfakes und künstlichen Personas schleicht sich stetig auf uns ein, ein technologischer Durchbruch nach dem anderen.
Während Sie vielleicht einige unheimliche TikTok-Konten gesehen haben, die Deepfake-Videos von Prominenten wie Tom Cruise und Promi-KI-Sprachgeneratoren wie erstellt haben Überduck, ein neues Forschungstool, das am MIT entwickelt wurde, bildet das Gesicht einer realen Person nach, indem es nur ihre Stimme verwendet.
Die bisherigen Ergebnisse sind ziemlich gemischt – einige bringen Ethnizitäten, Geschlechter und Gesichtsstrukturen durcheinander – aber es gab genaue Proben, die für eine potenzielle Verwendung in der Zukunft vielversprechend sind.
Der Algorithmus wird aufgerufen Speech2Face und war Teil einer Forschungsarbeit, die erstmals 2019 veröffentlicht wurde. Eine Demo ist online verfügbar, wenn Sie neugierig sind schau es dir selbst an.
Gesichter scheinen mit längeren Audioclips genauer nachgebildet zu werden, was nicht so sehr überraschen sollte. Der Code wurde unter Verwendung von Millionen von Videos von YouTube erstellt, wobei die Software modelliert wurde, indem „audiovisuelle und Voice-Face-Korrelationen“ aus einer Vielzahl von Beispielen gelernt wurden.
Es ist natürlich noch in Arbeit, also ist es nicht jedes Mal ganz auf den Punkt. Das Potenzial für ein System, das Stimmen registriert und Personen schnell identifiziert, könnte enorm sein, insbesondere innerhalb von Rechtssystemen und Überwachungsunternehmen.
Die Forscher hinter der Technologie sind fest davon überzeugt, dass sie nur wissenschaftlichen Zwecken dient, aber wir wissen bereits, dass größere Unternehmen – wie Facebook, Google, Amazon und viele mehr – bereits sehr an fortschrittlichen Metaverse-Programmen, Web 3.0 und dem Sammeln von Benutzerdaten interessiert sind . Die Fähigkeit, jemanden so schnell zu identifizieren, könnte in den falschen Händen verheerend sein.
DIY-Fotografie weist auch darauf hin dass Software wie diese die Identität von Influencern gefährden könnte, insbesondere von denen, die ihre Gesichter verbergen. TikToker oder YouTuber, die sich bewusst bemühen, ihre Identität zu verschleiern, könnten durch Audioschnipsel ihrer Stimmen entdeckt werden jedem Clip, den sie je gepostet haben.
Das liegt aber wahrscheinlich noch in weiter Ferne, da der Algorithmus derzeit privativ ist. Es scheint, als müssten wir eine Zukunft akzeptieren, in der KI- und Deepfake-Technologie die Grenze zwischen echt und künstlich verwischt, Fehlinformationen wahrscheinlich weiterhin weit verbreitet und schwerer auszumerzen sind.
Das Erkennen von Identitäten durch kurze Sprachmitschnitte ist nur ein weiterer Schritt auf einem unvermeidlichen Weg. Hoffen wir nur, dass die Dinge nicht außer Kontrolle geraten.
Ich bin Charlie (Er/Er), der Chefredakteur bei Thred. Ich habe Anglistik an der University of Birmingham studiert und bin als Musik- und Gaming-Enthusiast ein Nerd für Popkultur. Sie finden mich beim Kuratieren von Playlists, dem Entwerfen von Artikeltitelbildern und dem Schlürfen von Cider an einem Donnerstag. Folge mir auf Twitter, LinkedIn und schick mir ein paar Ideen/Feedback via E-Mail.
Achtmal mehr als der bisherige Rekord hat Microsoft gerade in einem einzigen Deal die meisten erneuerbaren Energien in der Geschichte für ein einzelnes Unternehmen eingekauft. Dadurch wird sichergestellt, dass seine CO2-negativen Pläne nicht durch die Ausweitung von KI-Projekten zunichte gemacht werden. Es gibt ein paar Konstanten im Leben: Tod, Steuern und Microsoft, das sein Gewicht durch rekordverdächtige Finanzakquisen herumschüttet. Zumindest das Neueste ist positiv für den Planeten...
Ein neuer Song namens „The Hardest Part“ des Künstlers Washed Out wurde vollständig mit Sora von OpenAI erstellt, das Textansagen in realistische Videos umwandelt. Es ist das erste seiner Art und sowohl beeindruckend als auch erschreckend, je nachdem, wo man steht. Es scheint, als würden wir jede Woche über KI schreiben. Die Verwendung von Texteingabeaufforderungen zur Erstellung automatisch generierter Inhalte erfreut sich in den letzten zwei Jahren immer größerer Beliebtheit. Wo es einst schien, als ob...
Um neue KI-Trends noch besser mit der Realität zu verknüpfen, wurde ein neuer Schönheitswettbewerb für KI-Influencer angekündigt. Trotz der Begeisterung der Veranstalter warnten Kritiker, wir sollten mit Vorsicht vorgehen. Sie dachten, die Welt der KI-Influencer könnte nicht noch seltsamer werden? Hmm ... denken Sie noch einmal darüber nach.
Fanvue, eine Plattform, die digitale Entwickler dabei unterstützt, das Engagement mithilfe von KI-Nachrichten, Sprachnotizen und Analysen zu steigern, hat gerade die weltweit erste... angekündigt.
Gestern brandmarkte der Umweltaktivist der Generation Z in einer Reihe von Tweets den Glauben an „glänzende Wundermittellösungen“ für die Krise als die heimtückischste Form der Klimaleugnung. Dies stieß nicht nur bei den Nutzern, sondern auch beim CEO von Tesla und X selbst, Elon Musk, auf heftige Gegenreaktionen. Gestern die Gen-Z-Umweltaktivistin Clover Hogan, bekannt für ihre gemeinnützige Bildungsbewegung Kraft der Natur, ...
Wir verwenden Cookies, um sicherzustellen, dass wir Ihnen das beste Erlebnis auf unserer Website bieten. Wenn Sie der Nutzung dieser Seite zustimmen, gehen wir davon aus, dass Sie damit zufrieden sind! Datenschutz-erklärungzustimmen