Dove altro viene utilizzata la tecnologia deepfake?
I contenuti deepfake hanno fatto molta strada e stanno costantemente diventando parte dei contenuti online tradizionali, nel bene e nel male. Un esempio è l'account TikTok deepfake di Tom Cruise, che crea video in formato breve che mostrano in modo convincente l'attore in tutti i tipi di situazioni.
Gli utenti sono spesso ingannati, credendo che sia il di rose Tom, quando in realtà è un attore sosia con la faccia di Cruise imposta digitalmente in post-produzione.
Sebbene questo esempio sia in gran parte innocuo e non inteso a causare problemi, una tecnologia deepfake simile viene utilizzata in modi più dannosi.
La pornografia deepfake dell'IA è particolarmente preoccupante. Esiste un potenziale significativo per la creazione e la condivisione di materiale esplicito senza consenso, poiché molti siti Web per adulti non sono adeguatamente regolamentati e raramente seguono linee guida rigorose.
Il materiale Deepfake è stato creato anche per confondere e disinformare il pubblico sulla guerra in Ucraina. Sono stati condivisi contenuti online che mostrano i leader di entrambi i paesi che "dicono" cose che non hanno detto. La conseguenza di ciò potrebbe essere di vasta portata – ed è probabile che ne vedremo di più andando avanti.
Non sono solo le immagini che possono essere manipolate. I deepfake audio stanno guadagnando terreno e sono molto più accessibili. Un servizio con cui abbiamo provato a scherzare nell'ufficio di Thred è UberDuck, che ci ha permesso di creare intere canzoni di Eminem della vecchia scuola da zero.
Un altro strumento è in grado di creare volti automatizzati solo dall'audio, anche, il che significa che presto potremmo vedere intere persone digitali costruite da zero che mai nemmeno esistito. La piattaforma replica sta sperimentando questo utilizzando i chatbot, creando personaggi di conversazione digitali con cui gli umani possono interagire. Pensa alla trama Il suo e non sei lontano.
https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz
Perché questo potrebbe essere preoccupante?
L'uso morale dei deepfake è attualmente un miscuglio.
In questo momento stiamo assistendo a una serie di implementazioni nuove o ingannevoli della sua tecnologia, ma potrebbe facilmente diventare più comune e più difficile da identificare molto presto.
Ciò comporta una serie di problemi, come accennato in precedenza, dal contenuto esplicito al contenuto politico fuorviante. Immagina le potenziali ramificazioni se un leader mondiale sfrenato (di cui sembrano essercene molti) vede un video deepfake che minaccia una guerra nucleare.
Non sto dicendo che il video di Kendrick sia un segno che ci stiamo dirigendo verso un sentiero condannato, ma il video effettua dimostrare che i deep fake stanno diventando più facili da creare e sono molto efficaci. Se vedere la faccia di Kanye imposta sul corpo di Kendricks non è abbastanza per darti carburante da incubo per settimane, non so cosa lo farà.
Per ora, porta l'album di Kendrick: sarà senza dubbio un classico, giusto?
3
energia
0 commenti
