Menu Menu

Come individuare il doctoring dell'intelligenza artificiale e i deepfake

A questo punto siamo tutti consapevoli di quanto lo siano l'IA Doctoring e i deepfake ovunque. Identificare con sicurezza le istanze del loro utilizzo, tuttavia, non è sempre semplice.

L’intelligenza artificiale ha le sue mani su tutti i social media e i giorni in cui si prendevano immediatamente i contenuti per valore nominale stanno scomparendo.

Esistono esempi evidenti e in gran parte innocui di manipolazione dell’intelligenza artificiale – utilizzati principalmente per scopi meme – ma a volte ci troviamo a strizzare gli occhi con sospetto un’immagine o un video per confermarne la legittimità.

È improbabile che la maggior parte di noi venga ingannata da un Mikel Arteta mal reso imposto su Lil Yachty che rimbalza sul palco, ma esistono tecnologie in grado di creare media incredibilmente realistici.

Solo nelle ultime settimane, l'intelligenza artificiale ha generato immagini del Met Gala Katy Perry e Rihanna è diventato virale portando molti a credere che entrambi gli artisti abbiano partecipato all'evento, ma nessuno dei due lo ha fatto. Altrove veniva utilizzato un programma audio imitazione imitare WPPs Mark Read e truffare la forza lavoro dell'azienda.

La velocità vertiginosa con cui la tecnologia sta migliorando è più rapida di quanto siamo in grado di fare effettivamente regolare, e salvo strani chiarimenti da note della comunità su Twitter, in pratica, siamo lasciati a decidere da soli se qualcosa è reale o falso.

Se stai vivendo un'improvvisa fitta di paranoia, permettici di fornirti alcuni suggerimenti utili su cosa prestare attenzione quando si esaminano i contenuti per individuare prove di intelligenza artificiale. Presto dovremo puntare il tuo schermo come quella gif di Leonardo DiCaprio ogni volta che l'intelligenza artificiale alza la testa.

 


Suggerimenti per rilevare i deepfake

 

  • Cerca evidenti irregolarità fisiche:

Sebbene l'intelligenza artificiale si sintonizzi costantemente per funzionare meglio, la stragrande maggioranza dei deepfake esistenti presenterà alcune irregolarità se sai cosa stai cercando.

I segni rivelatori includono movimenti oculari innaturali, strani schemi di ammiccamento o assenza di battiti di ciglia e aree sfocate o pixelate intorno alla bocca, agli occhi e ai capelli.

Cerca eventuali deformazioni attorno ai bordi del viso, soprattutto quando la testa gira, e se la qualità del video è alta, un falso probabilmente non noterà cose come peli vaganti o imperfezioni della pelle.

Spesso, un deepfake presenterà movimenti goffi e meccanici e potresti persino individuare casi di mano che taglia una manica o movimenti anomali del colletto e del collo.

 

  • Sfondo e illuminazione poco chiari:

Controlla se la direzione dell'illuminazione è coerente in tutto il video. Gli esempi modificati artificialmente spesso presentano strane macchie di ombra e luce che non sono necessariamente correlate a fonti di luce o oggetti sullo sfondo.

Quando il soggetto si muove, tieni d'occhio lo sfondo per vedere se compaiono distorsioni. Se possibile, vai fotogramma per fotogramma e ingrandisci.

 

  • Discrepanza audiovisiva

Considera l'ambiente presentato e se il discorso del soggetto corrisponde o meno all'acustica dello spazio. La qualità audio dovrebbe anche adattarsi adeguatamente alla risoluzione video, se legittima. Entrambi sono big omaggio per il tuo deepfake medio.

Sembra ovvio, ma tieni d'occhio i movimenti delle labbra della persona. I deepfake faticano a raggiungere la sincronizzazione completa e sicuramente noterai un notevole inconveniente se il video o la clip durano più di pochi secondi.

 

  • Verifica le informazioni e usa l'intelligenza artificiale a tuo vantaggio

Il contesto è sempre fondamentale. Controlla online per vedere se fonti attendibili hanno ratificato ciò che hai visto sui social media. Se il video mostra un personaggio pubblico che fa qualcosa di interessante, shock, verrà visualizzato quando cerchi notizie.

Per sicurezza, puoi sempre fare uno screenshot e utilizzare Google Lens per vedere se il video è apparso altrove su Internet.

Infine, ci sono molte piattaforme di rilevamento AI come Video Authenticator di Microsoft, Deepware Scanner o DeepFaceLab che potrebbero portare alla luce cose che non avevi notato.


Suggerimenti per il rilevamento di immagini manipolate dall'intelligenza artificiale

 

  • Uncanny Valley

C'è qualcosa di apparentemente strano nelle persone o negli oggetti all'interno dell'inquadratura? Le generazioni mal eseguite possono avere mani e dita poco affidabili e la pelle umana spesso appare eccessivamente liscia. I denti possono non essere completamente separati.

Capelli, pelliccia o altri dettagli fini possono apparire innaturalmente grumosi o sfocati nelle immagini manipolate dall'intelligenza artificiale. Le creazioni di metà viaggio, ad esempio, tendono ad avere un effetto di tratteggio incrociato all'interno delle parti dense di texture di un'immagine. Una volta che lo vedi, lo noti ovunque.

Osserva i bordi di oggetti o persone. I bordi sfocati, irregolari o pixelati di solito indicano un'ingerenza dell'IA. Ricordi il segmento mancante di una manica nella inquietante foto di famiglia di Kate Middleton?

Oggetti casuali – e talvolta inesistenti – tendono a comparire anche nelle generazioni di intelligenza artificiale. Se, ad esempio, è stata creata una camera da letto, probabilmente ci saranno oggetti dall'aspetto strano e deformato su una scrivania o uno scaffale.

 

  • Problemi di simmetria, schemi ripetitivi e riflessioni

Quando proviamo a soddisfare richieste di natura "ultra-realistica", abbiamo notato che l'intelligenza artificiale ha difficoltà a creare una simmetria facciale realistica. Sembra semplicemente amare le caratteristiche eccessivamente perfette e definite – per le persone a fuoco, almeno.

Per quelli sullo sfondo, le caratteristiche saranno probabilmente sfocate. Se c'è una folla, controlla anche le espressioni facciali che non corrispondono al contesto dell'immagine.

In immagini densamente ravvicinate potresti creare schemi ripetuti. Se stai guardando una città, molte finestre, porte o altri elementi architettonici saranno probabilmente quasi identici. È parte integrante della generazione rapida di contenuti per i prompt.

Ciò si applicherà a nuvole, mattoni, pietre, veicoli e praticamente a tutto ciò che appare in multipli.

Alcune tecniche di intelligenza artificiale generano immagini unendo insieme patch di altri contenuti. Una fusione imperfetta può spesso lasciare cuciture visibili. Usa lo strumento zoom per trovarli.

Infine, l’intelligenza artificiale fa davvero fatica a ottenere i riflessi giusti. Controlla l'acqua all'interno di un'immagine per vedere se c'è qualcosa di leggermente strano nel riflesso e guarda gli occhi di un soggetto per vedere se è presente un riflesso. In caso contrario, probabilmente è falso. Gli occhiali da sole possono essere un omaggio morto.

 

  • Strumenti di ispezione visiva

Se vuoi verificare rapidamente la credibilità di un'immagine, la ricerca inversa di immagini su Google è la tua migliore amica. Se non appare da nessuna parte oltre ai social media, probabilmente è falso.

Meglio ancora, inserisci l'immagine in uno strumento di rilevamento AI. La nostra scelta personale è Deepware Scanner. Forensically e FotoForensics sono anche bravi a mostrare specificamente dove si verificano schemi ripetuti quando l'occhio nudo non è all'altezza.

Questo è tutto da parte nostra, gente. Ci auguriamo che ora tu sia un po' più attrezzato per navigare nell'incessante tempesta di contenuti online senza essere colto di sorpresa o disinformato. Detto questo, chissà se qualcuno di questi suggerimenti sarà sufficiente tra cinque anni?

Accessibilità