Meny Meny

Hur man upptäcker AI-doktorer och deepfakes

Vid det här laget är vi alla medvetna om att AI-doktorering och deepfakes är det överallt. Att säkert identifiera instanser av deras användning är dock inte alltid enkelt.

AI har sina vantar över hela sociala medier och dagarna med att ta innehåll direkt till nominellt värde håller på att dö ut.

Det finns uppenbara och i stort sett ofarliga exempel på AI-manipulation – mestadels använt i memesyften – men ibland finner vi oss själva misstänksamt kisa mot en bild eller video för att bekräfta dess legitimitet.

De flesta av oss kommer sannolikt inte att bli lurade av en dåligt återgiven Mikel Arteta påtvingad över Lil Yachty som studsar runt på scenen, men det finns teknologier som kan skapa respektingivande realistiska media.

Under bara de senaste veckorna genererade AI Met Gala-bilder av Katy Perry och Rihanna gick viralt och fick många att tro att båda artisterna deltog i evenemanget – det gjorde inte heller. På andra håll var ett imiterat ljudprogram van vid efterlikna WPPs Mark Read och lura företagets personal.

Den rasande takten med vilken tekniken förbättras är snabbare än vi kan effektivt reglera, och med undantag för det udda förtydligandet från gemenskapsanteckningar På Twitter får vi i princip själva bestämma om något är äkta eller falskt.

Om du upplever en plötslig känsla av paranoia, låt oss ge några användbara tips om vad du ska hålla utkik efter när du undersöker innehåll för bevis på AI. Snart nog måste vi peka på din skärm som den där Leonardo DiCaprio-gifen närhelst AI lyfter upp huvudet.

 


Tips för att upptäcka deepfakes

 

  • Leta efter uppenbara fysiska oegentligheter:

Medan AI ständigt ställer in sig själv för att prestera bättre, kommer den stora majoriteten av befintliga deepfakes att ha vissa oegentligheter om du vet vad du letar efter.

Kontrolltecken inkluderar onaturliga ögonrörelser, konstiga blinkmönster eller ingen blinkning alls, och suddiga eller pixlade områden runt munnen, ögonen och håret.

Leta efter skevheter runt ansiktets kanter, särskilt när huvudet vänder sig, och om kvaliteten på videon är hög kommer en falsk sannolikt att missa saker som löshår eller hudfel.

Ofta kommer en deepfake att ha klumpiga och mekaniska rörelser och du kan till och med upptäcka fall av en hand som klipper genom en ärm eller onormala rörelser i kragen och nacken.

 

  • Tveksam bakgrund och belysning:

Kontrollera om ljusriktningen är konsekvent genom hela videon. Artificiellt manipulerade exempel har ofta konstiga fläckar av skugga och ljus som inte nödvändigtvis korrelerar med ljuskällor eller föremål i bakgrunden.

När motivet rör sig, håll ett noggrant öga på bakgrunden för att se om några förvrängningar uppstår. Gå om möjligt ruta för ruta och zooma.

 

  • Audiovisuell oöverensstämmelse

Tänk på miljön som presenteras och om ämnets tal överensstämmer med rummets akustik. Ljudkvaliteten bör också passa med videoupplösningen om den är legitim. Båda är stor giveaway för din genomsnittliga deepfake.

Det låter självklart, men håll noga koll på personens läpprörelser. Deepfakes kämpar för att uppnå fullständig synkronisering och du är säker på att upptäcka en anmärkningsvärd blip om videon eller klippet är längre än några sekunder.

 

  • Verifiera information och använd AI till din fördel

Sammanhang är alltid nyckeln. Kolla online för att se om välrenommerade källor har ratificerat det du har sett på sociala medier. Om videon visar en offentlig person som gör något nyhetsvärde, chock, det kommer att dyka upp när du söker efter nyheter.

För att vara säker kan du alltid skärmdumpa och använda Google-linsen för att se om videon har dykt upp någon annanstans på internet.

Slutligen finns det många AI-detekteringsplattformar som Microsofts Video Authenticator, Deepware Scanner eller DeepFaceLab som kan avslöja saker du inte märkte.


Tips för att upptäcka AI-doktorerade bilder

 

  • kuslig dal

Är det något som verkar störande med personerna eller föremålen inom ramen? Dåligt utförda generationer kan ha tvivelaktiga händer och fingrar, och mänsklig hud verkar ofta alltför slät. Tänder kan sakna separation helt.

Hår, päls eller andra fina detaljer kan se onaturligt klumpiga eller suddiga ut i AI-doktorerade bilder. Midjourney-skapelser, till exempel, tenderar att ha en skraveringseffekt i texturtäta delar av en bild. När du väl ser det märker du det överallt.

Titta på kanterna på föremål eller människor. Suddiga, ojämna eller pixlade kanter betyder vanligtvis AI-inblandning. Kommer du ihåg det saknade segmentet av en ärm på Kate Middletons kusliga familjefoto?

Slumpmässiga – och ibland obefintliga – objekt tenderar också att dyka upp i AI-generationer. Om, säg, ett sovrum har skapats, kommer det sannolikt att finnas udda och skevt utseende föremål på ett skrivbord eller en hylla.

 

  • Symmetriproblem, återkommande mönster och reflektioner

När vi försöker uppfylla uppmaningar av "ultrarealistisk" karaktär har vi märkt att AI kämpar med att skapa realistisk ansiktssymmetri. Det verkar bara älska alltför perfekta, definierade egenskaper – för personerna i fokus i alla fall.

För dem i bakgrunden kommer funktionerna troligen att vara suddiga. Om det är en folkmassa, kolla efter ansiktsuttryck som inte matchar bildens kontext också.

I tätt packade bilder kan du kvista upprepade mönster. Om du tittar på en stad kommer många av fönstren, dörrarna eller andra arkitektoniska element sannolikt att vara nästan identiska. Det är en del av att generera innehåll för uppmaningar snabbt.

Detta kommer att gälla moln, tegelstenar, stenar, fordon och nästan allt som visas i multiplar.

Vissa AI-tekniker genererar bilder genom att sy ihop patchar från annat innehåll. Ofullkomlig blandning kan ofta lämna efter sig synliga sömmar. Ta fram zoomverktyget för att hitta dem.

Äntligen kämpar AI verkligen för att få reflektioner rätt. Kontrollera vattnet i en bild för att se om det är något som är något fel på reflektionen och titta på ett motivs ögon för att se om en reflektion överhuvudtaget finns. Om inte är det förmodligen falskt. Solglasögon kan vara en död giveaway.

 

  • Verktyg för visuell inspektion

Om du snabbt vill kontrollera trovärdigheten hos en bild är den omvända bildsökningen på Google din bästa vän. Om det inte dyker upp någonstans utöver kanske sociala medier är det förmodligen falskt.

Ännu bättre, sätt in bilden i ett AI-detektionsverktyg. Vårt personliga val är Deepware Scanner. Forensiskt och FotoForensics är också bra på att visa specifikt var upprepade mönster uppstår när det blotta ögat inte är upp till början.

Det är det från oss, gott folk. Vi hoppas att du nu är lite bättre rustad att navigera i den oupphörliga stormen av onlineinnehåll utan att bli fångad eller felinformerad. Som sagt, vem vet om något av dessa tips kommer att räcka om fem år?

Tillgänglighet