Om du tittar på videon av en djupt falsk Emma Watson ovan kan du se hur realistisk tekniken är.
Seriöst, jag gick på den kritikerrosade ABBA holografiska konserten i London nyligen och de verklighetstrogna rörelserna i det klippet är slående lika i kvalitet.
Men det är svårt att missa videons suggestiva karaktär, som perfekt illustrerar användarnas mörka avsikter – och kanske programmerarna själva. Att göra saker mer problematiska är att det här klippet används som reklam.
Retweeting skärminspelningen av annonsen, sa en Twitter-användare: 'Detta är bara ett nytt sätt att sexuellt trakassera kvinnor. Det tar bort din kroppsliga autonomi och tvingar dig till sexuellt material utan samtycke, som sedan kan användas för att förödmjuka och diskriminera dig. För att inte tala om de psykologiska effekterna.'
Att uppmuntra användningen av deepfake AI för detta ändamål är uppenbarligen olycksbådande. Det borde dock inte vara förvånande, eftersom den mest kända användningen av djup falsk teknik hittills antingen har varit pornografisk eller kopplad till politik.
Under 2019 – bara två år efter att tekniken skapades – rapporterades det att minst 96 procent av alla deepfake-videor som hittades på nätet var pornografiska, enligt forskning utförd av Deeptrace.
Under skapandet av dessa videor finns många webbplatser som uteslutande är värd för djupfalsk pornografi. Många förfalskade klipp som laddats upp till dessa plattformar har skapats av hämndlystna ex eller människor som vill smutskasta bilden av sina fiender.
Som ett resultat har regeringar runt om i världen börjat bygga starkare rättsliga ramar som begränsar hur deepfake-teknik kan användas. Dessa måste visserligen informeras av befintliga fall, varför tekniska experter varnade för att vi var oförberedda på dess faror.
Tillbaka i november 2022 gjorde den brittiska regeringen djupfalsk pornografi ett fängelsestraff. Domstolar kan dock endast åtala enskilda i händelse av att de cirkulerar dessa bilder eller videor online.
Vissa amerikanska stater har också lagt liknande lagar på plats. Realistiskt sett kan dock inte dessa policyer skydda någon från att infogas i grafiska videor för en annan individs egen visning bakom stängda dörrar.
Denna tanke kommer för de allra flesta kvinnor att räcka för att framkalla avsky och ilska, om inte en rysning och hudkrypande reaktion.
Som nämnts har deepfakes också använts för att väcka politisk uppståndelse.
Barak Obama har varit avbildas förolämpa Donald Trump. Mark Zuckerberg har varit redo att säga att Facebooks enda syfte är att kontrollera och utnyttja användare av plattformen.
Allt detta blev viralt och avslöjade nivån av intresse, vördnad och i vissa fall knepet med deepfake-teknik.
Används i andra sammanhang kan konsekvenserna bli mycket farligare. Under de första månaderna av Rysslands invasion av Ukraina, videor av president Zelensky dök upp där han sa till ukrainska soldater att kapitulera till ryska soldater.
Lyckligtvis, den verklig President Zelensky tog till sina personliga konton på sociala medier för att bekräfta att videon hade manipulerats av oppositionsstyrkor. Han påminde sitt folk om att kampen för deras land ännu inte var över och uppmanade dem att förbli enade.
Det verkar som om deepfakes, även när de används för att göra en skrattvärdig version av drottning Elizabeth II:s traditionella Jultal, tenderar att uppstå en oroande känsla inom oss.
Kanske vi vet innerst inne att tekniken är mycket mer sannolikt att användas med uppsåt. Så, vad kommer att hända när det blir så avancerat att vi inte kan se skillnad på vad som är fakta och fiktion?
Med gratis-nedladdningsbara appar som Facemega, borde vi vara oroliga för att deepfake-tekniken blir allmänt tillgänglig via våra smartphones?
Jag skulle säga att vi tyvärr borde vara det.
5
energi
0 kommentarer
