Stänga
Sök
Meny Meny

Explicita Taylor Swift AI-bilder orsakar juridisk panik

Kredit: Wikimedia Commons/Thred
By
London, Storbritannien
0 kommentarer
0 kommentarer

Förra veckan delades explicita bilder av Taylor Swift skapade med AI på Twitter (X), med några inlägg som fick miljontals visningar. Den efterföljande juridiska paniken kan få konsekvenser för användningen av kändisliknelser och AI-bilder i allmänhet.

Taylor Swift blev offer för AI-bildgenerering förra veckan. Explicita, pornografiska bilder skapades utan hennes samtycke och delades över X (formellt Twitter) av tusentals användare.

Inläggen sågs tiotals miljoner gånger innan de togs bort och skurades från plattformen.

Det efterföljande nedfallet har varit snabbt, med X justerade sina censurfilter under helgen för att ta bort allt omnämnande av bilderna. Det är amerikanska politiker efterlyser nya lagar att kriminalisera deepfakes som ett direkt resultat, och Microsoft har åtagit sig att skjuta fler skyddsräcken på sin Designer IP-app för att förhindra framtida incidenter.

Den här senaste utvecklingen inom djupfalsk kontrovers följer många år av oetiskt pornografiskt innehåll på nätet, varav de flesta berövar offren autonomi över deras likhet. Det är ett problem som berör både kändisar och vanliga människor, eftersom AI-verktyg blir mer vanliga och tillgängliga för alla och alla att använda.

Taylors högprofilerade status och hängivna fanbas har hjälpt till att driva denna fråga till förgrunden för aktuella nyheter, och kommer utan tvekan att varna beslutsfattare, sociala medieplattformar och teknikföretag på ett sätt som vi inte har sett förrän nu.

Även om förändringar och strängare lagar borde ha införts för länge sedan, kommer vi sannolikt att se välbehövliga framsteg under de kommande veckorna och månaderna. Förgreningar kan vara omfattande och påverka AI-bildgenerering i allmänhet – inte bara kändisliknelser eller explicit innehåll.

https://www.youtube.com/watch?v=G7ZkhuGpSTk


Hur kan det juridiska nedfallet påverka AI-bildgenereringen i framtiden?

Så, vad specifikt händer lagligt för att bekämpa Taylors djupfalska AI-innehåll?

På tisdagen, en tvåpartisk grupp av amerikanska senatorer införde en proposition som skulle kriminalisera spridningen av sexualiserade bilder utan samtycke som genereras av AI. Detta skulle göra det möjligt för offren att begära en civilrättslig påföljd mot "individer som producerade eller innehade förfalskningen med avsikt att distribuera den".

Dessutom skulle alla som tar emot bilder eller material som vet att de inte skapades med samtycke också påverkas.

Dick Durbin, amerikanska senatens majoritetspiska, och senatorerna Lindsey Graham, Amy Klobuchar och Josh Hawley ligger bakom lagförslaget. Det kallas "Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024", eller "Defiance Act" för korta.

https://www.youtube.com/watch?v=FRjNXeZdRH8

Taylors explicita bilder nådde också Vita huset. Pressekreterare Karine Jean-Pierre sa till ABC News på fredagen att regeringen "var orolig över rapporter om cirkulerande bilder".

Allt detta följer av annan lagförslaget kallat No AI FRAUD Act som infördes den 10 januarith2024

Detta syftar till att skapa ett "federalt, grundläggande skydd mot AI-missbruk", och upprätthålla First Amendment-rättigheterna online. Den lägger särskild tonvikt på en individs rättigheter till sin likhet och röst mot AI-förfalskning. Om lagen antas, skulle No AI FRAUD Act "bekräfta att allas likhet och röst skyddas och ge individer rätten att kontrollera användningen av sina identifierande egenskaper".

Naturligtvis är rättsskydd en sak, faktiskt driva det på en nätövergripande basis är en annan. Det finns också den omtvistade frågan om yttrandefrihet och uttryck – och bestämma var straffet ligger.

Bör förmedlande mjukvaruplattformar som gör AI-bilder möjliga begränsas eller straffas? Vi begränsar till exempel inte Photoshop, trots att det är ett framträdande verktyg för att skapa vilseledande bilder. Var ska AI-företag stå juridiskt här? Det är för närvarande oklart.


Varför ska vi vara oroliga för generering av AI-bilder utan samtycke? 

Det finns massor av problem som kommer med AI-bildgenerering och djupförfalskning utan samtycke, varav de flesta förmodligen är uppenbara.

Det mesta av AI-genererad pornografi är av kvinnor och görs utan försökspersonens samtycke. En 2019 studie fann att 96 % av alla deepfake-videor var explicita, presenterade kvinnor och gjordes utan godkännande. Det är en stor majoritet och indikerar att AI-genererat innehåll är till stor del bottnade i öppet kvinnohat och sexuella trakasserier.

För att uttrycka det tydligt, har rättsliga ramar misslyckats med att hålla jämna steg med AI-innehåll och riskerna med det. Kvinnor är alltmer hotade, oavsett om det är kändisar i toppklassen som Taylor Swift eller anspråkslösa medlemmar av allmänheten. Denna potentiella risk ökar också kontinuerligt, eftersom programvaran blir enklare att använda och mer lättillgänglig.

https://www.youtube.com/watch?v=RzkD_rTEBYs

Vi vet redan att det finns många gemenskaper online, ofta via forum som 4chan, Telegram och Discord, som genererar och cirkulerar pornografiskt innehåll av kända kvinnor utan tillstånd. Det är oreglerat och nästan omöjligt att slå ner helt, oavsett välmenande lagförslag från den amerikanska kongressen.

Allt detta är utan att överväga konsekvenserna av djupt falska bilder och video i våra politiska sfärer, där desinformation sannolikt kommer att bli ännu mer frodig än den redan är. Utan ett korrekt juridiskt ansvar för identitetsstöld på nätet, hur kan vi stoppa någon kändis från att säga eller göra någonting?

Det är svårt nog att få våra morföräldrar att dissekera vad som är verkligt på nätet och vad som inte är det. Nu när AI har exploderat i ljud, video och till och med copywriting är förståelsen av mänskligt innehåll och botinnehåll nästan ett obegripligt minfält. Det sviker kvinnor, urholkar äganderätten över vår egen likhet och skadar i slutändan vår förmåga att kommunicera online.

Taylor Swift kan vara spjutspets för den här frågan för tillfället, men verkligheten är att djupt falskt innehåll och AI-pornografi har cirkulerat på internet under en lång tid, tjatat i förslappade hörn av forum och fått gå okontrollerat. Det är ett enormt, betydande problem, som inte kan lösas med en enda proposition eller motion.

Mer måste göras för att skydda alla, inte bara de ultraberömda.

Chefredaktör London, Storbritannien

Jag är Charlie (han/han), chefredaktören på Thred. Jag studerade engelska vid University of Birmingham och som musik- och spelentusiast är jag en nörd för popkultur. Du kan hitta mig som kurerar spellistor, designar artikelrubrikbilder och smuttar på cider på en torsdag. Följ mig på Twitter, LinkedIn och släpp mig några idéer / feedback via e-mail.

Populära

Håll dig uppdaterad med thred genom att registrera dig för vårt planet-positiva nyhetsbrev!

Mer från thred.

Åsikt – FKA Twigs bevisar att AI kan stärka artister
Upphovsman: Wikimedia Commons
Media

Åsikt – FKA Twigs bevisar att AI kan stärka artister

Sångerskan har föreslagit en AI-version av sig själv för att balansera sin arbetsbelastning. Responsen har varit blandad, men Twigs nickar mot en bemyndigande framtid. FKA Twigs har varit känt för att sudda ut kreativiteten med teknik. Hennes eteriska musik, filmer och dansrutiner – vid sidan av konst- och modesatsningar – har alltid flyttat gränserna och cementerat hennes position inom populärkulturen. Trots att hon nått globala berömmelsesnivåer har Twigs aldrig släppt henne...

By Brighton, UK
Förklara uppkomsten av sömnturism
Kredit: Unsplash
offbeat

Förklara uppkomsten av sömnturism

På väg att bli en av de största trenderna inom wellnessbranschen, avstår fler och fler resenärer från resplaner fullproppade med aktiviteter till förmån för kuddmenyer och en tidig kväll. En semester kan vara många saker; för vissa innebär det utforskning, äventyr och att prova lokala rätter. För andra är det en möjlighet att luta sig tillbaka och koppla av, att inte göra något annat än att sitta vid poolen i en eller två veckor innan...

By London, Storbritannien
Netflixs hemliga AI-användning väcker debatt om mediamanipulation
Kredit: Thred
Media

Netflixs hemliga AI-användning väcker debatt om mediamanipulation

Netflix har blivit utsatt för kritik för att ha inkluderat hemliga AI-bilder i en ny dokumentär om sanna brott. Motreaktionen har utlöst viktiga samtal kring mediamanipulation. Gilla det, frukta det eller avsky det, AI är nu en del av vår vardag. Från utbildning till underhållning, artificiell intelligens kommer bara att fortsätta växa och forma nästan varje aspekt av vår interaktion med media. Men dessa förändringar kräver gränser. Båda AI...

By Brighton, UK
"Bioniskt öga" löser mysteriet om Platons sista viloplats
Kredit: Thred
offbeat

"Bioniskt öga" löser mysteriet om Platons sista viloplats

Den italienska forskaren Graziano Ranocchia kan äntligen ha löst mysteriet med Platons sista viloplats. Ett AI-drivet "bioniskt öga" skannade en 2,000 348 år gammal karboniserad rulle skriven runt XNUMX f.Kr. som pekade ut en specifik plats i Aten. Mysteriet om var en av världens största filosofer vilar kan just ha lösts – av en maskin, ironiskt nog. Begravningen av Platon, utan tvekan den mest vördade av den grekiska filosofins grundläggande tänkare...

By London, Storbritannien
Tillgänglighet