Stänga
Sök
Meny Meny

Royals fotouppror belyser utmaningen att kräsna på falskt innehåll

Kredit: princeandprincessofwales, Instagram
By
London, Storbritannien
0 kommentarer
0 kommentarer

Eftersom artificiell intelligens gör det allt svårare att skilja mellan verkliga och falska bilder, blir människor utan tvekan mindre förtroendefulla för media som de presenteras för. Kan vi kväva denna växande skepsis i sin linda?

Samhällets tröskel för vad som kvalificeras som "uncanny valley" år 2024 blir mer diskutabel för varje månad. Allmänhetens förtroende håller på att avta.

Tack vare artificiell intelligens och dess förmåga att skapa ofelbart realistiska skildringar av verkliga foton och video, är människor tydligt mer misstänksamma mot media de presenteras för och oavsett om de är helt autentiska eller inte.

Om förslaget att algoritmer skulle skapa massförvirring och hysteri var tidigare övervägt "storm i en tekopp", det pågående fallet kring Catherine Middleton pekar på motsatsen.

Om du inte redan visste, prinsessan av Wales har lagt upp ett familjefoto till Instagram på mors dag. Även om det verkade ofarligt för blotta ögat, undersökte folk fotot rättsmedicinskt och tog flera exempel på förmodad digital manipulation.

Med tanke på freneside sociala medier spekulationer hade redan rasat om Kates brist på offentliga framträdanden under månaderna fram till inlägget – med #WhereisKate trendigt i flera dagar – folk drog snabbt några vilda slutsatser.

Efter rapporter i december 2023 som Kate hade framgångsrikt genomgått en bukoperation och befann sig i en period av återhämtning spred sig ogrundade konspirationer om kungens fysiska och psykiska välbefinnande. Kates farbror Gary Goldsmith förhördes till och med i ämnet förra veckan av Ekin Su i Kändis storebror hus.

Jag hörde personligen en minnesvärd diskussion där någon påstod att Kate hade försvunnit för att få BBL-operation (brasiliansk rumplyft). Svar på ett vykort för varför det skulle göra det nödvändigt att redigera en del av hennes dotters ärm i ett familjefoto.

Som en del av allmänna policyer för att förhindra "manipulerad media" från att cirkulera, bildbyråer inklusive Reuters, Associated Press och Getty snabbt tog tillbaka fotot från sina respektive lagerbibliotek. Som du kan föreställa dig, stoppade detta inte precis konspirationerna.

Under dagarna efter inlägget har Kate emellertid öppet klargjort att hon som amatörfotograf försökte korrigera familjeporträttet med hjälp av digital programvara. Ingen användning av AI-genereringsverktyg kan hittas heller, trots ansträngningar från flera deepfake-experter.

"Som många amatörfotografer experimenterar jag ibland med redigering", skrev prinsessan. "Jag ville uttrycka min ursäkt för all förvirring som familjebilden vi delade igår orsakade." Hon var offentligt upptäckt samma måndag (11 mars).

https://youtu.be/dPOjBc6g29Q

Medan en del av britterna plikttroget försvarar Kate och hennes rätt att göra vad miljontals andra gör dagligen, särskilt på Instagram, har bilden oavsiktligt visat hur skadlig manipulerad media kan vara när det gäller att minska allmänhetens förtroende.

Detta är en viktig punkt, eftersom 2024 har utpekats som "supervalår' med hälften av världen som går till valurnorna. När AI exploderar i sin mest sofistikerade form över foto, video och ljud, är potentialen för att propagandan ska spridas enorm.

Medieinstitutioner sägs vara på röd beredskap för att minimera spridningen genom officiella nätverk, men det nyligen gjorda misstaget från bildbyråer tyder på att nuvarande kontrollskydd kanske inte är tillräckliga.

Ändå är det svårt att skylla på någons dörr. Den oupphörliga volymen och hastigheten med vilken AI-genererat innehåll dyker upp online är nästan omöjligt att bevaka.

Högprofilerade förseelser, som 2022 deepfake som visade Ukrainas president Volodymyr Zelensky kapitulera på nationell TV, eller den nyare spridningen av explicita pornografiska bilder med hjälp av Taylor Swifts likhet har påskyndat ansträngningarna för tvådelade reformer och skyddsåtgärder, men vi vinner inte striden ännu.

https://youtu.be/BRIjBHimzyM

Vid en teknisk konferens i London denna vecka klargjorde den brittiska tekniksekreteraren Michelle Donelan att försök att förhindra AI deepfakes har "ingen teknisk lösning som är svaret på allt."

En anmärkningsvärd branschinsats för att mildra skändlig användning av AI, kallad Koalition för innehållets ursprung och äkthet, inkluderar Adobe, BBC, Microsoft och Google.

Detta konsortium utvecklar standarder för att identifiera desinformation, medan alla Meta-plattformar har börjat beteckna AI-genererade foton och videor. Google testar också ett verktyg som kan flagga digitalt skapade eller ändrade bilder gjorda av sina egna verktyg.

Även om dessa initiativ utan tvekan kommer att förhindra framtida försök att vilseleda eller orsaka skada, kan man hävda att den värsta skadan redan är gjord. Som standard förefaller människor märkbart mer ovilliga att acceptera media till nominellt värde på grund av rädsla för att bli lurade av tvetydig teknik.

Vi har gott om tid för de ofarliga memes som för närvarande cirkulerar på Twitter – och herregud, finns det några god ettor – men onlinereaktionen på att bilden först föll var verkligen oroande. Masshysteri är det enda sättet det kan beskrivas på.

När man ser till den närmaste framtiden, när AI-bedrifterna blir svårare att skilja från verkligheten, är människor avsedda att bli mer på spetsen och bevakade vad de väljer att tro. Låter inte som ett hälsosamt sätt att leva, eller hur?

Teknisk redaktör London, Storbritannien

Jag heter Jamie (han/han), biträdande redaktör och senior skribent på Thred. Att hänga med i uppdateringar av sociala medier och revolutionerande teknik är min starka sida, men när jag är borta från mitt tangentbord kommer du förmodligen att hitta mig omsluten av en stor Tango-is-explosion vid den senaste mediokra skräckfilmen. Följ mig på Twitter, LinkedIn och släpp mig några idéer / feedback via e-postadress.

Populära

Håll dig uppdaterad med thred genom att registrera dig för vårt planet-positiva nyhetsbrev!

Mer från thred.

Microsoft förseglar företagens rekordköp av grön energi för AI
Kredit: Thred
Teknologi

Microsoft förseglar företagens rekordköp av grön energi för AI

Åtta gånger större än det tidigare rekordet har Microsoft precis köpt den mest förnybara energin i historien för en enda företagsenhet i en affär. Detta kommer att säkerställa att dess koldioxidnegativa planer inte spåras ur av uppskalning av AI-projekt. Det finns några konstanter i livet: döden, skatter och att Microsoft kastar sig runt genom att göra rekordstora finansiella förvärv. Det senaste är åtminstone positivt för planeten på detta...

By London, Storbritannien
Indieakten "Washed Out" släpper den första OpenAI Sora-musikvideon
Kredit: OpenAI
Teknologi

Indieakten "Washed Out" släpper den första OpenAI Sora-musikvideon

En ny låt som heter 'The Hardest Part' av artisten Washed Out skapades helt med OpenAI:s Sora, som konverterar textmeddelanden till realistisk video. Den första i sitt slag, den är både imponerande och skrämmande, beroende på var du står. Det verkar som att vi varje vecka skriver om AI. Att använda textmeddelanden för att skapa automatiskt genererat innehåll har exploderat i popularitet under de senaste två åren. Där det en gång verkade som...

By London, Storbritannien
Världens första skönhetstävling lanserad för AI-influencers
Kredit: Thred
Social hållbarhet

Världens första skönhetstävling lanserad för AI-influencers

I ett försök att ytterligare blanda nya AI-trender med verkligheten har en ny skönhetstävling tillkännagivits för AI-influenser. Trots evenemangsskaparnas upphetsning har kritiker varnat för att vi bör närma oss med försiktighet. Tänkte att världen av AI-influenser inte kunde bli konstigare? Hmm.. tänk om. Fanvue, en plattform som hjälper digitala kreatörer att öka engagemanget med hjälp av AI-meddelanden, röstanteckningar och analyser, har just meddelat världens första...

By London, Storbritannien
Clover Hogan kritiserades för att säga att tekniken inte kommer att lösa klimatkrisen
Kredit: Unsplash
Teknologi

Clover Hogan kritiserades för att säga att tekniken inte kommer att lösa klimatkrisen

I går, i en serie tweets, stämplade miljöaktivisten Gen Z tron ​​på "blanka, silverkula lösningar" på krisen som den mest lömska formen av klimatförnekelse. Detta har mötts av intensiva motreaktioner från inte bara användare utan från Teslas vd och X själv, Elon Musk. I går, Gen Z miljöaktivisten Clover Hogan, känd för sin ideella utbildningsrörelse Force of Nature, ...

By London, Storbritannien
Tillgänglighet