Når du ser på videoen av en dyp falsk Emma Watson ovenfor, kan du se hvor realistisk teknologien er.
Seriøst, jeg dro på den kritikerroste ABBA holografiske konserten i London nylig, og de naturtro bevegelsene i det klippet er slående like i kvalitet.
Men det er vanskelig å gå glipp av den suggestive karakteren til videoen, som perfekt illustrerer brukernes mørke intensjoner – og kanskje programmererne selv. Å gjøre ting mer problematisk er at dette klippet brukes som reklame.
Retweeting av skjermopptaket av annonsen, sa en Twitter-bruker: 'Dette er bare en ny måte å trakassere kvinner på. Det tar bort din kroppslige autonomi og tvinger deg til seksuelt materiale uten samtykke, som deretter kan brukes til å ydmyke og diskriminere deg. For ikke å snakke om de psykologiske effektene.'
Å oppmuntre til bruk av deepfake AI til dette formålet er åpenbart skummelt. Det burde imidlertid ikke være overraskende, siden den mest kjente bruken av dyp falsk teknologi så langt enten har vært pornografisk eller knyttet til politikk.
I 2019 – bare to år etter at teknologien ble opprettet – ble det rapportert at minst 96 prosent av alle dypfalske videoer funnet på nettet var pornografiske, ifølge forskning utført av Deeptrace.
Utviklingen av disse videoene er en rekke nettsteder som utelukkende er vert for dypfalsk pornografi. Mange forfalskede klipp lastet opp til disse plattformene er laget av hevngjerrige ekser eller folk som ønsker å sverte bildet av fiendene deres.
Som et resultat har regjeringer rundt om i verden begynt å bygge sterkere juridiske rammer som begrenser måten deepfake-teknologi kan brukes på. Disse måtte riktignok informeres av eksisterende saker, og det er grunnen til at tekniske eksperter advarte om at vi ikke var forberedt på farene.
Tilbake i november 2022 laget den britiske regjeringen dypfalsk pornografi en fengselsstraff straffbar handling. Imidlertid kan domstoler bare straffeforfølge enkeltpersoner i tilfelle de sirkulerer disse bildene eller videoene på nettet.
Noen amerikanske stater har også satt lignende lover på plass. Realistisk sett kan imidlertid ikke disse retningslinjene beskytte noen mot å bli satt inn i grafiske videoer for en annen persons egen visning bak lukkede dører.
Denne tanken vil for de aller fleste kvinner være nok til å vekke avsky og sinne, om ikke en gysing og hudkrypende reaksjon.
Deepfakes har som nevnt også blitt brukt for å egge til politisk bråk.
Barak Obama har vært avbildet fornærmet Donald Trump. Mark Zuckerberg har vært klar å si at Facebooks eneste formål er å kontrollere og utnytte brukere av plattformen.
Alt dette gikk viralt, og avslørte nivået av interesse, ærefrykt og i noen tilfeller lureri med deepfake-teknologi.
Brukt i andre sammenhenger kan konsekvensene bli langt farligere. I løpet av de første månedene av Russlands invasjon av Ukraina, videoer av president Zelensky dukket opp der han ba ukrainske soldater overgi seg til russiske soldater.
Heldigvis, den ekte President Zelensky tok til sine personlige sosiale medier-kontoer for å bekrefte at videoen hadde blitt behandlet av opposisjonsstyrker. Han minnet folket sitt om at kampen for landet deres ennå ikke var over og oppfordret dem til å forbli samlet.
Det virker som om deepfakes, selv når de brukes til å lage en latterverdig versjon av dronning Elizabeth IIs tradisjonelle Juletale, har en tendens til å oppstå en foruroligende følelse i oss.
Kanskje vi Vet innerst inne at teknologien er langt mer sannsynlig å bli brukt med ondsinnet hensikt. Så, hva vil skje når det blir så avansert at vi ikke kan se forskjell på hva som er fakta og fiksjon?
Med gratis nedlastbare apper som Facemega, bør vi være bekymret for at deepfake-teknologi blir allment tilgjengelig gjennom smarttelefonene våre?
Jeg vil si at det burde vi dessverre være.
5
energi
0 kommentarer
