Ettersom det amerikanske presidentvalget i 2020 venter, må sosiale medier forberede seg på det uunngåelige angrepet av politisk diskurs, og å oppdage ærekrenkende innhold er høyt på agendaen.
Hvis du holder deg oppdatert med Thred, så er dette definitivt ikke vil være første gang du har hørt om deepfakes. Denne AI -ansiktsmanipuleringsteknologien begynte med uskyldige memes av Nicholas Cage for flere år siden, men har sakte utviklet seg til et seriøst elektronisk våpen som kan true integriteten til moderne demokrati.
Det ble opprinnelig brukt til å fylle ut subreddits med morsomme kjendisimitasjoner. Raskt begynte teknologien å bli implementert i presidenttaler, kampanjemøter og politisk propaganda som ble viral på nett. Plutselig kan deepfakes brukes til å spre feilinformasjon på global skala, og vise virkelige tall som kunngjør ting de aldri egentlig sagt. Pålitelig videobevis ble fortiden til - og sosiale medier har måttet følge med.
Enten vi snakker nyhetsapper på telefoner eller mer skjult programvare, blir deepfakes lettere å lage og vanskeligere å oppdage. Nettsteder som mest sannsynlig vil inneholde slikt innhold, som Facebook, har nå et ansvar for å følge med på nye fremskritt innen dype forfalskninger for å sikre at de ikke holder seg online.
Etter kjølvannet av to høyprofilerte saker på plattformen - utsmøring av demokratisk høyttaler Nancy Pelosi og Mr. Zuckerberg seg selv - Facebook oppfordret brukerne i slutten av 2019 til å styrke sin dype falske gjenkjenningsinnsats via en offentlig "utfordring".
De som deltok fikk 100,000 3000 korte klipp med opptak fra XNUMX skuespillere ansatt av Facebook. Fra denne puljen fikk deltakerne i oppgave å identifisere hvilke prøver Facebook hadde manipulert med sine egne skreddersydde automatiske deteksjonsalgoritmer.
Nesten et år etter har vi endelig resultater fra disse testene på rekord. 2000 deltakere testet algoritmene sine (søkere var for det meste fra teknologibransjen eller hadde akademisk bakgrunn), og den mest vellykkede prøven sikret en imponerende deteksjonsrate på 82%. Med tanke på mangfoldet av digitale bedrifter som går inn i dype forfalskninger i dag; uklarheter, endringer i bildefrekvens, overlegg, bare for å nevne noen ... du må si at dette er en virkelig lovende avkastning.
Vinneren av utfordringen, Selim Seferbekov, ble tildelt 500,000 XNUMX dollar og fikk deretter i oppgave å sette sin vinnende algoritme mot et 'black box' datasett fylt med de mest intrikate formene for dype falske bedrag som AI -eksperter kjenner. Når poengsummen var fullført og kombinert med de tidligere resultatene, kom et samlet gjennomsnitt ut på bare 65%.
Bør disse resultatene være en bekymring for Facebook?
Denne studien belyser hvor vanskelig det virkelig er å oppdage en deepfake i naturen. Tross alt betyr den adaptive naturen til AI at så snart eksisterende utnyttelser stenges, kan nye dukke opp raskt og det er tilbake til rute ett. Det er et frustrerende, uendelig spill av katt og mus.
Imidlertid er Facebook -forskere sikre på at dataene som samles inn fra denne testen, vil vise seg å være uvurderlige for å forsterke deres egen forebyggende programvare som for tiden er under arbeid. Facebook planlegger også å frigjøre kildekoden for de mest vellykkede algoritmene - inkludert Seferbekovs - for å hjelpe andre forskere med å oppdage falske videoer før de går viralt.
Foreløpig spiller Facebook det smart og holder sin egen deteksjonsprogramvare hemmelig for å forhindre at noen form for reverse engineering dukker opp i 2020. Teknologisjef Mike Schroepfer uttaler at for øyeblikket er deepfakes 'ikke et stort problem' med Facebook, men at han og teamet hans jobber utrettelig for å unngå å bli 'tatt flatfoten' i oppbyggingen til det amerikanske valget i november.
Slik det ser ut, gjenstår det å se om vi virkelig er rustet til å håndtere den neste bølgen av dype forfalskninger. Men du kan garantere en ting, det is kommer.
Jeg er Jamie (han/han), nestleder og seniorskribent i Thred. Å følge med på sosiale medier-oppdateringer og revolusjonerende teknologi er min sterke side, men når jeg er borte fra tastaturet, vil du sannsynligvis finne meg viklet rundt en stor Tango-iseksplosjon på den siste middelmådige skrekkfilmen. Følg meg på Twitter, Linkedin og send meg noen ideer / tilbakemeldinger via e-post.
Åtte ganger større enn den forrige rekorden, har Microsoft nettopp kjøpt den mest fornybare energien i historien for en enkelt bedrift i én avtale. Dette vil sikre at de karbonnegative planene ikke spores av av oppskalere AI-prosjekter. Det er noen få konstanter i livet: død, skatter og Microsoft som kaster seg rundt ved å gjøre rekordstore økonomiske oppkjøp. Det siste er i det minste positivt for planeten på dette...
En ny sang kalt 'The Hardest Part' av artisten Washed Out ble laget utelukkende ved hjelp av OpenAIs Sora, som konverterer tekstmeldinger til realistisk video. Den første i sitt slag, den er både imponerende og skremmende, avhengig av hvor du står. Det virker som om vi skriver om AI hver uke. Å bruke tekstmeldinger for å lage automatisk generert innhold har eksplodert i popularitet de siste to årene. Hvor det en gang virket som...
I et forsøk på å blande nye AI-trender med virkeligheten ytterligere, har en ny skjønnhetskonkurranse blitt annonsert for AI-influensere. Til tross for arrangementsskapernes begeistring, har kritikere advart om at vi bør nærme oss med forsiktighet. Trodde verden av AI-influentere ikke kunne bli rarere? Hmm.. tenk om igjen.
Fanvue, en plattform som hjelper digitale skapere å øke engasjementet ved å bruke AI-meldinger, talenotater og analyser, har nettopp annonsert verdens første...
I går, i en serie med tweets, stemplet Gen Z miljøaktivisten troen på "blanke, sølvkuleløsninger" på krisen som den mest lumske formen for klimafornektelse. Dette har blitt møtt med intens tilbakeslag fra ikke bare brukere, men administrerende direktør for Tesla og X selv, Elon Musk. I går, Gen Z miljøaktivist Clover Hogan, kjent for sin non-profit utdanningsbevegelse Naturkraft, ...
Vi bruker informasjonskapsler for å sikre at vi gir deg den beste opplevelsen på nettstedet vårt. Hvis du godtar å bruke dette nettstedet, vil vi anta at du er fornøyd med det! PersonvernerklæringEnig