Ettersom dyp falsk teknologi blir stadig vanskeligere å suss ut på nettet, fra AI-stemmer til kjendis-lookalikes, har et nytt verktøy tillatt forskere å gjenskape ansikter gjennom stemmeopptak.
Tiden med dype forfalskninger og kunstige personas kommer stadig snikende på oss, ett teknologisk gjennombrudd om gangen.
Selv om du kanskje har sett noen uhyggelige TikTok-kontoer lage dypt falske videoer av kjendiser som Tom Cruise, og kjendis AI-stemmegeneratorer som f.eks. Uberduck, et nytt forskningsverktøy utviklet ved MIT gjenskaper ansiktet til en ekte person som ikke bruker annet enn stemmen deres.
Resultatene så langt er ganske blandede - noen får etnisitet, kjønn og ansiktsstrukturer blandet sammen - men det har vært nøyaktige prøver som viser lovende potensiell bruk i fremtiden.
Algoritmen kalles Speech2Face og var en del av en forskningsartikkel som først ble publisert i 2019. En demo er tilgjengelig på nettet hvis du er nysgjerrig på å sjekk det ut selv.
Ansikter ser ut til å være mer nøyaktig gjenskapt med lengre lydklipp, noe som ikke burde komme så mye som en overraskelse. Koden ble laget ved hjelp av millioner av videoer fra YouTube, med programvaren modellert ved å lære "audio-visuelle og stemme-ansikts-korrelasjoner" fra et bredt spekter av prøver.
Det er fortsatt et arbeid som pågår, selvfølgelig, så det er ikke helt på punkt hver gang. Potensialet for et system som registrerer stemmer og identifiserer enkeltpersoner raskt kan være stort, spesielt innenfor rettssystemer og overvåkingsselskaper.
Forskere bak teknologien er overbevist om at den kun er for vitenskapelige formål, men vi vet allerede at større selskaper – som Facebook, Google, Amazon og en haug flere – allerede er veldig interessert i avanserte Metaverse-programmer, Web 3.0 og innsamling av brukerdata . En evne til å identifisere noen raskt som dette kan være ødeleggende i feil hender.
DIY-fotografering peker også på at programvare som dette kan sette identiteten til influencere i fare, spesielt de som holder ansiktene skjult. TikTokers eller YouTubere som gjør et bevisst forsøk på å maskere identiteten sin, kan bli oppdaget gjennom lydbiter av stemmene deres, fra noen klipp de noen gang har lagt ut.
Likevel er det sannsynligvis langt unna i fremtiden, siden algoritmen er privat for øyeblikket. Det ser ut til at vi må akseptere en fremtid der AI og dypfalsk teknologi visker ut grensen mellom ekte og kunstig, med feilinformasjon som sannsynligvis vil forbli utbredt og vanskeligere å eliminere.
Å oppdage identiteter gjennom korte stemmeklipp er ganske enkelt nok et skritt på en uunngåelig vei. La oss bare håpe at ting ikke kommer ut av kontroll.
Jeg er Charlie (han/han), sjefredaktøren i Thred. Jeg studerte engelsk ved University of Birmingham, og som musikk- og spillentusiast er jeg en nerd for popkultur. Du kan finne meg som kuraterer spillelister, designer artikkeloverskrifter og nipper til cider på en torsdag. Følg meg på Twitter, Linkedin og send meg noen ideer / tilbakemeldinger via emalje.
Har du noen gang hørt teorien om at månen ble skapt av jordens kollisjon med en annen planet for 4.5 milliarder år siden? En ny studie har nettopp gitt den troen sterkere troverdighet. Den nøyaktige opprinnelsen til månen vår forblir noe unnvikende, men en allment akseptert teori har nettopp fått nok et betydelig løft. Dessverre er det ingen ost involvert. Den aktuelle hypotesen er offisielt referert til som 'Theia Impact Theory' og i daglig tale kalt ...
Åtte ganger større enn den forrige rekorden, har Microsoft nettopp kjøpt den mest fornybare energien i historien for en enkelt bedrift i én avtale. Dette vil sikre at de karbonnegative planene ikke spores av av oppskalere AI-prosjekter. Det er noen få konstanter i livet: død, skatter og Microsoft som kaster seg rundt ved å gjøre rekordstore økonomiske oppkjøp. Det siste er i det minste positivt for planeten på dette...
En ny sang kalt 'The Hardest Part' av artisten Washed Out ble laget utelukkende ved hjelp av OpenAIs Sora, som konverterer tekstmeldinger til realistisk video. Den første i sitt slag, den er både imponerende og skremmende, avhengig av hvor du står. Det virker som om vi skriver om AI hver uke. Å bruke tekstmeldinger for å lage automatisk generert innhold har eksplodert i popularitet de siste to årene. Hvor det en gang virket som...
I et forsøk på å blande nye AI-trender med virkeligheten ytterligere, har en ny skjønnhetskonkurranse blitt annonsert for AI-influensere. Til tross for arrangementsskapernes begeistring, har kritikere advart om at vi bør nærme oss med forsiktighet. Trodde verden av AI-influentere ikke kunne bli rarere? Hmm.. tenk om igjen.
Fanvue, en plattform som hjelper digitale skapere å øke engasjementet ved å bruke AI-meldinger, talenotater og analyser, har nettopp annonsert verdens første...
Vi bruker informasjonskapsler for å sikre at vi gir deg den beste opplevelsen på nettstedet vårt. Hvis du godtar å bruke dette nettstedet, vil vi anta at du er fornøyd med det! PersonvernerklæringEnig