Nytt AI-verktøy gjenskaper ansikter utelukkende gjennom stemmedata

Algoritmen kalles Speech2Face og var en del av en forskningsartikkel som først ble publisert i 2019. En demo er tilgjengelig på nettet hvis du er nysgjerrig på å sjekk det ut selv.

Ansikter ser ut til å være mer nøyaktig gjenskapt med lengre lydklipp, noe som ikke burde komme så mye som en overraskelse. Koden ble laget ved hjelp av millioner av videoer fra YouTube, med programvaren modellert ved å lære "audio-visuelle og stemme-ansikts-korrelasjoner" fra et bredt spekter av prøver.

Det er fortsatt et arbeid som pågår, selvfølgelig, så det er ikke helt på punkt hver gang. Potensialet for et system som registrerer stemmer og identifiserer enkeltpersoner raskt kan være stort, spesielt innenfor rettssystemer og overvåkingsselskaper.

Forskere bak teknologien er overbevist om at den kun er for vitenskapelige formål, men vi vet allerede at større selskaper – som Facebook, Google, Amazon og en haug flere – allerede er veldig interessert i avanserte Metaverse-programmer, Web 3.0 og innsamling av brukerdata . En evne til å identifisere noen raskt som dette kan være ødeleggende i feil hender.

DIY-fotografering peker også på at programvare som dette kan sette identiteten til influencere i fare, spesielt de som holder ansiktene skjult. TikTokers eller YouTubere som gjør et bevisst forsøk på å maskere identiteten sin, kan bli oppdaget gjennom lydbiter av stemmene deres, fra noen klipp de noen gang har lagt ut.

Likevel er det sannsynligvis langt unna i fremtiden, siden algoritmen er privat for øyeblikket. Det ser ut til at vi må akseptere en fremtid der AI og dypfalsk teknologi visker ut grensen mellom ekte og kunstig, med feilinformasjon som sannsynligvis vil forbli utbredt og vanskeligere å eliminere.

Å oppdage identiteter gjennom korte stemmeklipp er ganske enkelt nok et skritt på en uunngåelig vei. La oss bare håpe at ting ikke kommer ut av kontroll.