Hvorfor er alle AI-assistenter feminisert?

Forrige måned, Chris Baranuik nærmet seg temaet kvinnehat og kunstig intelligens igjen.

Etter utgivelsen av "No Time to Die", reflekterte Baranuik over feminiseringen av James Bonds mange tekniske assistenter, deres myke – til og med sensuelle – stemmer fungerte som et tilbehør til hans ubermaskuline, macho-karakter. 

Med litt graving viste det seg imidlertid at de feminine stemmeassistentene i Bonds biler ikke var nøyaktige. BMW tilbakekalte faktisk kvinnestemmede GPS-systemer fra sine biler på slutten av 1990-tallet, etter at mannlige tyske sjåfører klaget over at de ikke ønsket å ta instruksjoner "fra en kvinne". 

Å, så langt vi har kommet.

Ironien med at våre AI-assistenter nå er enstemmig feminisert gjør ikke BMW-hendelsen mer fordøyelig. Om noe, beviser det at vi ikke har klart å bryte fra det iboende behovet for å kjønne ting i det hele tatt. Og, mer spesifikt, å gi slipp på våre assosiasjoner mellom kvinner og (mangel på) makt. 

Når man ser på BMW-situasjonen i Siri-sammenheng, blir det klart at kvinner har spesifikke posisjoner trukket ut for seg i det moderne samfunnet, posisjoner som nå former kjønnsnormer i den digitale verden.

Det er helt akseptabelt å bjeffe ordre på et feminisert AI-system, men å la «henne» fortelle oss hvordan vi skal kjøre bil – et stereotypt «mannlig» domene – er bare ikke på. 

Baranuik skisserer den lange og kronglete historien til vårt forhold til digitale stemmer. Fra flydatasystemer kalt 'Sexy Sally', til London Underground kunngjøringssystem kalt 'Sonya' av TFL-ansatte – kalt som sådan fordi det 'får onya nerver' – kvinnehat har underbygget vårt forhold til det digitale i flere tiår. 

FNs 2019-rapport skisserte hvordan mishandlingen av feminisert AI både oppmuntrer og gjenspeiler farlige virkelige holdninger til kvinner. 

"Digitale stemmeassistenters underdanighet blir spesielt bekymrende når disse maskinene – menneskeskapt som kvinnelige av teknologiselskaper" (som for øvrig ofte er bemannet av overveldende mannlige ingeniørteam) "gi avvisende, mangelfulle og unnskyldende svar på verbal seksuell trakassering".

Denne trakasseringen er heller ikke uvanlig. En skribent for Microsofts Cortana-assistent bemerket i 2019 at "en god del av volumet av tidlige henvendelser" undersøker assistentens sexliv. 

Ione Gamble, grunnlegger av Polyester Zine, tok opp feminiseringen av AI i sin siste podcast 'The Sleepover Club'. 

Med henvisning til filmen 'Her', der Joaquin Phoenixs karakter Theodore forelsker seg i sin AI-assistent Samantha, uttalte Gamble 'det er interessant at internett er satt opp under det mannlige blikket, med kvinner som ønskelige objekter', 'hvis en kvinne er bare i en boks og vil gjøre hva du sier, det er litt skummelt, ikke sant?'.

«Som feminister har vi kapasitet til å tenke på internett som en slags utopi» fortsatte Ione. «Og kanskje for noen av oss i mindre samfunn var det utopi. Men egentlig har det alltid vært stablet mot oss.

Mens AI-interaksjonene våre forblir åpenlyst kjønnsdelte, har Salomé Gómez-Upegui antydet at queering av enhetene våre kan bidra til å fjerne sexistiske stereotyper. 

Upegui siterer 'Q', introdusert som verdener første 'kjønnsløse AI-stemme' en Smithsonian FUTURES-festivalen i 2021, som et vendepunkt for misogyni i den digitale verden. 

Mens teknologigiganter som Google og Apple har svart på tilbakeslag ved å legge til mannlige stemmer til AI-listene sine, forblir Siri og Google Assistant kvinner som standard. Dessuten vil det kreve mer enn en innstillingsendring for å fjerne de kvinnefiendtlige kjønnsidealene som er innebygd i våre teknologiske systemer. 

Yolanda Strenge's, førsteamanuensis i menneskesentrert databehandling ved Monash University, argumenterer for at fjerning av kjønn fra AI ikke er svaret, ettersom "dette forenkler måtene disse enhetene behandler kjønn på, som ikke bare er kjønnsbestemt etter stemme, men av typene av ting de sier, deres personligheter, deres form og deres formål'. 

I stedet, hevder hun, bør vi vurdere å være queere den "smarte konen" - som hun kaller kvinnelige AI-assistenter. På denne måten kan de digitale systemene våre endelig begynne å eksistere på tross av, snarere enn i fravær, av kjønnsstereotypier.