Varför är alla AI-assistenter feminiserade?

Förra månaden, Chris Baranuik närmade sig ämnet kvinnohat och AI än en gång.

Efter släppet av "No Time to Die" reflekterade Baranuik över feminiseringen av James Bonds många tekniska assistenter, deras mjuka – till och med sensuella – röster fungerade som ett tillbehör till hans övermaskulina, machokaraktär. 

Med lite grävande visade det sig dock att de feminina röstassistenterna i Bonds bilar inte var exakta. BMW återkallade faktiskt kvinnliga GPS-system från sina bilar i slutet av 1990-talet, efter att manliga tyska förare klagade på att de inte ville ta instruktioner "från en kvinna". 

Åh, vad långt vi har kommit.

Ironin att våra AI-assistenter nu är enhälligt feminiserade gör inte BMW-incidenten mer lättsmält. Om något bevisar det att vi inte alls har kunnat bryta från det inneboende behovet av att könsbestämma saker. Och, mer specifikt, att avstå från våra associationer mellan kvinnor och (brist på) makt. 

När man tittar på BMW-situationen i Siri-sammanhang blir det tydligt att kvinnor har specifika positioner utdragna för dem i det moderna samhället, positioner som nu formar könsnormer i den digitala världen.

Det är helt acceptabelt att skälla order på ett feminiserat AI-system, men att låta "henne" berätta för oss hur man kör bil - en stereotypt "manlig" domän - är helt enkelt inte på. 

Baranuik beskriver den långa och krångliga historien om vårt förhållande till digitala röster. Från flygplansdatorsystem kallade "Sexy Sally", till Londons tunnelbana tillkännagivandesystem som kallas "Sonya" av TFL-personal – namngivna som sådana för att det "får onya nerver" - kvinnohat har underbyggt vårt förhållande till det digitala i decennier. 

FN:s rapport 2019 beskrev hur misshandeln av feminiserad AI både uppmuntrar och återspeglar farliga verkliga attityder till kvinnor. 

"Digitala röstassistenters underdånighet blir särskilt oroande när dessa maskiner - antropomorfiserades som kvinnliga av teknikföretag" (som för övrigt ofta är bemannade av överväldigande manliga ingenjörsteam) "ge avvisande, svaga och ursäktande svar på verbala sexuella trakasserier".

De här trakasserierna är inte heller ovanliga. En skribent för Microsofts "Cortana"-assistent noterades 2019 att "en stor del av volymen av tidiga förfrågningar" undersöker assistentens sexliv". 

Ione Gamble, grundare av Polyester Zine, avplockade feminiseringen av AI i sin senaste podcast 'The Sleepover Club". 

Med hänvisning till filmen "Her", där Joaquin Phoenix karaktär Theodore blir kär i sin AI-assistent Samantha, sa Gamble "det är intressant att internet är uppbyggt under den manliga blick, med kvinnor som önskvärda objekt", "om en kvinna är bara i en låda och kommer att göra vad du än säger, det är lite läskigt, eller hur?'.

"Som feminister har vi förmågan att tänka på internet som någon form av utopi", fortsatte Ione. "Och kanske för några av oss i mindre samhällen var det utopi. Men egentligen har det alltid stått emot oss.

Medan våra AI-interaktioner förblir öppet könsbestämda, har Salomé Gómez-Upegui föreslagit att queering av våra enheter kan hjälpa till att ta bort sexistiska stereotyper. 

Upegui citerar "Q", introducerad som världarna första "könslösa AI-röst" en Smithsonian FUTURES-festivalen 2021, som en vändpunkt för kvinnohat i den digitala världen. 

Medan teknikjättar som Google och Apple har svarat på tillbakadraganden genom att lägga till mansröster till sina AI-listor, förblir Siri och Google Assistant kvinnor som standard. Dessutom kommer det att krävas mer än en inställningsändring för att riva upp de kvinnofientliga könsideal som är inbäddade i våra tekniska system. 

Yolanda Strenge's, docent i mänskligt centrerad datoranvändning vid Monash University, hävdar att att ta bort kön från AI inte är svaret, eftersom "detta förenklar sätten på vilka dessa enheter behandlar kön, som inte bara könsbestäms av rösten, utan av typerna av saker de säger, deras personligheter, deras form och deras syfte". 

Istället, hävdar hon, bör vi överväga att queera den "smarta frun" - som hon dubbar kvinnliga AI-assistenter. På så sätt kan våra digitala system äntligen börja existera i trots, snarare än i frånvaro, av könsstereotyper.