Menu Menu

Perché tutti gli assistenti AI sono femminilizzati?

Ti sei mai chiesto perché Siri, Alexa e l'Assistente Google rispondono tutti al nostro invito con toni dolci e dolci? Il genere femminile della tecnologia di intelligenza artificiale è pervasivo e in gran parte indiscusso, ma impone stereotipi dannosi?

In modo piuttosto sconcertante, gli assistenti di intelligenza artificiale sono ora una presenza onnipotente nella vita quotidiana.

Indipendentemente dal fatto che li usi per aggiornamenti meteorologici, curiosità o rapide equazioni matematiche (colpevole), la maggior parte di noi interagisce con l'IA regolarmente. Tanto che spesso non ci rendiamo conto di quanto inquadra le nostre vite. 

Nonostante tutte le loro battute e le infinite conoscenze, gli assistenti di intelligenza artificiale hanno un'altra cosa fondamentale, anche se meno riconosciuta, in comune: sono tutte donne. Almeno per impostazione predefinita. 

Siri, Alexa e l'Assistente Google rispondono a ogni nostro cenno e chiamata con toni delicati, come fidanzate digitali pronte a servirci. Chiamano il loro nome e arrivano di corsa, mai scalfiti dalle nostre infinite richieste di informazioni. Quando la metti così, è piuttosto inquietante.

Di nuovo in 2019, il argomenta l'ONU che il gendering della tecnologia di intelligenza artificiale ha radicato pregiudizi di genere dannosi. Da allora non è cambiato molto, ma i dibattiti sulla questione hanno iniziato a riaffiorare. 

 

Il mese scorso, Chris Baranuik ha affrontato ancora una volta il tema della misoginia e dell'IA.

Dopo l'uscita di "No Time to Die", Baranuik ha riflettuto sulla femminilizzazione dei numerosi assistenti tecnologici di James Bond, le loro voci morbide, persino sensuali, che fungono da accessorio al suo personaggio maschilista e macho. 

Con un po' di ricerche, tuttavia, si è scoperto che le assistenti vocali femminili nelle auto di Bond non erano accurate. La BMW ha effettivamente richiamato i sistemi GPS con voce femminile dalle sue auto alla fine degli anni '1990, dopo che i conducenti tedeschi maschi si sono lamentati di non voler prendere istruzioni "da una donna". 

Oh, quanto siamo arrivati.

L'ironia del fatto che i nostri assistenti di intelligenza artificiale siano ora unanimemente femminilizzati non rende l'incidente BMW più digeribile. Semmai, dimostra che non siamo stati affatto in grado di rompere con il bisogno intrinseco delle cose di genere. E, più specificamente, abbandonare le nostre associazioni tra donne e (mancanza di) potere. 

Quando si guarda alla situazione della BMW nel contesto di Siri, diventa chiaro che le donne hanno posizioni specifiche per loro nella società moderna, posizioni che ora stanno plasmando le norme di genere nel mondo digitale.

È perfettamente accettabile abbaiare ordini a un sistema di intelligenza artificiale femminilizzato, ma avere "lei" che ci dice come guidare un'auto - un dominio stereotipicamente "maschile" - semplicemente non è attivo. 

Baranuik delinea la lunga e tortuosa storia del nostro rapporto con le voci digitali. Dai sistemi informatici degli aerei soprannominati "Sexy Sally", al sistema di annunci della metropolitana di Londra chiamato "Sonya" dai membri dello staff della TFL - chiamato così perché "fa innervosire i nervi" - la misoginia ha sostenuto il nostro rapporto con il digitale per decenni. 


Il rapporto delle Nazioni Unite del 2019 ha delineato come il maltrattamento dell'IA femminilizzata incoraggi e rifletta atteggiamenti pericolosi nei confronti delle donne nella vita reale. 

"La sottomissione degli assistenti vocali digitali diventa particolarmente preoccupante quando queste macchine - antropomorfizzate come donne dalle società tecnologiche" (che, tra l'altro, sono spesso composte da personale in maggioranza squadre di ingegneri maschili) "dare risposte devianti, poco brillanti e di scusa alle molestie sessuali verbali".

Anche questa molestia non è rara. Uno scrittore per l'assistente "Cortana" di Microsoft notato in 2019 che "una buona parte del volume delle prime indagini" sonda la vita sessuale dell'assistente". 

Ione Gamble, fondatrice di Polyester Zine, ha svelato la femminilità dell'IA nel suo ultimo podcast 'Il club del pigiama party'. 

Facendo riferimento al film "Her", in cui il personaggio di Joaquin Phoenix, Theodore, si innamora della sua assistente di intelligenza artificiale Samantha, Gamble ha affermato che "è interessante che Internet sia impostato sotto lo sguardo maschile, con le donne come oggetti desiderabili", "se una donna è solo in una scatola e farà quello che dici, è un po' inquietante, no?'.

"Come femministe abbiamo la capacità di pensare a Internet come a una sorta di utopia", ha continuato Ione. 'E forse per alcuni di noi nelle comunità più piccole è stata un'utopia. Ma in realtà, è sempre stato contro di noi'.


Sebbene le nostre interazioni con l'IA rimangano apertamente di genere, Salomé Gómez-Upegui ha suggerito che il queering dei nostri dispositivi potrebbe aiutare a sfatare gli stereotipi sessisti. 

Upegui cita "Q", presentato come i mondi prima "voce AI senza genere" al festival Smithsonian FUTURES nel 2021, come punto di svolta per la misoginia nel mondo digitale. 

Mentre i giganti della tecnologia come Google e Apple hanno risposto al respingimento aggiungendo voci maschili ai loro elenchi di intelligenza artificiale, Siri e Google Assistant rimangono donne per impostazione predefinita. Inoltre, ci vorrà più di un cambio di impostazione per sradicare gli ideali di genere misogini incorporati nei nostri sistemi tecnologici. 

Yolanda Strenge, professore associato di informatica incentrata sull'uomo alla Monash University, sostiene che rimuovere il genere dall'IA non è la risposta, poiché "questo semplifica eccessivamente i modi in cui questi dispositivi trattano il genere, che non sono solo di genere dalla voce, ma dai tipi delle cose che dicono, le loro personalità, la loro forma e il loro scopo'. 

Invece, sostiene, dovremmo prendere in considerazione l'idea di prendere in giro la "moglie intelligente", come lei chiama le assistenti IA donne. In questo modo, i nostri sistemi digitali potrebbero finalmente iniziare a esistere sfidando, piuttosto che in assenza, gli stereotipi di genere.

Accessibilità