Pourquoi toutes les assistantes IA sont-elles féminisées ?

Le mois dernier, Chris Baranuik abordé le sujet de la misogynie et de l'IA une fois de plus.

Après la sortie de "No Time to Die", Baranuik a réfléchi à la féminisation des nombreux assistants techniques de James Bond, leurs voix douces, voire sensuelles, servant d'accessoire à son personnage ultra-masculin et macho. 

En creusant un peu, cependant, il s'est avéré que les assistants vocaux féminins dans les voitures de Bond n'étaient pas précis. BMW a en fait rappelé les systèmes GPS à voix féminine de ses voitures à la fin des années 1990, après que des conducteurs allemands masculins se soient plaints de ne pas vouloir recevoir d'instructions "d'une femme". 

Oh, jusqu'où nous sommes allés.

L'ironie que nos assistants IA soient désormais féminisés à l'unanimité ne rend pas l'incident BMW plus digeste. Si quoi que ce soit, cela prouve que nous avons été incapables de rompre avec le besoin inhérent de sexospécifier les choses. Et, plus précisément, de renoncer à nos associations entre les femmes et le (manque de) pouvoir. 

Lorsque vous examinez la situation de BMW dans le contexte de Siri, il devient clair que les femmes ont des positions spécifiques qui leur sont réservées dans la société moderne, des positions qui façonnent désormais les normes de genre dans le monde numérique.

Il est parfaitement acceptable d'aboyer des commandes à un système d'IA féminisé, mais qu'« elle » nous dise comment conduire une voiture – un domaine stéréotypé « masculin » – n'est tout simplement pas d'actualité. 

Baranuik décrit la longue et tortueuse histoire de notre relation avec les voix numériques. Des systèmes informatiques des avions surnommés «Sexy Sally» au système d'annonce du métro de Londres appelé «Sonya» par les membres du personnel de TFL – nommé ainsi parce qu'il «sert onya nerfs» – la misogynie a sous-tendu notre relation au numérique pendant des décennies. 

Le rapport 2019 de l'ONU a décrit comment les mauvais traitements infligés à l'IA féminisée encouragent et reflètent à la fois les attitudes dangereuses de la vie réelle à l'égard des femmes. 

"L'asservissement des assistants vocaux numériques devient particulièrement préoccupant lorsque ces machines - anthropomorphisées en tant que femmes par les entreprises technologiques" (qui, soit dit en passant, sont souvent composées d'une majorité écrasante équipes d'ingénieurs masculins) "donner des réponses déviantes, ternes et apologétiques au harcèlement sexuel verbal".

Ce harcèlement n'est pas rare non plus. Rédacteur pour l'assistant "Cortana" de Microsoft noté en 2019 qu'« une bonne partie du volume des demandes de renseignements précoces » sonde la vie sexuelle de l'assistant ». 

Ione Gamble, fondatrice de Polyester Zine, a décrypté la féminisation de l'IA dans son dernier podcast 'Le club de la soirée pyjama". 

Faisant référence au film 'Her', dans lequel le personnage de Joaquin Phoenix, Theodore, tombe amoureux de son assistante IA Samantha, Gamble a déclaré 'il est intéressant qu'Internet soit mis en place sous le regard masculin, avec les femmes comme objets désirables', 'si une femme est juste dans une boîte et fera tout ce que vous dites, c'est un peu effrayant, non ? ».

"En tant que féministes, nous avons la capacité de considérer Internet comme une sorte d'utopie", a poursuivi Ione. «Et peut-être que pour certains d'entre nous dans les petites communautés, c'était une utopie. Mais vraiment, cela a toujours été empilé contre nous ».

Alors que nos interactions avec l'IA restent ouvertement sexuées, Salomé Gómez-Upegui a suggéré que le queering de nos appareils pourrait aider à défaire les stéréotypes sexistes. 

Upegui cite 'Q', présenté comme les mondes première "voix d'IA sans genre" a le festival Smithsonian FUTURES en 2021, comme un tournant pour la misogynie dans le monde numérique. 

Alors que des géants de la technologie comme Google et Apple ont réagi au recul en ajoutant des voix masculines à leurs listes d'IA, Siri et Google Assistant restent des femmes par défaut. En outre, il faudra plus qu'un changement de décor pour déraciner les idéaux de genre misogynes intégrés dans nos systèmes technologiques. 

Yolanda Strenge, professeure agrégée d'informatique centrée sur l'humain à l'Université Monash, soutient que la suppression du genre de l'IA n'est pas la réponse, car "cela simplifie à l'extrême la manière dont ces dispositifs traitent le genre, qui ne sont pas seulement sexués par la voix, mais par les types des choses qu'ils disent, leurs personnalités, leur forme, et leur but". 

Au lieu de cela, soutient-elle, nous devrions envisager d'étonner la "femme intelligente" - comme elle surnomme les assistantes IA. De cette façon, nos systèmes numériques pourraient enfin commencer à exister au mépris, plutôt qu'en l'absence, des stéréotypes de genre.