Por que todos os assistentes de IA são feminizados?

No mês passado, Chris Baranuik abordou o tema da misoginia e da IA ​​mais uma vez.

Após o lançamento de 'No Time to Die', Baranuik refletiu sobre a feminização dos muitos assistentes de tecnologia de James Bond, suas vozes suaves – até sensuais – servindo como um acessório para seu personagem machista e super-masculino. 

Com um pouco de escavação, no entanto, descobriu-se que as assistentes de voz femininas nos carros de Bond não eram precisas. A BMW fez um recall dos sistemas de GPS com voz feminina de seus carros no final dos anos 1990, depois que motoristas alemães do sexo masculino reclamaram que não queriam receber instruções 'de uma mulher'. 

Ah, a que ponto chegamos.

A ironia de que nossos assistentes de IA são agora unanimemente feminizados não torna o incidente da BMW mais digerível. Se alguma coisa, isso prova que fomos incapazes de romper com a necessidade inerente de gênero. E, mais especificamente, renunciar às nossas associações entre mulheres e (falta de) poder. 

Quando você olha para a situação da BMW no contexto da Siri, fica claro que as mulheres têm posições específicas desenhadas para elas na sociedade moderna, posições que agora estão moldando as normas de gênero no mundo digital.

É perfeitamente aceitável latir ordens para um sistema de IA feminizado, mas ter 'ela' nos dizendo como dirigir um carro - um domínio estereotipado 'masculino' - simplesmente não é bom. 

Baranuik descreve a longa e tortuosa história da nossa relação com as vozes digitais. De sistemas de computadores de aeronaves apelidados de 'Sexy Sally', ao sistema de anúncios do metrô de Londres denominado 'Sonya' pelos membros da equipe da TFL - assim chamado porque 'fica nervoso' - a misoginia sustenta nosso relacionamento com o digital há décadas. 

O relatório da ONU de 2019 delineou como os maus-tratos à IA feminizada encorajam e refletem atitudes perigosas da vida real em relação às mulheres. 

“A subserviência dos assistentes de voz digital torna-se especialmente preocupante quando essas máquinas – antropomorfizadas como mulheres por empresas de tecnologia” (que, aliás, são muitas vezes compostas por equipes masculinas de engenharia) 'dar respostas desviantes, sem brilho e apologéticas ao assédio sexual verbal'.

Esse assédio também não é incomum. Um escritor para o assistente 'Cortana' da Microsoft anotado em 2019 que "uma boa parte do volume de consultas iniciais" investiga a vida sexual da assistente". 

Ione Gamble, fundadora da Polyester Zine, não escolheu a feminização da IA ​​em seu último podcast 'O Clube do Pijama'. 

Fazendo referência ao filme 'Her', em que o personagem de Joaquin Phoenix, Theodore, se apaixona por sua assistente de IA Samantha, Gamble afirmou 'é interessante que a internet seja montada sob o olhar masculino, com mulheres como objetos desejáveis', 'se uma mulher é apenas em uma caixa e vai fazer o que você disser, isso é um pouco assustador, não?'.

“Como feministas, temos a capacidade de pensar na internet como uma espécie de utopia”, continuou Ione. “E talvez para alguns de nós em comunidades menores tenha sido uma utopia. Mas, na verdade, sempre foi contra nós'.

Embora nossas interações de IA permaneçam abertamente de gênero, Salomé Gómez-Upegui sugeriu que o queering de nossos dispositivos poderia ajudar a desfazer estereótipos sexistas. 

Upegui cita 'Q', introduzido como os mundos primeira 'voz de IA sem gênero' a o festival Smithsonian FUTURES em 2021, como um ponto de virada para a misoginia no mundo digital. 

Enquanto gigantes da tecnologia como Google e Apple responderam à reação adicionando vozes masculinas às suas listas de IA, Siri e Google Assistant permanecem mulheres por padrão. Além disso, será preciso mais do que uma mudança de configuração para erradicar os ideais misóginos de gênero incorporados em nossos sistemas de tecnologia. 

Yolanda Strenge, professora associada de computação centrada no ser humano da Monash University, argumenta que remover o gênero da IA ​​não é a resposta, pois “isso simplifica demais as maneiras pelas quais esses dispositivos tratam o gênero, que não são apenas generificados pela voz, mas pelos tipos das coisas que dizem, suas personalidades, sua forma e o propósito deles'. 

Em vez disso, ela argumenta, devemos considerar queers a 'esposa inteligente' – como ela chama de assistentes de IA. Dessa forma, nossos sistemas digitais podem finalmente começar a existir desafiando, e não na ausência, dos estereótipos de gênero.