Tại sao tất cả các trợ lý AI đều được nữ quyền hóa?

Tháng trước, Chris Baranuik đã tiếp cận chủ đề misogyny và AI một lần nữa.

Sau khi phát hành 'No Time to Die', Baranuik phản ánh nữ quyền của nhiều trợ lý công nghệ của James Bond, giọng nói nhẹ nhàng - thậm chí gợi cảm - của họ đóng vai trò như một phụ kiện cho nhân vật nam tính, nam tính của anh ta. 

Tuy nhiên, với một chút đào sâu, hóa ra các trợ lý giọng nói nữ tính trong xe của Bond là không chính xác. BMW thực sự đã thu hồi hệ thống GPS có giọng nói của phụ nữ trên ô tô của mình vào cuối những năm 1990, sau khi nam tài xế người Đức phàn nàn rằng họ không muốn nhận hướng dẫn 'từ một phụ nữ'. 

Ồ, chúng ta đã đi được bao xa.

Điều trớ trêu là các trợ lý AI của chúng tôi hiện đã được nữ quyền nhất trí không làm cho sự cố BMW trở nên khó hiểu hơn. Nếu có bất cứ điều gì, điều đó chứng tỏ chúng ta đã không thể thoát khỏi nhu cầu cố hữu về giới tính mọi thứ. Và, cụ thể hơn, loại bỏ các mối quan hệ của chúng ta giữa phụ nữ và (thiếu) quyền lực. 

Khi bạn nhìn vào tình huống của BMW trong bối cảnh của Siri, rõ ràng là phụ nữ có những vị trí cụ thể dành cho họ trong xã hội hiện đại, những vị trí hiện đang định hình các chuẩn mực giới tính trong thế giới kỹ thuật số.

Hoàn toàn có thể chấp nhận được việc ra lệnh cho một hệ thống AI được nữ quyền hóa, nhưng để 'cô ấy' cho chúng ta biết cách lái xe - một lĩnh vực 'nam' theo khuôn mẫu - thì không. 

Baranuik phác thảo lịch sử lâu dài và quanh co về mối quan hệ của chúng tôi với tiếng nói kỹ thuật số. Từ hệ thống máy tính trên máy bay được mệnh danh là 'Sexy Sally', đến hệ thống thông báo của London Underground được các nhân viên TFL đặt tên là 'Sonya' - được đặt tên như vậy vì nó 'kích thích thần kinh' - misogyny đã củng cố mối quan hệ của chúng tôi với kỹ thuật số trong nhiều thập kỷ. 

Báo cáo năm 2019 của Liên Hợp Quốc đã chỉ ra cách thức mà việc ngược đãi đối với AI được nữ quyền hóa vừa khuyến khích vừa phản ánh thái độ nguy hiểm trong cuộc sống thực đối với phụ nữ. 

'Sự tồn tại của trợ lý giọng nói kỹ thuật số trở nên đặc biệt đáng lo ngại khi những cỗ máy này - được các công ty công nghệ nhân hóa là nữ' (nhân tiện, thường được nhân viên áp đảo đội kỹ sư nam) 'đưa ra phản ứng chệch hướng, mờ nhạt và hối lỗi đối với hành vi xâm hại tình dục bằng lời nói'.

Hành vi quấy rối này cũng không phải là hiếm. Người viết cho trợ lý 'Cortana' của Microsoft ghi nhận năm 2019 rằng 'một phần tốt của khối lượng các câu hỏi sớm' thăm dò đời sống tình dục của người trợ lý '. 

Ione Gamble, người sáng lập Polyester Zine, đã bỏ chọn nữ quyền của AI trong podcast mới nhất của cô ấy 'Câu lạc bộ ngủ quên'. 

Đề cập đến bộ phim 'Her', trong đó nhân vật Theodore của Joaquin Phoenix phải lòng trợ lý AI của anh ấy Samantha, Gamble nói rằng 'thật thú vị khi Internet được thiết lập dưới cái nhìn của nam giới, với phụ nữ là đối tượng mong muốn', 'nếu phụ nữ chỉ trong một chiếc hộp và sẽ làm bất cứ điều gì bạn nói, điều đó hơi kinh dị phải không? '.

Ione tiếp tục: “Là những người ủng hộ nữ quyền, chúng tôi có khả năng nghĩ về Internet như một điều không tưởng”. 'Và có lẽ đối với một số người trong chúng tôi ở các cộng đồng nhỏ hơn, đó là điều không tưởng. Nhưng thực sự, nó luôn chống lại chúng tôi '.

Trong khi các tương tác AI của chúng tôi vẫn được phân biệt giới tính, Salomé Gómez-Upegui đã gợi ý rằng việc ngừng sử dụng các thiết bị của chúng tôi có thể giúp loại bỏ các định kiến ​​phân biệt giới tính. 

Upegui trích dẫn 'Q', được giới thiệu là thế giới 'giọng nói AI phi giới tính' đầu tiên lễ hội Smithsonian FUTURES vào năm 2021, như một bước ngoặt đối với những kẻ lạc loài trong thế giới kỹ thuật số. 

Trong khi những gã khổng lồ công nghệ như Google và Apple đã phản ứng lại bằng cách thêm giọng nam vào danh sách AI của họ, Siri và Trợ lý Google vẫn là nữ theo mặc định. Bên cạnh đó, sẽ cần nhiều hơn một thay đổi cài đặt để loại bỏ những lý tưởng về giới tính sai lệch được nhúng trong hệ thống công nghệ của chúng tôi. 

Yolanda Strenge's, phó giáo sư về máy tính lấy con người làm trung tâm tại Đại học Monash, lập luận rằng việc loại bỏ giới tính khỏi AI không phải là câu trả lời, vì 'điều này đơn giản hóa cách mà các thiết bị này đối xử với giới tính, không chỉ giới tính bằng giọng nói mà còn theo các loại những điều họ nói, tính cách của họ, hình thức của họ và Mục đích của họ'. 

Thay vào đó, cô ấy lập luận, chúng ta nên cân nhắc việc từ bỏ 'người vợ thông minh' - như cô ấy gọi là nữ trợ lý AI. Bằng cách này, các hệ thống kỹ thuật số của chúng ta cuối cùng có thể bắt đầu tồn tại trong sự thách thức, thay vì vắng mặt, các định kiến ​​giới.