Tính toàn vẹn của Google bị đặt ra nghi vấn vì thiên vị nghiên cứu

Google, công cụ tìm kiếm phổ biến mà tất cả chúng ta đều sử dụng để nghiên cứu công bằng và đáng tin cậy, có thể sớm bắt đầu loại bỏ thông tin về 'các chủ đề nhạy cảm.' Đây có phải là một cơn bão kiểm duyệt đang chờ đợi xảy ra?

Nền tảng hàng đầu của Alphabet, Google đang bị chỉ trích nghiêm trọng trong tuần này liên quan đến các biện pháp kiểm duyệt và mối lo ngại đang gia tăng rằng sự thiên vị có thể sớm làm mất uy tín của nền tảng này như một công cụ tìm kiếm đáng tin cậy.

Bị thúc đẩy bởi sự buộc phải từ chức của Tiến sĩ Timnit Gebru, một nhà nghiên cứu / nhà khoa học AI tại Google, Reuters kể từ đó đã kéo theo luật của Google được áp dụng vào năm ngoái, trong đó tuyên bố rằng các bài báo về các chủ đề nhạy cảm sẽ phải đối mặt với quá trình kiểm tra ngày càng nghiêm ngặt trước khi phát hành.

Tiến sĩ Timnit Gebru, người trước đây đã lãnh đạo một nhóm nghiên cứu gồm 12 người, được cho là đã có cửa tại Google trong tháng này vì đã đặt câu hỏi về lệnh không công bố các phát hiện đã xem xét kỹ lưỡng tính toàn vẹn về đạo đức của AI và khả năng tác động đến các cộng đồng thiệt thòi của nó.

Cuộc trò chuyện này là cách tôi phát hiện ra mình đã từ chức. Từ báo cáo trực tiếp của tôi trong cú sốc người đang cố liên lạc với tôi. Sau đó tôi đã thông báo cho người quản lý của mình là Samy sau khi cô ấy thông báo cho tôi. Cô ấy vừa mới gia nhập nhóm của chúng tôi vào tháng Năm. @JeffDean không còn từ nào để mô tả điều này và những thứ tiếp theo của bạn pic.twitter.com/xClkzrmoWQ

- @[email được bảo vệ] trên Mastodon (@timnitGebru) 28 Tháng mười hai, 2020

Theo bản in nhỏ của Google, quy trình kiểm tra nghiêm ngặt hơn đối với các tài liệu nghiên cứu ban đầu được thiết kế để ngăn chặn việc tiết lộ bí mật thương mại, nhưng những phát triển gần đây chỉ ra một thực tiễn rộng hơn nhiều và một quy trình có thể sớm dẫn đến to tranh chấp kiểm duyệt.

Sự bùng nổ của nghiên cứu về sự phát triển và tích hợp nhanh chóng của công nghệ AI đã dẫn đến hơn 200 bài báo được xuất bản chỉ trong năm ngoái và với tư cách là chủ sở hữu lớn của công nghệ - ví dụ: sử dụng AI để cá nhân hóa nguồn cấp nội dung của người dùng YouTube - Google rõ ràng đang tìm cách bảo vệ danh tiếng của mình. Trên thực tế, các cựu nhân viên tại Google thậm chí còn tiết lộ rằng các quan chức của công ty đã kêu gọi các tác giả nghiên cứu 'thể hiện một giọng điệu tích cực' khi nói về sự phát triển nội bộ hoặc tích hợp công nghệ. Đánh giá về sự tuôn ra tuyệt đối của các nhân viên cũ bất mãn, có vẻ như sự can thiệp như vậy cũng phổ biến.