菜单 菜单

谷歌的诚信因研究偏见而受到质疑

谷歌这个我们都用来进行可靠和公正研究的无处不在的搜索引擎,很快就会开始排除关于“敏感话题”的信息。 这是等待发生的审查风暴吗?

本周,Alphabet 的旗舰平台谷歌因审查措施受到严重抨击,人们越来越担心偏见可能很快使该平台成为可靠的搜索引擎。

由被迫辞职引发 Timnit Gebru 博士,谷歌的人工智能研究员/科学家, 路透社 此后,谷歌去年实施了一项立法,该立法规定敏感话题的论文在上线前将面临越来越严格的审查。

Timnit Gebru 博士此前曾领导一个 12 人的研究团队,据推测,本月他被带到谷歌的大门,因为他质疑一项不公布调查结果的命令,该命令审查了人工智能的道德完整性及其影响弱势社区的潜力。

根据谷歌的小字,更严格的研究论文审查程序最初是为了阻止商业秘密的披露,但最近的发展指向比这更广泛的实践,并且可能很快导致 审查纠纷。

对人工智能技术的发展和快速整合的研究呈爆炸式增长,仅去年一年就发表了超过 200 篇论文,作为该技术的大所有者——例如,使用人工智能来个性化 YouTube 用户的内容提要——谷歌是显然希望保护其声誉。 事实上,谷歌的前员工甚至透露,公司官员呼吁研究作者在谈论内部发展或技术整合时“表现出积极的语气”。 从心怀不满的前雇员的大量涌现来看,这种干涉似乎也很普遍。

尽管谷歌断言研究人员在他们的工作中拥有“相当大的”自由,但像玛格丽特米切尔这样的资深科学家在这种新的检查保护伞下越来越关注公司的未来。

“如果我们根据我们的专业知识研究合适的东西,但我们不允许以不符合高质量同行评审的理由发布它,那么我们就会陷入严重的审查问题,” 玛格丽特 在接受路透社采访时说。 谷歌尚未对这种日益增长的不安气氛做出回应。

除了人工智能的集成之外,其他被认为属于“敏感话题”范围并因此谷歌增加检查的话题包括石油行业、中国、伊朗、以色列、Covid-19、保险和位置数据。

你不得不说,名单上的很多话题都有充分的理由被认为是敏感话题,但其他一些——主要是人工智能——在那些已经暗中信任谷歌超过十年的人中引起了人们的注意。 你会期望 Facebook、Apple 和 Microsoft 之类的公司尽可能避免批评人工智能等利润丰厚的技术,并在屋顶上大喊它们的用处。

然而,当谈到一个我们都希望完全符合事实且没有偏见的平台时,令人担忧的是,谷歌可能会考虑发布和审议某些研究是否符合其发布的最佳利益。

目前,您可以 保证 谷歌正在花时间做出回应。 我们将不得不拭目以待。

无障碍