热门:Jeff Dean在谷歌成众矢之的：开除“论文不合格”AI伦理研究员，被1400名员

本篇文章2942字，读完约7分钟

晓查雷师来自凹非寺

量子比特报道|公众号qbitai

本周末，ai圈的事件在社会交流网上掀起了轩然大波。

谷歌ai伦理团队联盟的负责人timnit gebru被解雇了。

驱逐她的是有名的谷歌ai负责人杰夫·dean。

双方在一篇论文的内部审查中有很大的分歧，之后timnit gebru的企业账户被切断了。

一天后，杰夫dean给谷歌员工发了邮件，表示要开除timnit gebru。

timnit gebru毕业于斯坦福大学，博士生导师是着名学者李飞飞。 她的第一个研究方向是算法偏差和数据发掘，致力于黑人科技圈的平权，black in ai的创始人之一。

timnit gebru最有名的研究是她在年发现的。 面部识别软件对黑人女性有35%的错误率，白人男性几乎完全正确。

几天来，双方隔空喊叫，势头越来越猛烈，1400名谷歌员工和1900名ai学术圈的人谴责谷歌的行为。 其中有些是ai圈的大人物。

总是口口相传的杰夫dean一下子变成了“众矢之”。

这到底是怎么回事？

时间线

12月2日(美国当地时间，下同)，gebru发推文表示被Google解雇，核心矛盾是双方在内部论文审查上的差异。

对gebru给企业内的brain women and allies发送邮件表示不满，对该邮件复印件泄露，gebru被解雇表示强烈愤怒和谴责。

这件事很快就发酵了，在reddit引起了激烈的讨论，有近000条评论。

gebru日公开了发给谷歌Brain女员工和其他同事的邮件复印件。 本来，她想发表研究论文，但受到上司的反对。

邮件中还明确了谷歌对黑人这个弱势群体的不公平待遇和不重视ai伦理。 因为这封邮件被报道说“没有辜负谷歌管理者的期待”，被解雇了。

杰夫dean很快在谷歌内部用邮件回应了。 他解释了为什么gebru论文没有发表。 gebru说提出了一点无理的要求，不答应就辞职威胁。 最后，企业决定尊重她的辞职意见。

4日，杰夫dean公开了邮件的复印件，详细说明了谷歌内部研究论文的出版方法，应对了双方论文评论上的差异。

gebru对他的反应不买账，马上发了六条推特文，指出了与他文案的漏洞相矛盾的地方。

5日，gebru的Google上司、著名的ai科学家samy bengio——图灵奖获得者yoshua begio的亲弟弟在facebook上对此表示支持，“她的慷慨和毅力提高了沉默者的声音”。

《导火索》论文公开

在双方争论ai的公正性、伦理等问题时，外媒的《mit科学技术评论》得到了使双方战争的论文原文。

论文的疑似原文也在网上公开。

这篇论文的标题是“onthedangersofstochasticparrots:canlanguagemodelsbetoobig？ ”。 (随机鹦鹉危险:语言模型太大了吗？ 中选择所需的墙类型。

近年来，科技巨头们正在全力研究自然语言模型，谷歌自己开发的bert就是其中之一，最近谷歌宣布英语搜索大部分用于bert。

gebru的论文复印件论述了谷歌Bert在ai伦理上的负面影响。 因为谷歌被认为是因为这样的理由才压低了论文。

文案在开头提出了疑问。 我们充分考虑开发这些模型的潜在风险和降低这些风险的战术吗？ 指自然语言模式的“四大风险”。

一、环境和经济是巨大的价格。

训练大型ai模型会增加耗电量，采用nas方法的语言模型会产生相当于284吨的二氧化碳，相当于5辆汽车寿命内的碳排放量。

其中，谷歌训练bert模型产生1438磅二氧化碳，几乎等于纽约和旧金山之间往返航班的碳排放量。

二、大量数据和无法解释的模型。

研究者从网上收集数据。 因为种族主义、性别歧视和其他侮辱性语言最终可能出现在训练数据中。

因为训练数据集非常大，所以不容易审计，检查这些嵌入的偏差。

另外，模型不容易获得与网络接触少的群体语言，ai生成的语言同质化，只反映最富有的国家和社区的方法。

三、探讨机会价格。

大规模的语言模型实际上不懂语言，擅长操作语言，但因为大规模的科技企业投资了，所以能更正确地赚钱。

设计得更小、更细致的数据集也能取得良好的效果，消耗的能量也更少。

四、语言ai有欺骗人类的可能性。

ai非常擅长模仿人类的语言。 因为用它容易愚弄人类。

研究者举了一个例子:年，facebook将巴勒斯坦男性用阿拉伯语说的“早上好”误译为希伯来语的“攻击他们”，因而被捕。

杰夫·德恩在给员工的邮件中解释了论文中提到的这些问题。

杰夫dean认为gebru的论文有点漏洞。

她只提到了bert，没有考虑到后来的模式效率化，也没有考虑最近谷歌的研究处理了一点伦理问题。

杰夫dean说，谷歌近年来发表了200多篇关于ai伦理的论文，gebru的论文缺乏谷歌对这些事业的表达。

另外，gebru提交给Google的审查论文离截止日期只有一天，一般Google审查论文需要两周时间。

gebru说，论文两个月前委托相关部门审查，但没有得到反馈。

解雇gebru的理由是要求谷歌提供评委名单。 否则，我要离开谷歌。 杰夫dean认为谷歌不能满足她的要求。 这是因为我尊重和接受她的辞职决定。

双方分歧的关键是gebru是由谷歌发起的还是自愿离职的。

杰夫dean认为，既然谷歌不能满足gebru提出的条件，这个gebru将自动退休。 gebru认为辞职应该由谷歌自己提出，而不是单方面排斥。

gebru还想给谷歌数百名员工发送邮件，停止dei (多样性、公正性、包容性)项目的相关业务。 这又加剧了双方的矛盾。

谷歌员工对杰夫dean有疑问

对于杰夫·dean的这一说法，谷歌的内部工作人员说:“这是谎言。”

谷歌ai蒙特利尔分部的研究员nicolas le roux指出，过去提交给内部审查的论文只检查是否泄露了机密的内部资料，不检查文献审查的质量。

另一位谷歌前公关经理说。

审查这些论文是我在谷歌公关团队工作的一部分。 一般来说，复印件对我们来说太多了，所以我们没有及时审查它们，或者等研究者公布后再知道。 我们决不惩罚没有妥善解决的人。

现在双方的激战远远超出了论文的范围，但集中在论文解决的流程上。 谁在说事实，另一个会失败。

这个谷歌ai的罗生门的事是“只能等子弹再飞一点”。

但是，罕见的是，在谷歌拥有“上帝”地位的杰夫·德恩在这次事件中面对这样的势头的讨伐，也确实是“活久见”。

参考链接:

杰夫dean邮件原文:

docs.Google/Document/d/1 F2 Kywdxwhzynq8EBV Tu K9 CQZ Z7SCQXXSIX eygrwjk0/ EDIT

timnit gebru邮件副本:

platformer.news/p/the-withering-email-that-got-an-ethical

timnit gebru论文复印件:

技术回顾//12/04/1013294/Google-ai-ethics-research-Paper-forced-out-Tim NICs

结束了

本文是网易信息网易号特色复制激励计划账户【量子位】原始复制，未经账户授权，禁止擅自转载。

阅读原文。