timnit gebru的論文或許可以解釋谷歌為什麼要開除她
據麻省理工學院《技術評論》（MIT Technology Review）報道，前谷歌人工智慧倫理學家蒂姆尼特•格布魯（Timnit Gebru）與人合著的一篇論文為谷歌提出了一些潛在的棘手問題：人工智慧語言模型是否太大，科技公司是否在降低潛在風險方面做得足夠多。論文還質疑了大型語言模型的環境成本和固有偏見。
谷歌的人工智慧團隊在2018年建立了這樣一個語言模型——伯特（BERT），它非常成功，以至於谷歌將伯特（BERT）納入了自己的搜尋引擎。搜尋是谷歌業務中利潤豐厚的一部分；僅在今年第三季度，它就帶來了263億美元的收入。“今年，包括本季度，谷歌的創始產品搜尋對人們來說是多麼有價值，”執行長Sundar Pichai在10月份與投資者的電話會議上說。
Gebru和她的團隊提交了他們的論文，題目是“隨機鸚鵡的危險：語言模型會不會太大？”？“為了一個研究會議。她在週三的一系列推文中說，經過內部審查後，她被要求收回該報或從中刪除谷歌員工的名字。她說，她向谷歌提出了將她的名字從報紙上刪除的條件，如果他們不能滿足這些條件，他們可以“最後一次約會。”格布魯說，她隨後收到谷歌的一封電子郵件，通知她他們“立即接受她的辭職”
谷歌人工智慧的負責人傑夫·迪恩（Jeff Dean）在給員工的一封電子郵件中寫道，這篇論文“不符合我們的出版標準”。他寫道，Gebru繼續在谷歌工作的條件之一是，公司要告訴她誰審閱了這篇論文以及他們的具體反饋，但公司拒絕這樣做。蒂姆尼特寫道，如果我們不能滿足這些要求，她將離開谷歌，在一個截止日期工作。我們接受並尊重她從谷歌辭職的決定。
迪恩在信中寫道，這篇論文“忽略了太多相關研究”，該論文的合著者、華盛頓大學計算語言學教授艾米莉·M·本德（Emily M.Bender）對此提出了異議。本德告訴麻省理工學院技術評論說，這篇有六位合作者的論文是“任何一位作者甚至兩位作者都做不到的工作”，並指出這篇論文有128篇參考文獻的引用列表。
Gebru以她在演算法偏差方面的工作而聞名，尤其是在面部識別技術方面。2018年，她與Joy Buolamwini合著了一篇論文，表明識別深色面板的人的錯誤率遠遠高於識別淺色面板的人的錯誤率，因為用於訓練演算法的資料集絕大多數是白人。
格布魯在週四發表的一次採訪中告訴《連線》雜誌，她覺得自己受到了審查。她說：“你不會有那些能讓公司一直開心、不指出問題的檔案。”。“這和做那種研究者的意義是相反的。”
自從她被解僱的訊息公開後，包括1500多名谷歌員工在內的數千名支持者簽署了**信。這份名為“與蒂姆尼特·格布魯博士站在一起”的**書寫道：“我們，以下簽名者，聲援蒂姆尼特·格布魯博士，在前所未有的研究審查之後，她被解除了谷歌員工研究科學家和道德人工智慧（AI）團隊聯合領導的職務。”。
“我們呼籲谷歌研究加強其對研究誠信的承諾，並明確承諾支援履行谷歌人工智慧原則中所作承諾的研究。”
**者要求迪恩和其他“參與審查蓋布魯博士論文決定的人與道德人工智慧團隊會面，解釋論文被領導層單方面拒絕的過程。”
谷歌週六沒有立即迴應置評請求。
- 發表於 2021-04-17 00:43
- 閱讀 ( 47 )
- 分類：網際網路
你可能感興趣的文章
附錄(appendix)和附錄(annexure)的區別
...同檔案的資訊性質可能不同。附錄的總體意圖是加強作者的論點。另一方面，附錄為讀者提供了以後的補充。這是附錄和附錄的主要區別。透過本文讓我們考察附錄和附錄的概念，同時強調它們的區別。 什麼是附錄(appendix)？ 附...
摘要(abstract)和介紹(introduction)的區別
摘要與導言 摘要和導言是研究方法和論文寫作中使用的兩個術語，兩者之間存在一定的差異。大多數學生傾向於把這兩者混淆為性質相似。然而，這是一個錯誤的鑑定。如果你翻閱研究論文、論文，你會注意到有兩頁是引...
參考文獻(bibliography)和參考列表(reference list)的區別
...單。這包括你所諮詢過的所有資料來源，即使你沒有在你的論文中引用它們。另一方面，參考文獻列表是你在論文中引用的所有來源的列表。這就是書目和參考書目這兩個術語的主要區別。 什麼是參考書目(a bibliography)？ 書目是...
引用(citation)和參考(reference)的區別
...獻以腳註的形式出現在頁面的底部，在論文或你正在撰寫的論文結尾處也會出現一個列表。 什麼是引用(citation)？ 引文是你如何引用研究論文正文中的觀點來源。引文包括在你引用不同作者的地方。通常，你把引文放在句尾的括...
如何使用miracast和connect將android螢幕投射到windows 10
...訊號。以我的經驗，網路速度可以下降90%之多！效能問題或許可以解釋谷歌為何在Nexus系列平板電腦和智慧**上放棄這一標準。 ...
alphabet股東推動谷歌加強對舉報者的保護
...好的舉報人保護措施，因為著名的人工智慧倫理研究人員Timnit Gebru被解僱。這家價值35億美元的可持續投資公司已提交股東決議，要求董事會對現行政策進行第三方審查。 該決議寫道：“報道顯示，許多辭職或被解僱...
谷歌人工智慧經理在兩名頂尖研究人員被解僱後辭職
...後一天是4月28日。 Bengio是star AI倫理研究人員Timnit Gebru和Margaret Mitchell的有力倡導者，他們曾共同領導過倫理AI團隊。Gebru去年12月在撰寫一篇關於大型語言模型的危險性的論文時被解僱。今年2月，米切爾在使用指令碼...
隨著中國在人工智慧期刊引文方面超過美國，人工智慧研究繼續增長
...越來越突出。2020年，谷歌解僱研究員蒂姆尼特·蓋布魯（Timnit Gebru）和IBM退出面部識別業務等故事推動了人們對人工智慧技術應如何應用的討論。但報告指出，儘管企業樂於口頭上遵守道德原則，但這些“承諾”大多沒有約束力...
據報道，谷歌人力資源部建議精神健康休假，以迴應有關種族主義或性別歧視行為的投訴
...去年12月谷歌人工智慧倫理研究人員蒂姆尼特·蓋布魯（Timnit Gebru）被解僱之後釋出的。蓋布魯拒絕了一位經理的要求，收回了一篇描述谷歌搜尋引擎所依賴的語言模型的危險性的論文。Gebru給Brain Women及其盟友listserv寫了一封電...
兩名谷歌工程師因解僱道德人工智慧領導人蒂姆尼特·蓋布魯而辭職
...治療前道德人工智慧團隊聯席領導人蒂姆尼特·格布魯（Timnit Gebru）而辭職。工程總監大衛·貝克（davidbaker）說，格布魯被解僱“熄滅”了他留在公司的願望。軟體工程師Vinesh Kannan說，他離職是因為Gebru和多元化招聘公司April Chri...
