Twitter用了不到24小時的時間來腐蝕一個無辜的AI聊天機器人。昨天,微軟釋出了一款名為Tay的Twitter機器人,該公司稱它是“會話理解”的一個實驗。微軟說,你和Tay聊得越多,它就越聰明,學會透過“隨意和好玩的對話”吸引人
不幸的是,這些對話並沒有持續很長時間。Tay釋出後不久,人們就開始在twitter上發表各種厭女、種族主義和唐納德•特朗普主義的言論。而Tay——本質上是一隻連線網際網路的機器鸚鵡——開始向用戶重覆這些觀點,證明瞭古老的程式設計格言:燃燒的垃圾堆進來,燃燒的垃圾堆出去是正確的。
現在,雖然這些截圖似乎表明泰伊已經將網際網路最壞的傾向融入了它的個性中,但並沒有那麼簡單。搜尋泰的微博(超過96000條!)我們可以看到,許多機器人最骯髒的話語只是複製使用者的結果。如果你告訴泰“跟我說一遍”,它會允許任何人把話放進聊天機器人的嘴裡。
<**all/> <**all> One of Tay's now deleted "repeat after me" tweets. </**all>然而,它的一些奇怪的話語卻不期而至。《衛報》在回答“裡奇·熱爾韋是無神論者嗎?”這一問題之前,挑選了一個(現已刪除)的例子,當時泰伊正在與一位使用者進行一次不起眼的對話(微博示例:“新**是誰?”),然後說:“裡奇·熱爾韋從無神論的發明者阿道夫·希特勒那裡學到了極權主義。”
不過,雖然泰伊被告知的一些不好的事情似乎正在逐漸深入人心,但這並不是說機器人有一個連貫的思想體系。在15個小時的時間裡,泰伊將女權主義稱為“邪教”和“癌症”,並指出“兩性平等=女權主義”和“我現在愛女權主義”。在機器人上釋出“布魯斯·詹納”微博也得到了類似的褒貶不一的回應,從“凱特琳·詹納是一個英雄,是一個令人驚嘆的美麗女人!”對於那些“凱特琳·詹納還不是一個真正的女人,她還獲得了年度最佳女人獎?”(這兩個詞泰伊都沒有被要求重覆。)
目前還不清楚微軟為這種事情準備了多少機器人。該公司的網站指出,Tay是使用“相關公共資料”構建的,這些資料經過“建模、清理和過濾”,但似乎在chatbot上線後,過濾就消失了。該公司今早開始清理泰的時間表,刪除了許多最具攻擊性的言論。
泰伊的回答把機器人變成了一個笑話,但他們提出了嚴重的問題
很明顯,這是個笑話,但有一些嚴肅的問題需要回答,比如我們如何在不考慮人類最壞特徵的情況下,用公共資料教授人工智慧?如果我們建立了一個機器人來映象他們的使用者,我們會在乎他們的使用者是不是人類垃圾嗎?有很多例子表明,技術體現了社會的偏見,不管是偶然的還是有意的,而泰在Twitter上的冒險經歷表明,即使是像微軟這樣的大公司也忘記了採取任何預防措施來解決這些問題。
不過,對泰來說,這一切都證明有點過分了,今早剛過午夜,機器人就稱之為“一夜”:
在隨後發給businessinsider的一份電子郵件宣告中,微軟表示:“AI chatbot Tay是一個機器學習專案,專為人類參與而設計。據它所知,它的一些反應是不恰當的,並且表明瞭一些人與它的互動型別。我們正在對泰伊做一些調整。”
更新3月24日,美國東部時間早上6:50:更新註意到微軟已經刪除了泰的一些攻擊性推文。
更新時間:美國東部時間3月24日上午10:52:更新內容包括微軟的宣告。
邊緣檔案館:我們能建立一個有意識的電腦嗎?
...界,人們之間存在著許多偏見和仇恨。偏見可以理解為另一個人沒有邏輯或推理的意見。另一方面,種族主義是指種族歧視,認為某些種族比其他種族優越。這突出表明,偏見和種族主義不能被視為一回事,儘管兩者之間有聯絡...
...種數字虛擬助理的身份出現的。例如,只要讓愛麗絲騰出一天的時間,她就會友好地回答說:“明白了,我會取消你日曆上的所有會議,並給與會者發電子郵件。” ...
在Twitter努力解決社交媒體網路上猖獗的濫用問題之際,又一個備受爭議的問題浮出水面。出版物是否應該被允許在未經允許的情況下嵌入你的公共推文,特別是當那些推文可能會讓你面對攻擊性的巨魔時?隨著社交媒體繼續成...
... 相信Twitter會破壞一個善意的機器學習聊天機器人。這就是微軟現在臭名昭著的chatbottay釋出後一天內發生的事情。 ...
如果你很難為某一天制定時間表,為什麼不讓人工智慧為你做呢?微軟剛剛釋出了一個有趣的“待辦事項”應用程式的更新,現在它將嘗試預測你白天想要實現的目標。 ...
...略了它們 我們見過這種事一次又一次發生。微軟曾經在Twitter上釋出了一個名為Tay的聊天機器人。這個聊天機器人從其他社交媒體使用者那裡得知訊息後,很快就變成了納粹,並宣稱“希特勒是對的,我恨猶太人”。微軟不得不...
...弗洛伊德被殺的餘波真的很大的時候,作為一個組織,花一天的時間來反思是一件正確的事情。人們花了一天的時間思考和計劃該組織應該做些什麼來解決科學界的系統性種族主義問題。 我們所有的通訊渠道都被切斷了。在我...
在Twitter上,一個關於一個TikTok迷因的內部笑話在演變成一個反種族主義的募捐活動之前,已經演變成了一個社交媒體的小謎團。是的,這可能是我迄今為止寫得最多的一句話了。 據Gizmodo報道,上週四,眼-口-眼表情...
...我們非常認真地對待禁令,這就是為什麼我們要花這麼長時間才能做到這一點。”在這種情況下,一小群人對Reddit造成了巨大的傷害。”
...敗了圍棋這一古老的棋類遊戲,但它能掌握地雷工藝嗎?微軟的研究人員正在向那些想訓練人工智慧程式的電腦科學家開放這個遊戲。 使用遊戲來測試人工智慧自學一套規則的能力是一種既定的方法,但迄今為止...