ibm將不再提供、開發或研究面部識別技術
IBM執行長ArvindKrishna在今天給國會的一封信中說，IBM將不再提供通用的面部識別或分析軟體。IBM告訴Verge，公司也將不再開發或研究這項技術。克里希納把這封信寄給了科裡·布克（D-NJ）和卡馬拉·哈里斯（D-CA）以及眾議員。凱倫·巴斯（D-CA）、哈基姆·傑弗里斯（D-NY）和傑羅爾德·納德勒（D-NY）。
“IBM堅決反對並不會縱容將任何[面部識別]技術（包括其他供應商提供的面部識別技術）用於大規模監視、種族貌相、侵犯基本人權和自由，或任何不符合我們信任和透明的價值觀和原則的目的，” 克里希納在信中說。“我們認為，現在是時候開始全國對話，討論國內執法機構是否應該以及如何使用面部識別技術。”
由於人工智慧的進步，人臉識別軟體在過去十年裡有了很大的進步。與此同時，這項技術——因為它通常是由私營公司提供的，幾乎沒有監管或聯邦監督——已被證明在年齡、種族和種族方面存在偏見，這可能使這些工具在執法和安全方面不可靠，併為潛在的侵犯公民權利行為埋下伏筆。
2018年，Joy Buolamwini和Timnit Gebru的研究首次揭示了許多商業面部識別系統（包括IBM的）存在偏見的程度。這項工作和兩人隨後的研究導致了對這些演算法的主流批評和正在進行的糾正偏見的嘗試。
例如，2019年12月，美國國家標準與技術研究所（National Institute of Standards and Technology）的一項研究發現，“經驗證據表明，在目前評估的大多數人臉識別演算法中，存在廣泛的人口統計學差異準確性。”。這項技術在侵犯隱私方面的作用也受到了抨擊。
值得注意的是，NIST的研究沒有包括亞馬遜的技術，亞馬遜是為數不多的向執法部門銷售面部識別軟體的主要科技公司之一。然而，該專案的名稱Rekognition也因其準確性而受到批評。2018年，美國公民自由聯盟（American Civil Liberties Union）發現，Rekognition錯誤地將28名國會議員與25000張公眾照片中挑選的面孔進行了匹配。
另一家名為Clearview AI的公司從今年早些時候開始受到嚴格審查，當時發現其面部識別工具由30多億張圖片組成，這些圖片部分來自社交媒體網站，目前正被私營企業和執法機構廣泛使用。Clearview已經發布了大量的停止和停止命令，並且是許多隱私訴訟的中心。今年1月，Facebook還被要求支付5.5億美元，以解決其非法使用面部識別技術的集體訴訟。
IBM試圖幫助解決面部識別中的偏見問題，在2018年釋出了一個公共資料集，旨在幫助減少偏見，作為面部識別模型訓練資料的一部分。但IBM也被發現在未經受試者同意的情況下共享了一組單獨的培訓資料，其中包括2019年1月從Flickr拍攝的近100萬張照片——儘管這些照片是在知識共享許可下共享的。IBM當時在一份宣告中告訴Verge，資料集只能由經過驗證的研究人員訪問，並且只包括公開的影象。該公司還表示，個人可以選擇退出資料集。
克里希納在信中還主張警察改革，認為應將更多警察不當行為案件納**邦**的管轄範圍，國會應修改合格豁免原則等措施。此外，克里希納說，“我們需要為所有美國人創造更加開放和公平的途徑，讓他們獲得適銷對路的技能和培訓”，他建議國會考慮在全國範圍內推廣P-TECH學校模式，並擴大佩爾助學金的資格。
更新，美國東部時間6月9日凌晨2:45：這個故事已經更新，以參考人工智慧研究人員Joy Buolamwini和Timnit Gebru的工作，他們的2018性別陰影專案提供了第一個全面的面部識別系統偏見的實證資料。
- 發表於 2021-04-19 01:49
- 閱讀 ( 37 )
- 分類：網際網路
你可能感興趣的文章
facebook正在扼殺沒人使用的瞬間應用
... Facebook將於2019年2月25日關閉Moments。之後，該應用程式將不再可用。據CNET報道，這僅僅是因為使用它的人不多，儘管Facebook拒絕分享任何實際數字。 ...
用這個瀏覽器小遊戲發現人工智慧情感識別的愚蠢
...情感的能力的說法根本上是錯誤的，劍橋大學的研究人員開發的一款瀏覽器內網路遊戲旨在說明原因。 前往emojify.info資訊，你可以透過網路攝像頭看到你的情緒是如何被你的電腦...
底特律一男子起訴警方根據面部識別錯誤逮捕他
...名被誣告在商店行竊的男子起訴底特律警察局，因為他的面部識別匹配不正確而逮捕了他。美國公民自由聯盟（American Civil Liberties Union）代表羅伯特·威廉姆斯（Robert Williams）提起訴訟，稱他是第一個因面部識別而被錯誤逮捕的...
英特爾推出了realsense id，面部識別技術，該技術使用了該公司的深度感測攝像頭
...發現面部識別軟體對種族和性別都有偏見，這就為假陽性提供了可能性。例如，亞馬遜面部識別軟體Rekognition的一個版本，與白人**相比，識別**或深色面板的人要困難得多。 英特爾已經採取措施，透過構建一個更加多樣化的人...
當執法部門試圖識別國會暴徒時，clearview人工智慧面部識別技術的使用受到了刺激
...Clearview AI在5月份表示，將停止向私人公司**其技術，而只提供給執法部門使用。據Clearview稱，全美約有2400家執法機構使用Clearview的軟體。 更新時間：美國東部時間1月10日下午12:49：增加了ACLU的評論
ftc與以面部識別為中心的照片儲存應用程式達成和解
...規模的業務”，因此四年後，該應用改用了面部識別技術提供商。報告發現，這款應用程式一直在利用客戶的私人照片來訓練面部識別演算法，然後將其**給客戶。 該公司當時表示，從未共享個人使用者資料。它的隱私政策說“...
人臉識別系統越來越善於識別蒙面人
...時，錯誤率飆升至5%至50%。 但是，這種流行病給了開發者足夠的時間來關注面具問題，NIST的資料顯示，人臉識別演算法在處理蒙面人臉方面越來越好。如果沒有遮罩，最好的演算法的錯誤匹配率大約為0.3%——但當戴上高覆...
馬薩諸塞州即將成為第一個禁止警察使用面部識別的州
...相、大規模監視和其他侵犯公民權利行為的批評後，它將不再開發該技術。
有關面罩的聯邦機構將阻撓面部識別技術
...內部提出擔憂，稱用於防止COVID-19擴散的面罩可能會干擾面部識別技術。它似乎還擔心，即使在COVID-19大流行結束後，人們仍會使用口罩逃避執法。 5月22日的一份公告與包括移民和海關執法在內的其他聯邦機構共同起...
一項新的政府研究稱，面具正在破壞面部識別演算法
...部識別工作原理稍有不同，例如，iphone使用深度感測器來提供額外的安全性，確保演算法不會被顯示給攝像頭的圖片所欺騙（這在NIST關注的場景中是不存在的危險）。 儘管有很多關於面具阻礙面部識別的軼事證據，但NIST的研究...
