因為測試軟體看不到有色人種的學生，有色人種的學生被老師盯上了
主機板公司的一份報告稱，Proctorio是一款考試監控軟體，旨在防止學生在考試時作弊，它依賴於一款開源軟體，該軟體有種族偏見問題的歷史。這個問題是由一個學生髮現的，他發現這個軟體是如何進行面部檢測的，並且發現它在一半的時間裡都不能識別出黑色的面孔。
Proctorio和其他類似的程式，是為了在學生參加考試時監視他們。然而，許多有色人種的學生報告說，他們在讓軟體看到他們的臉時遇到了問題——有時不得不採取極端的措施讓軟體識別他們。這可能會引起學生的問題：如果Proctorio沒有檢測到他們的臉，它會把他們標記給老師。
在軼事般地聽說了這些問題後，Akash Satheesan決定研究一下該軟體使用的面部檢測方法。他發現，它的外觀和效能與OpenCV完全相同，OpenCV是一個開源的計算機視覺程式，可以用來識別人臉（過去曾有種族偏見的問題）。在學習了這一點之後，他使用OpenCV和一個數據集進行了測試，該資料集旨在驗證機器視覺演算法處理不同人臉的能力。根據他的第二篇博文，結果並不好。
該軟體不僅在超過一半的時間裡無法識別黑人面孔，而且在識別任何種族的面孔方面也不是特別擅長——最高的命中率在75%以下。在報告中，主機板聯絡了一位安全研究員，他能夠驗證Satheesan的結果和分析。Proctorio本身也證實了它在其許可證頁面上使用OpenCV，儘管它沒有詳細說明如何使用OpenCV。
Proctorio的一位發言人在給主機板的一份宣告中說，Satheesan的測試證明，該軟體只檢測人臉，而不識別與人臉相關的身份。好吧，這可能是一個（小）安慰學生誰可能是正確的擔心隱私問題有關的監考軟體，它沒有解決的指控種族偏見在所有。
這並不是第一次Proctorio因為不能識別不同的面孔而受到指責：一所大學把它給有色人種學生帶來的問題作為它不願與公司續約的理由。參議員理查德布盧門撒爾（RichardBlumenthal）甚至在談到監控軟體中的偏見時對公司發出了呼籲。
雖然程式碼中的種族偏見並不是什麼新鮮事，但看到它影響到那些只想完成學業的學生，尤其是在一些人只能選擇遠端學習的一年裡，尤其令人痛心。
- 發表於 2021-04-15 20:59
- 閱讀 ( 42 )
- 分類：網際網路
你可能感興趣的文章
偏見(prejudice)和歧視(discrimination)的區別
...另一方面，歧視是指對這些事物和人的行為或行為。只是因為我們不喜歡某樣東西或某個人，我們就對他產生了許多成見，並開始歧視他。歧視存在於我們的本性和血液中。我們區別對待不同種類的食物，不是嗎？但是，這是無...
examsoft的proctoring軟體存在人臉檢測問題
...攝的圖片進行比較。此外，考生可以在參加任何考試之前測試ExamID如何驗證他們的特定圖片，以幫助減輕考試期間圖片匹配問題的壓力。” 更新時間：美國東部時間1月6日上午11:14：ExamSoft添加了宣告。
蘋果的第一個主要種族股權投資包括底特律開發中心和哈佛商業大學科技中心
...裁麗莎•傑克遜（Lisa Jackson）負責這一舉措，意在“挑戰有色人種社群，尤其是黑人社群存在的機會和尊嚴的系統性障礙”。 Facebook、微軟、谷歌和其他科技巨頭也做出了類似的承諾，投入數百萬美元用於種族平等倡議。
一位教育部技術專家公開談論遠端測試軟體，現在他被起訴了
...letter的經歷只是一系列涉及Proctorio的高調爭吵中的一個，因為老師和學生們都在呼喚他們所認為的侵入性追蹤。但正如評論家們發現的那樣，這項法律給了普羅克托里奧一個意想不到的優勢，允許該公司透過訴諸版權法來關閉批...
她創造了一個虛假的推特人物-然後她用covid-19殺死了它
...歡麥克勞克林。 回想起來，這是有道理的，因為麥克勞克林捏造了她的整件衣服。根據《****》的一篇報道，自2016年以來，她一直在使用推特手柄@SciencingèBi釋出關於科學界性騷擾的帖子，她冒充一名美國土著教授，...
grindr將移除種族過濾器，以支援黑人生命物質運動
...中助長種族主義行為，但其他少數民族使用這個過濾器是因為他們想快速找到自己少數民族社群的其他成員。”。 其他應用程式，包括聯盟和鉸鏈，也允許使用者過濾掉某些種族的人。聯盟執行長阿曼達·布拉德福德（Amanda...
聯絡追蹤計劃必須與當地社群合作才能取得成功
...立信任的專案變得更加重要。 “我認為很多人不信任，因為他們應該不信任，”Kangovi說。包括社群成員在內的聯絡追蹤計劃可以讓這些人與關注他們健康的機構重新聯絡起來。“這些不僅是遏制公共衛生大流行的重要因素，而...
蘋果推出價值1億美元的種族平等與正義倡議
蘋果公司正在發起一項耗資1億美元的計劃，旨在促進有色人種的種族平等，重點是“教育、經濟平等和刑事司法改革”。該計劃名為“蘋果公司種族平等與司法倡議”，將由蘋果公司副總裁麗莎·傑克遜（Lisa Jackson）領導。 ...
一個機器學習工具能（也不能）告訴我們什麼是人工智慧偏見
...如，準確反映英國人口結構的人臉資料集將以白人為主，因為英國以白人為主。在這些資料上訓練的演算法在白臉上比在非白臉上表現得更好。換句話說，“公平”的資料集仍然可以建立有偏見的系統。（在Twitter上的一篇帖子...
邁爾斯·莫拉萊斯將在今年秋天成為奇跡宇宙的主要蜘蛛俠
...超級英雄時，他們的朋友不會讓他們成為蝙蝠俠或超人，因為他們看起來不像那些英雄，但他們可以成為蜘蛛俠，因為任何人都可以戴著面具。” 邊緣影片：這是漫畫的數字時代
