歐盟正在考慮禁止人工智慧用於大規模監控和社會信用評分

歐盟正在考慮禁止將人工智慧用於一些目的，包括大規模監視和社會信用評分。這是根據網上流傳的一份洩露的提議，由Politico首先報道，預計下週將有官方宣佈。...

歐盟正在考慮禁止將人工智慧用於一些目的，包括大規模監視和社會信用評分。這是根據網上流傳的一份洩露的提議，由Politico首先報道，預計下週將有官方宣佈。

如果提案草案獲得透過，歐盟將在人工智慧的某些應用上採取強硬立場，將其與美國和中國區分開來。一些用例將以類似於歐盟在GDPR立法下對數字隱私的監管的方式進行監管。

例如，成員國將被要求設立評估委員會，以測試和驗證高風險人工智慧系統。而在歐盟開發或銷售違禁人工智慧軟體的公司——包括總部設在世界其他地方的公司——可能被處以高達其全球收入4%的罰款。

根據《邊緣》看到的草案副本，條例草案包括：

禁止人工智慧進行“不分青紅皁白的監視”，包括在物理環境中直接跟蹤個人或從其他來源收集資料的系統
禁止人工智慧系統創造社會信用評分，這意味著根據社會行為或預測的個性特徵來判斷某人的可信度
在公共場所使用“遠端生物識別系統”的特別授權，如面部識別
當人們與人工智慧系統互動時需要通知，除非這是“從環境和使用環境中顯而易見的”
對“高風險”人工智慧系統的新監管，包括那些對安全構成直接威脅的系統，比如自動駕駛汽車，以及那些很有可能影響某人生計的系統，比如用於招聘、司法裁決和信用評分的系統
在高風險系統投入使用之前對其進行評估，包括確保這些系統對人類監督員是可解釋的，並且他們接受過“高質量”資料集的培訓，測試了偏差
建立一個“歐洲人工智慧委員會”，由每個國家的代表組成，以幫助委員會決定哪些人工智慧系統屬於“高風險”，並建議修改禁令

也許檔案中最重要的部分是第4條，它禁止人工智慧的某些使用，包括大規模監視和社會信用評分。不過，數字權利組織和政策專家對草案的反應是，這一部分需要改進。

accessnow的歐洲政策分析師丹尼爾•魯弗（danielleufer）對《邊緣報》表示：“對擬禁止的人工智慧系統的描述是模糊的，充滿了不清楚的語言，這將為漏洞創造嚴重的空間。”。他說，這一部分“遠不理想”

勒弗指出，禁止那些導致人們“行為、形成觀點或做出不利於他們的決定”的制度，是毫無幫助的含糊不清。國家法律究竟如何決定一項決定是否對某人不利？另一方面，Leufer說，禁止人工智慧進行大規模監控“過於寬鬆”。他補充說，禁止基於“可信”的人工智慧社會信用系統的定義也過於狹隘。社會信用體系不必評估一個人是否值得信任，就可以決定他們是否有資格享受福利待遇。

在Twitter上，非營利組織IAPP（國際隱私專業人士協會）的副主席奧馬爾•特內（omertene）評論說，這項規定“代表了布魯塞爾對待新技術和創新的典型做法。如果提案獲得透過，Tene說，它將創造一個“巨大的監管生態系統”，不僅吸引人工智慧系統的創造者，也吸引進口商、分銷商和使用者，並在全國和歐盟範圍內建立一批監管委員會。

不過，倫敦大學學院（universitycollege）數字權利與法規講師邁克爾•維爾（michaelveale）表示，這種生態系統主要不是為了限制“大科技”。Veale告訴the Verge：“在它的視野中，主要是業務和決策工具的知名度較低的供應商，他們的工作經常在沒有監管機構或他們自己的客戶審查的情況下滑落。”。對於確保為數不多的人工智慧公司銷售安全關鍵系統或招聘、解僱、教育和警務系統達到高標準的法律，人們幾乎不會掉淚。或許更有趣的是，這一制度將監管這些工具的購買者，例如，以確保有足夠權威的人為監督。”

在歐盟政策制定者為4月21日的正式宣佈做準備之際，還不知道該提案草案可能會有什麼變化。不過，一旦該法規被提出，將根據歐洲議會的反饋意見進行修改，並將在每個國家分別實施。

更新時間：美國東部時間4月14日上午11:03:00：更新了邁克爾·維勒的評論。