用這個ai隱私工具偽裝你的照片來愚弄面部識別
無處不在的人臉識別是對隱私的嚴重威脅。我們分享的照片被公司用來訓練商業上銷售的演算法，這種想法令人擔憂。任何人都可以購買這些工具，拍一張陌生人的照片，並在幾秒鐘內找出他們是誰。但是研究人員已經想出了一個聰明的方法來幫助解決這個問題。
這個解決方案是一個名為福克斯的工具，由芝加哥大學沙實驗室的科學家發明。福克斯以革命家在《V代表仇殺》漫畫書和電影中戴的福克斯面具命名，福克斯利用人工智慧巧妙地、幾乎不易察覺地改變你的照片，以欺騙面部識別系統。
軟體的工作方式有點複雜。透過福克斯瀏覽你的照片並不能讓你完全看不見面部識別。相反，該軟體會對你的照片進行細微的更改，這樣以後任何掃描這些影象的演算法都會將你視為完全不同的人。基本上，在你的照片上執行福克斯就像在你的**中新增一個隱形面具。
科學家稱這一過程為“掩蔽”，目的是破壞面部識別系統執行所需的資源：從社交媒體上搜集的面部資料庫。例如，面部識別公司Clearview AI聲稱，他們從Facebook、YouTube和Venmo等網站收集了大約30億張面部影象，並用這些影象來識別陌生人。但是，研究人員說，如果你在網上分享的照片是透過福克斯瀏覽的，那麼演算法所知道的那張臉實際上就不是你自己的了。
芝加哥大學的研究小組稱，福克斯在與微軟（Azure Face）、亞馬遜（Amazon）和中國科技巨頭Megvii的Face++等最先進的人臉識別服務的較量中取得了100%的成功。
幫助建立福克斯軟體的芝加哥大學電腦科學教授Ben Zhao告訴《邊緣報》：“我們正在做的是，本質上像特洛伊木馬一樣，利用隱形照片，對未經授權的模特進行**，以瞭解讓你看起來像自己而不是別人的錯誤資訊。”。“一旦**發生，無論你走到哪裡或被人看到，你都會得到持續的保護。”
這項工作的幕後推手肖恩山、艾米莉·溫格、張嘉雲、李慧穎、鄭海濤和趙本義今年早些時候發表了一篇關於該演算法的論文。但上個月底，他們還發布了福克斯作為Windows和mac的免費軟體，任何人都可以下載和使用。到目前為止，他們說它已經被下載了超過10萬次。
在我們自己的測試中，我們發現福克斯的設計很稀疏，但很容易應用。處理每幅影象需要幾分鐘的時間，而它所做的改變大多是難以察覺的。本週早些時候，《****》發表了一篇關於福克斯的報道，其中指出隱形效果相當明顯，經常會對圖片進行性別改變，比如給**留鬍子。但是福克斯團隊說，更新後的演算法要微妙得多，Verge自己的測試也同意這一點。
但是福克斯是隱私的靈丹妙藥嗎？這是可疑的。首先，是領養的問題。如果你讀了這篇文章，決定用福克斯來掩蓋你將來上傳到社交媒體上的任何照片，你肯定是少數。面部識別令人擔憂，因為這是一個全社會的趨勢，所以解決方案也需要全社會。如果只有精通技術的人才會保護自己，那隻會造成不平等和歧視。
第二，許多**人臉識別演算法的公司很久以前就建立了他們的人臉資料庫，你不能追溯這些資訊。Clearview的執行長HoanTonThat也對《****》說了同樣的話。他說：“網際網路上有數十億張未經修改的照片，都在不同的域名上。”。“實際上，要完善福克斯這樣的技術並大規模部署，幾乎肯定為時已晚。”
不過，福克斯背後的團隊自然不同意這種評價。他們指出，儘管像Clearview這樣的公司聲稱擁有數十億張照片，但如果你認為他們應該識別數以億計的使用者，這並不意味著什麼。“對很多人來說，Clearview只有極少數公開的照片，”趙說。他說，如果人們在未來發布更多的隱藏照片，隱藏影象的數量遲早會超過未隱藏影象的數量。
不過，在採用方面，福克斯團隊承認，要讓他們的軟體發揮真正的作用，就必須更廣泛地釋出。出於安全考慮，他們沒有計劃開發網路或移動應用程式，但希望像Facebook這樣的公司將來可以將類似的技術整合到自己的平臺中。
趙說，整合這項技術符合這些公司的利益。畢竟，像Facebook這樣的公司不希望人們停止分享照片，而且這些公司在將照片隱藏在公共網站之前，仍然能夠從圖片中收集他們需要的資料（用於照片標記等功能）。雖然現在整合這項技術對當前使用者的影響可能很小，但它有助於說服未來關注隱私的幾代人加入這些平臺。
“被更大的平臺採用，例如Facebook或其他平臺，最終可能會對Clearview產生嚴重影響，基本上會使（他們的技術）變得非常無效，不再有用，或者作為一項服務在財務上不可行，”趙說。“Clearview.ai公司因為不再相關或不準確而停業，作為我們工作的結果，我們會感到滿意。”
- 發表於 2021-04-18 04:03
- 閱讀 ( 31 )
- 分類：網際網路
你可能感興趣的文章
iphonex上的faceid有用嗎？
...果你擔心的話，一定要在光線好的地方掃描。其他人試圖用這種可怕的面具來愚弄iphonex，不過蘋果公司的菲爾•席勒（philschiller）堅持認為，另一個使用者愚弄faceid的可能性是100萬分之一，而Touch-ID則是5萬分之一。 ...
買iphonex？臉上的id可能會讓你重新考慮
... 基於這個功能，iphonex有多安全？是隱私問題嗎？蘋果能訪問一個龐大的人人臉資料庫嗎？ ...
5個搜尋人臉的迷人搜尋引擎
...中，TinEye發現了三個結果，其中一個谷歌沒有收錄，因為這個網站在幾年前就死了。此外，它還錯過了它的老大哥得到的一個新結果。對我來說，這表明TinEye的搜尋索引已經過時了。 ...
面部識別搜尋是如何破壞你的隱私的
... 公民自由組織極力反對採用這種制度。然而，人們似乎對此充耳不聞。在撰寫本文時，美國國會拒絕監管面部識別，亞馬遜董事會投票決定繼續銷售該軟體。他們缺乏透明度，使他們成為一個公司...
避免在網上和公共場合出現面部識別的4種方法
...合法性的激烈辯論仍在繼續，**和執法部門越來越多地使用這種軟體。更不用說使用某種面部識別的私人公司的數量了。 ...
什麼是機器學習演算法？他們是這樣工作的
...基於流行的標籤。由於小孩子不是很有鑑別力的觀眾，使用這些關鍵字的垃圾影片吸引了數以百萬計的觀眾。人工智慧根據趨勢標籤，使用股票動畫元素自動生成其中一些影片。即使這些影片是由動畫師**的，它們的標題也是專...
用這個瀏覽器小遊戲發現人工智慧情感識別的愚蠢
科技公司不只是想透過面部識別來識別你，他們還想借助人工智慧來解讀你的情緒。然而，對於許多科學家來說，關於計算機理解情感的能力的說法根本上是錯誤的，劍橋大學的研究人員開發的一款瀏覽器內網路遊戲旨在說明原...
openai最先進的機器視覺ai被手寫的筆記愚弄了
...龐大的影象和文字對資料庫進行訓練，學會識別物件。在這個案例中，OpenAI使用了從網際網路上刮下來的大約4億個影象-文字對來**訓練剪輯，這個剪輯於今年1月釋出。 本月，OpenAI的研究人員發表了一篇新的論文，描述了他們是...
加拿大隱私專員說，clearview的面部識別技術是非法的大規模監視
加拿大隱私專員週三表示，Clearview人工智慧的面部識別相當於大規模監控，該公司應該從其資料庫中刪除加拿大人的面部。 專員丹尼爾·瑟裡恩說，Clearview所做的事情——從社交媒體和其他公共網站上刮下照片供執法...
明尼阿波利斯警方禁止使用面部識別軟體
...的情況下制定的，他認為面部識別技術有可能“根據資料隱私和其他公民法律保護加以利用”。人們發現，面部識別軟體存在年齡、種族和種族偏見，隱私權倡導者對執法部門使用該軟體表示擔憂。明尼阿波利斯的法令建立了一...
