在一個你的線上身份與你直接相連的世界裡，完美複製的前景令人擔憂。但這正是我們面對的技術的出現。

隨著這項技術變得更便宜、更容易使用，深贗品的危險是什麼？此外，你怎麼能發現一個真正的假交易？

什麼是假貨(a deepfake)？

一個深假的名字是給媒體的影片或影象中的人被替換為其他人的肖像。這個術語是“深度學習”和“假”的組合，它使用機器學習演算法和人工智慧來建立真實而又合成的媒體。

在最基本的情況下，您可能會發現一個面疊加到另一個模型上。最糟糕的是，deepfake技術將毫無防備的受害者縫進了假色情影片、假新聞、騙局等等。

您可以在我們的deepfake解釋程式中閱讀更多有關該技術起源的資訊。

什麼是假貨的危險(the dangers of deepfakes)？

假影象一直存在。弄清楚什麼是假的，什麼不是假的，是生活中很常見的一部分，尤其是在數字化媒體興起之後。但假冒技術造成的問題是不同的，給假冒影象和假冒影片帶來了無與倫比的準確性。

喬丹•皮爾（Jordan Peele）在一段討論當前問題的影片中模仿巴拉克•奧巴馬（Barack Obama），這是最早受到廣泛關注的假影片之一：

這段影片看起來很粗糙，聲音很奇怪，克隆人的臉上有顆粒狀的人工製品。儘管如此，這說明了假冒技術的存在。

或者你有沒有想過如果威爾·史密斯在《駭客帝國》中扮演尼奧而不是基努·裡夫斯（我是說，誰沒有？！）會是什麼樣子？別再奇怪了：

這兩個影片不是惡意的，需要數百小時的機器學習來編譯。但是，任何有足夠時間學習和計算能力的人都可以使用同樣的技術。使用deepfake技術的障礙最初是相當高的。但隨著技術的進步和進入壁壘的顯著降低，人們發現了假貨的負面和有害用途。

在我們深入研究深度假貨的陰暗面之前，以下是吉姆·凱瑞取代傑克·尼科爾森出演《閃亮的未來》：

1以名人為主角的假**材料

deepfake技術的主要威脅之一是合成**材料，也就是眾所周知的deepfake色情。有數以萬計的假***頻以艾瑪·沃森、娜塔莉·波特曼和泰勒·斯威夫特等著名**名人的面孔為特徵。

所有這些都使用深度假機器學習演算法將名人的臉縫在一位成年**女演員的身上，所有這些都在眾多**內容網站上吸引了數千萬的瀏覽量。

然而，這些網站都沒有針對名人假貨做任何事。

“除非有強有力的理由讓他們試圖把它們取下來並過濾掉，否則什麼都不會發生，”deepfake檢測和分析公司Sensity的執行長兼首席科學家喬治·帕特里尼（Giorgio Patrini）說人們仍然可以自由上傳這類材料，而不會對這些被數億人瀏覽的網站造成任何後果。”

這些影片是剝削性的，遠不像一些假冒創作者所說的那樣沒有受害者。

2以普通人為主角的假**材料

有什麼比名人合成***更糟糕？沒錯：以毫無戒心的女人為主角的假**素材。一項敏感度研究發現，社交資訊應用程式Telegram上有一個deepfake機器人，創造了超過10萬張deepfake**圖片。很多圖片都是從社交媒體賬戶中盜取的，包括朋友、女朋友、妻子、母親等。

機器人是deepfake技術的一大進步，因為影象上傳者不需要deepfake、機器學習或人工智慧的現有知識。這是一個自動化的過程，需要一個單一的影象。此外，Telegram機器人似乎只適用於**影象，而且高階訂閱（更多影象，刪除水印）的成本低得離譜。

像名人的假照片一樣，電報機器人的假照片也是剝削性的、虐待性的和不道德的。他們很容易就進入丈夫、伴侶、家庭成員、同事或老闆的收件箱，在這個過程中毀掉了自己的生活。勒索和其他形式勒索的可能性非常高，而且它加大了現有問題的威脅，例如報復色情。

在電報上貼假照片也會引起另一個問題。Telegram是一種以隱私為中心的訊息服務，不會對使用者造成太多幹擾。它確實有一個刪除色情機器人和其他與**資料有關的機器人的政策，但在這種情況下沒有采取任何行動。

三。騙局材料

你見過喬丹·皮爾扮演奧巴馬。在那段影片中，他警告說，假貨的危險。關於deepfake技術的一個主要擔憂是，有人會**和釋出一個如此逼真的影片，從而導致某種形式的悲劇。

在最極端的情況下，人們說假影片內容可能引發戰爭。但也有其他重大後果。例如，一個大公司或銀行執行長發表破壞性宣告的假影片可能引發股市崩盤。同樣，這是極端的。但真正的人可以檢查和驗證一段影片，而全球市場對新聞的反應是即時的，而且自動拋售確實發生了。

另一個要考慮的是體積。隨著deepfake內容的**成本越來越低，它增加了同一個人的大量deepfake內容的可能性，重點是以不同的音調、地點、風格等傳遞相同的假訊息。

4否認真實材料

作為騙局材料的延伸，你必須考慮到deepfakes將變得難以置信的真實。以至於人們開始質疑一段影片是真是假，而不管內容如何。

如果有人犯罪，唯一的證據就是影片，怎麼阻止他們說“這是假的，是**”？反過來說，為別人尋找假影片證據怎麼樣？

5假思想領袖和社會交往

已經有好幾個例子涉及假冒內容冒充思想領袖。LinkedIn和Twitter上的個人資料詳細描述了在戰略組織中的高階角色，然而這些人並不存在，而且很可能是使用deepfake技術生成的。

也就是說，這不是一個具體的問題。從一開始，**、間諜網路和公司就利用虛假的個人資料和人物來收集資訊、推動議程和操縱活動。

6網路釣魚詐騙、社會工程和其他詐騙

在安全方面，社會工程已經是一個問題。人們想相信別人。這是我們的天性。但這種信任會導致安全漏洞、資料盜竊等。社會工程通常需要個人聯絡，比如透過電話、影片通話等等。

假設有人可以使用deepfake技術來模仿導演，以獲取安全程式碼或其他敏感資訊。在這種情況下，可能會導致大量的假騙局。

如何識別和檢測假貨

隨著deepfake質量的提高，發現一個deepfake是很重要的。在早期，有一些簡單的線索：模糊的影象，影片腐蝕和文物，以及其他不完善。然而，在使用這項技術的成本迅速下降的同時，這些問題正在減少。

沒有完美的方法來檢測虛假內容，但這裡有四個方便的提示：

1. 細節。儘管這項技術正在變得越來越好，但它仍在努力解決一些問題。特別是影片中的細微細節，如頭髮運動、眼球運動、臉頰結構和說話時的運動，以及不自然的面部表情。眼球運動是個大問題。雖然deepfakes現在可以有效地眨眼（在早期，這是一個主要的線索），但眼球運動仍然是一個問題。
2. 情感。與細節有關的是情感。如果有人在做一個強有力的陳述，他們的臉在表達細節時會表現出一系列的情緒。假貨不能像真人一樣表達深沉的情感。
3. 不一致。影片質量達到了歷史最高水平。你口袋裡的智慧**可以用4K進行錄音和傳輸。如果一位政治領導人正在發表宣告，它就在一間滿是頂級錄音裝置的房間前。因此，視覺和聽覺記錄質量差是一個明顯的不一致。
4. 來源。影片是否出現在經過驗證的平臺上？社交媒體平臺使用驗證來確保全球知名人士不會被模仿。當然，系統有問題。但是，檢查一個特別驚人的影片是從哪裡流出來的，或者是在哪裡被託管的，這將幫助你弄清楚它是真的還是假的。您也可以嘗試執行反向影象搜尋，以顯示在internet上找到影象的其他位置。

發現和防止假貨的工具

不是隻有你一個人在反對發現假貨。幾家主要的科技公司正在開發用於deepfake檢測的工具，而其他平臺正在採取措施永久阻止deepfake。

例如，Microsoft的deepfake檢測工具Microsoft Video Authenticator將在幾秒鐘內進行分析，告知使用者其真實性（請檢視下面的GIF以獲取示例）。同時，Adobe允許您對內容進行數字簽名，以保護其不受操縱。

像Facebook和Twitter這樣的平臺已經禁止了惡意的deepfakes（像《駭客帝國》中的Will Smith這樣的deepfakes仍然是公平的遊戲），而Google正在開發一個文字到語音分析工具來對付假音訊片段。

如果你想溫習你的假媒體檢測技能，請檢視我們的假檢測測試列表，以便發現和學習。

假貨來了，而且越來越好

事實是，自2018年深度假貨成為主流以來，它們的主要用途就是虐待**。無論是用名人的臉**假色情，還是在社交媒體上從某人身上剝下衣服，這一切都集中在剝削、操縱和侮辱世界各地的**。

毫無疑問，一場假貨暴動即將發生。這類技術的興起對公眾構成了威脅，但卻幾乎沒有辦法阻止其前進。