在一个你的在线身份与你直接相连的世界里，完美复制的前景令人担忧。但这正是我们面对的技术的出现。

随着这项技术变得更便宜、更容易使用，深赝品的危险是什么？此外，你怎么能发现一个真正的假交易？

什么是假货(a deepfake)？

一个深假的名字是给媒体的视频或图像中的人被替换为其他人的肖像。这个术语是“深度学习”和“假”的组合，它使用机器学习算法和人工智能来创建真实而又合成的媒体。

在最基本的情况下，您可能会发现一个面叠加到另一个模型上。最糟糕的是，deepfake技术将毫无防备的受害者缝进了假色情视频、假新闻、骗局等等。

您可以在我们的deepfake解释程序中阅读更多有关该技术起源的信息。

什么是假货的危险(the dangers of deepfakes)？

假图像一直存在。弄清楚什么是假的，什么不是假的，是生活中很常见的一部分，尤其是在数字化媒体兴起之后。但假冒技术造成的问题是不同的，给假冒图像和假冒视频带来了无与伦比的准确性。

乔丹•皮尔（Jordan Peele）在一段讨论当前问题的视频中模仿巴拉克•奥巴马（Barack Obama），这是最早受到广泛关注的假视频之一：

这段视频看起来很粗糙，声音很奇怪，克隆人的脸上有颗粒状的人工制品。尽管如此，这说明了假冒技术的存在。

或者你有没有想过如果威尔·史密斯在《黑客帝国》中扮演尼奥而不是基努·里夫斯（我是说，谁没有？！）会是什么样子？别再奇怪了：

这两个视频不是恶意的，需要数百小时的机器学习来编译。但是，任何有足够时间学习和计算能力的人都可以使用同样的技术。使用deepfake技术的障碍最初是相当高的。但随着技术的进步和进入壁垒的显著降低，人们发现了假货的负面和有害用途。

在我们深入研究深度假货的阴暗面之前，以下是吉姆·凯瑞取代杰克·尼科尔森出演《闪亮的未来》：

1以名人为主角的假**材料

deepfake技术的主要威胁之一是合成**材料，也就是众所周知的deepfake色情。有数以万计的假***频以艾玛·沃森、娜塔莉·波特曼和泰勒·斯威夫特等著名**名人的面孔为特征。

所有这些都使用深度假机器学习算法将名人的脸缝在一位成年**女演员的身上，所有这些都在众多**内容网站上吸引了数千万的浏览量。

然而，这些网站都没有针对名人假货做任何事。

“除非有强有力的理由让他们试图把它们取下来并过滤掉，否则什么都不会发生，”deepfake检测和分析公司Sensity的首席执行官兼首席科学家乔治·帕特里尼（Giorgio Patrini）说人们仍然可以自由上传这类材料，而不会对这些被数亿人浏览的网站造成任何后果。”

这些视频是剥削性的，远不像一些假冒创作者所说的那样没有受害者。

2以普通人为主角的假**材料

有什么比名人合成***更糟糕？没错：以毫无戒心的女人为主角的假**素材。一项敏感度研究发现，社交信息应用程序Telegram上有一个deepfake机器人，创造了超过10万张deepfake**图片。很多图片都是从社交媒体账户中盗取的，包括朋友、女朋友、妻子、母亲等。

机器人是deepfake技术的一大进步，因为图像上传者不需要deepfake、机器学习或人工智能的现有知识。这是一个自动化的过程，需要一个单一的图像。此外，Telegram机器人似乎只适用于**图像，而且高级订阅（更多图像，删除水印）的成本低得离谱。

像名人的假照片一样，电报机器人的假照片也是剥削性的、虐待性的和不道德的。他们很容易就进入丈夫、伴侣、家庭成员、同事或老板的收件箱，在这个过程中毁掉了自己的生活。勒索和其他形式勒索的可能性非常高，而且它加大了现有问题的威胁，例如报复色情。

在电报上贴假照片也会引起另一个问题。Telegram是一种以隐私为中心的消息服务，不会对用户造成太多干扰。它确实有一个删除色情机器人和其他与**资料有关的机器人的政策，但在这种情况下没有采取任何行动。

三。骗局材料

你见过乔丹·皮尔扮演奥巴马。在那段视频中，他警告说，假货的危险。关于deepfake技术的一个主要担忧是，有人会**和发布一个如此逼真的视频，从而导致某种形式的悲剧。

在最极端的情况下，人们说假视频内容可能引发战争。但也有其他重大后果。例如，一个大公司或银行首席执行官发表破坏性声明的假视频可能引发股市崩盘。同样，这是极端的。但真正的人可以检查和验证一段视频，而全球市场对新闻的反应是即时的，而且自动抛售确实发生了。

另一个要考虑的是体积。随着deepfake内容的**成本越来越低，它增加了同一个人的大量deepfake内容的可能性，重点是以不同的音调、地点、风格等传递相同的假消息。

4否认真实材料

作为骗局材料的延伸，你必须考虑到deepfakes将变得难以置信的真实。以至于人们开始质疑一段视频是真是假，而不管内容如何。

如果有人犯罪，唯一的证据就是视频，怎么阻止他们说“这是假的，是**”？反过来说，为别人寻找假视频证据怎么样？

5假思想领袖和社会交往

已经有好几个例子涉及假冒内容冒充思想领袖。LinkedIn和Twitter上的个人资料详细描述了在战略组织中的高级角色，然而这些人并不存在，而且很可能是使用deepfake技术生成的。

也就是说，这不是一个具体的问题。从一开始，**、间谍网络和公司就利用虚假的个人资料和人物来收集信息、推动议程和操纵活动。

6网络钓鱼诈骗、社会工程和其他诈骗

在安全方面，社会工程已经是一个问题。人们想相信别人。这是我们的天性。但这种信任会导致安全漏洞、数据盗窃等。社会工程通常需要个人联系，比如通过电话、视频通话等等。

假设有人可以使用deepfake技术来模仿导演，以获取安全代码或其他敏感信息。在这种情况下，可能会导致大量的假骗局。

如何识别和检测假货

随着deepfake质量的提高，发现一个deepfake是很重要的。在早期，有一些简单的线索：模糊的图像，视频腐蚀和文物，以及其他不完善。然而，在使用这项技术的成本迅速下降的同时，这些问题正在减少。

没有完美的方法来检测虚假内容，但这里有四个方便的提示：

1. 细节。尽管这项技术正在变得越来越好，但它仍在努力解决一些问题。特别是视频中的细微细节，如头发运动、眼球运动、脸颊结构和说话时的运动，以及不自然的面部表情。眼球运动是个大问题。虽然deepfakes现在可以有效地眨眼（在早期，这是一个主要的线索），但眼球运动仍然是一个问题。
2. 情感。与细节有关的是情感。如果有人在做一个强有力的陈述，他们的脸在表达细节时会表现出一系列的情绪。假货不能像真人一样表达深沉的情感。
3. 不一致。视频质量达到了历史最高水平。你口袋里的智能**可以用4K进行录音和传输。如果一位政治领导人正在发表声明，它就在一间满是顶级录音设备的房间前。因此，视觉和听觉记录质量差是一个明显的不一致。
4. 来源。视频是否出现在经过验证的平台上？社交媒体平台使用验证来确保全球知名人士不会被模仿。当然，系统有问题。但是，检查一个特别惊人的视频是从哪里流出来的，或者是在哪里被托管的，这将帮助你弄清楚它是真的还是假的。您也可以尝试执行反向图像搜索，以显示在internet上找到图像的其他位置。

发现和防止假货的工具

不是只有你一个人在反对发现假货。几家主要的科技公司正在开发用于deepfake检测的工具，而其他平台正在采取措施永久阻止deepfake。

例如，Microsoft的deepfake检测工具Microsoft Video Authenticator将在几秒钟内进行分析，告知用户其真实性（请查看下面的GIF以获取示例）。同时，Adobe允许您对内容进行数字签名，以保护其不受操纵。

像Facebook和Twitter这样的平台已经禁止了恶意的deepfakes（像《黑客帝国》中的Will Smith这样的deepfakes仍然是公平的游戏），而Google正在开发一个文本到语音分析工具来对付假音频片段。

如果你想温习你的假媒体检测技能，请查看我们的假检测测试列表，以便发现和学习。

假货来了，而且越来越好

事实是，自2018年深度假货成为主流以来，它们的主要用途就是虐待**。无论是用名人的脸**假色情，还是在社交媒体上从某人身上剥下衣服，这一切都集中在剥削、操纵和侮辱世界各地的**。

毫无疑问，一场假货暴动即将发生。这类技术的兴起对公众构成了威胁，但却几乎没有办法阻止其前进。