去年夏天，一段马克·扎克伯格的视频在Instagram上流传，Facebook首席执行官似乎声称他“完全控制了数十亿人被盗的数据，所有的秘密，他们的生活，他们的未来。”结果证明这是一个艺术项目，而不是蓄意误导，但Facebook允许它留在这个平台上。据该公司称，它没有违反任何政策。

对一些人来说，这表明，大型科技公司并没有准备好应对人工智能**的假媒体（deepfakes）的冲击。但这不一定是Facebook的错。Deepfakes很难控制，不是因为它们很难被发现（尽管它们可以），而是因为它的分类非常广泛，任何试图“取缔”人工智能编辑的照片和视频的行为最终都会影响到一整条无害的内容。

完全禁止深度伪造将意味着删除流行的笑话，如性别交换的Snapchat**和人工老化的脸。禁止在政治上具有误导性的假货只会导致科技公司多年来面临的同样的政治温和问题。考虑到没有简单的算法可以自动识别人工智能编辑的内容，无论他们颁布什么禁令，都意味着要为四面楚歌的人类版主创造更多的作品。对于Facebook这样的公司来说，没有简单的选择。

“如果你认为‘deepfake’是指任何通过机器学习编辑的视频或图像，那么它适用于这么一个庞大的类别，以至于不清楚它是否有任何意义，”哈佛-麻省理工学院（Harvard-MIT）伦理和人工智能治理计划（AI initiatim）的前主任蒂姆•黄（Tim Hwang）告诉《边缘》（Verge）。“如果我有我的druthers，我不确定我是否有，我会说，我们应该考虑深假的方式是作为一个意图的问题。你想在你正在创建的媒体上实现什么？”

值得注意的是，这似乎是大平台实际采取的方向。Facebook和Reddit上周都宣布了针对深度仿冒的温和政策，他们并没有试图彻底消除这种模式，而是将重点放在了更窄的范围内。

Facebook表示，它将删除“**纵的、误导性的媒体”，这些媒体使用人工智能或机器学习进行“编辑或合成”，其方式对普通人来说并不明显，可能会误导人们认为视频中的某个主题说了他们实际上没有说的话。”但该公司指出，确实如此不包括“戏仿或讽刺”或使用传统手段进行的误导性编辑，比如去年众议院议长南希·佩洛西（Nancy Pelosi）的病毒式视频，据说她的话含糊不清。

与此同时，Reddit完全没有提到人工智能，而是说它将删除“以误导或欺骗的方式模仿个人或实体”的媒体。它还为“讽刺和模仿，并补充说，它将“始终考虑任何特定内容的上下文”-这一宽泛的警告，使其mods有很大的回旋余地。

正如许多人指出的那样，这些政策充满了漏洞。威尔·奥雷莫斯在OneZero撰文指出，Facebook’例如，s只涵盖包括演讲在内的编辑媒体。这意味着“一段伪造的视频，看起来像是一个政客烧了房子

美国国旗，参加白人民族主义**，或与****握手” 不会被禁止— Facebook向奥雷姆斯证实了一些事情。

这些都是明显的遗漏，但它们凸显了将深度伪造与平台适度的潜在问题分离开来的困难。尽管近年来有许多报道“深假” 作为同义词“政治误传，” 实际的定义要宽泛得多。到2020年，问题只会变得更糟。

虽然早期版本的deepfake软件需要一些耐心和技术技巧来使用，但下一代将使创建deepfake变得像发布一样简单。使用人工智能编辑视频（deepfake的标准定义）的应用程序将变得司空见惯，随着它们的传播——用于笑话、品牌推特、欺凌、骚扰以及介于两者之间的一切——将deepfake视为对在线真相的独特威胁的想法将逐渐消失。

就在本周，一个名为Doublicat的应用程序在iOS和Android上启动，它使用机器学习粘贴用户’ 面对大众的反应天赋。现在它只适用于预先挑选的天才，但公司’s CEO告诉边缘’我允许用户在将来将面**他们喜欢的任何内容中，这是由一种机器学习方法（称为GAN）提供支持的。

所有这些是否使Doublicat成为一个假冒的应用程序？是的。它会破坏民主吗？可能不会。

看看它的输出质量，如下面的GIF所示，它显示了我的脸贴在chrispratt的《公园和娱乐》上。从技术上讲，它令人印象深刻。这个应用程序只需几秒钟就可以从一张照片中生成GIF。但它永远不会被误认为是真的。与此同时，TikTok的创建者ByteDance一直在尝试使用deepfake功能（尽管它表示不会将这些功能整合到它广受欢迎的应用程序中），Snapchat最近推出了自己的面部交换工具。

黄光裕认为，从长远来看，淡化“假货”一词实际上可能有好处。“我认为，人们说所有这些消费功能都是深度假货的最大讽刺是，它在某种程度上把深度假货的含义商品化了，” 黄说。如果假货变得平常而不起眼，那么人们就会“熟悉这项技术能做什么，” 他说。然后，希望我们能更好地理解它，把重点放在错误信息和政治宣传的根本问题上。

有人可能会说，在社交媒体上控制深度造假的问题从一开始就主要是分散注意力。人工智能编辑的政治宣传未能以有意义的方式实现，研究显示，绝大多数深度假货都是非感官色情（占网络深度假货视频的96%）。

社交媒体平台已经很高兴地参与到关于适度的辩论中，但正如Facebook和Reddit最近的声明所显示的那样，这些努力大多只是一场旁敲侧击。核心问题没有改变：谁可以在互联网上撒谎，谁来决定他们是否在撒谎？一旦深度伪造不再是对真理的生存威胁，我们将面临同样的、不变的问题，比以往任何时候都更加紧迫。