从自动驾驶汽车到智能监控摄像头，社会正慢慢学会相信人工智能胜过人眼。但是，尽管我们的新机器视觉系统不知疲倦，时刻保持警惕，但它们远非完美无缺。看看上面的玩具龟。它看起来像只乌龟，对吗？好吧，不是用谷歌训练的神经网络来识别日常物品。在谷歌的人工智能看来，它就像一把**。

这只3D打印的海龟就是一个被称为“对抗性图像”的例子。在人工智能世界里，这些图片是用来欺骗机器视觉软件的，结合了使人工智能系统翻转的特殊模式。把它们想象成计算机的视觉错觉。你可以**对抗性眼镜，欺骗面部识别系统，使其认为你是另一个人，也可以将对抗性图案作为一层几乎看不见的静电层应用于图片。人类看不出有什么区别，但对人工智能来说，这意味着熊猫突然变成了一辆皮卡车。

研究如何产生和防范这类对抗性攻击是一个非常活跃的研究领域。尽管这些攻击通常非常有效，但它们通常并不太强大。这意味着，如果你旋转一个敌对的图像或放大一点，计算机将看到过去的模式，并正确识别它。不过，这只3D打印的海龟之所以意义重大，是因为它展示了这些对抗性攻击在3D世界中的运作方式，从多个角度看，它愚弄了一台电脑。

发表这项研究的麻省理工学院学生团队labsix写道：“具体来说，这意味着有可能建造一个庭院销售标志，在人类驾驶者看来，这个标志很普通，但在自动驾驶汽车看来，可能是突然出现在街旁的行人。”当神经网络变得越来越普遍（和危险）时，对抗性的例子是人们必须考虑的一个实际问题。”

Labsix将他们的新方法称为“期望高于转换”，您可以在这里阅读他们的完整论文。除了**一只看起来像***的乌龟外，他们还**了一个棒球，让人对浓缩咖啡和许多非3D打印的测试感到困惑。他们选的课是随机的。

该小组测试了他们对谷歌开发的名为Inception-v3的图像分类器的攻击。该公司免费提供给研究人员修补，虽然它不是一个商业系统，但离商业系统不远。尽管这一攻击没有针对其他机器视觉软件进行测试，但迄今为止还没有针对敌方图像的单一修复方法。当Verge联系到谷歌时，谷歌没有对这篇论文发表评论，但是一位发言人让我们看了一些最近的论文，这些论文概述了谷歌研究人员发表的抵御敌对攻击的方法。

这项研究也提出了一些警告。首先，球队声称他们的进攻是从“各个角度”进行的并不完全正确。他们自己的视频演示显示，它可以从大多数角度工作，但不是从所有角度。第二，labsix需要访问Google的vision算法，以便找出它的弱点并愚弄它。这对于那些试图使用这些方法来对抗商业视觉系统的人来说是一个巨大的障碍，比如说，自动驾驶汽车公司。然而，其他的对抗性攻击已经被证明可以对付看不见的AI瞄准器，而且，根据Quartz的说法，labsix团队下一步正在研究这个问题。

像这样的对抗性攻击目前对公众来说并不是什么大危险。他们是有效的，是的，但在有限的情况下。尽管机器视觉在现实世界中的应用越来越普遍，但我们对它的依赖程度还不至于让一个有3D打印机的坏演员造成灾难。问题是像这样的问题说明了一些人工智能系统是多么脆弱。如果我们现在不解决这些问题，将来可能会导致更大的问题。

阅读更多：魔法ai：这些是欺骗、愚弄和扰乱计算机的光学幻觉

更新时间：11月2日，美国东部时间下午1点20分：这个故事已经更新为谷歌的回应。