Facebook和谷歌这两家世界上最大、最具影响力的公司都以自己的广告业务为荣。这些业务每年产生数百亿美元的收入，部分原因是让广告商利用前所未有的数据集瞄准即使是最模糊的微社区。然而，正如上周披露的消息所证明的那样，这种能力是一把双刃剑，它再次困扰着这些广告支持的巨头。

ProPublica上周四发现，Facebook的广告工具可以利用这些用户自我报告的信息，针对种族主义者和反犹太主义者。这份初步报告启动了新闻机构进行的一系列实验，实验发现，谷歌的搜索引擎不仅可以让你在搜索结果旁放置带有仇恨言辞的广告，而且它的自动化过程甚至会建议类似的、同样带有仇恨的搜索词来销售广告。Twitter也卷入了这场争论，当时它的过滤机制未能阻止广告针对“纳粹”和n-word，Twitter莫名其妙地将这一问题归因于“我们已经修复了一个bug”，Instagram将一名记者收到的关于暴力威胁的帖子转换成广告，然后提供给记者的联系人。

Facebook首席运营官谢丽尔•桑德伯格（Sheryl Sandberg）周二表示，这一问题是公司失败的结果，这是对目前这场灾难最彻底的回应桑德伯格写道：“我们从未打算或预期这种功能会以这种方式使用——这是我们的责任。”桑德伯格说，作为一个犹太人，基于对希特勒的亲和力而针对广告的能力让她感到“厌恶和失望”。为了纠正这种疏忽，Facebook现在正在增加对其自动化流程的人为节制；改进广告准则的执行，防止针对种族、族裔、性别和宗教信仰的攻击；并建立更健全的用户报告机制，以减少滥用。

但像桑德伯格这样的高管所表现出的愤怒和愤慨，虽然可能是真诚的，但也让人感觉肤浅。她的公司的成功是建立在它的倾向和渴望履行上个星期所揭示的那种职能的基础上的。换言之，这种尴尬并不是该平台广告系统崩溃的迹象，而是恰恰相反。有证据表明它是按设计的那样工作的。Facebook、Google和其他公司已经开发出自动化系统，盲目地将大量数据抽真空，然后进行货币化，上周的事件几乎不可避免。

哈佛大学法学院网络法诊所的律师兼研究员肯德拉·阿尔伯特（Kendra Albert）说：“这类争议将不断发生，因为与所服务的广告数量相比，监管内容或广告项目需要多少员工的规模和期望是微不足道的。”我认为，如果这些公司不将传统上有人参与的事情自动化，它们往往不可能达到他们达到的规模。”

这不仅是因为这些广告系统是由算法控制的，这些软件越来越多地受到人工智能工具的指导，这些工具以连创造者都不完全理解的方式使系统自动化。另外，由于其广度和监管不力，Facebook和Google已经成为人类在互联网上行为的不折不扣的反映。包含并服务于我们所有的兴趣，无论多么卑鄙，都是一个特征，而不是一个缺陷。这些公司的产品是由他们的用户增长来衡量的，因为这是他们对广告商的效用。这种种族主义和偏见会在硅谷的一系列广告目标选择中占据一席之地，这似乎表明了该行业不惜一切代价的增长心态。

“让我们明确一点：Facebook现在所做的不会对你在Facebook上针对反犹分子的能力产生任何影响。“你就不能输入‘反犹太主义者’这样做，”Eli Pariser说，他是滤镜泡沫的作者，也是病毒媒体网站Upworthy的创始人基于推理的目标定位是大多数目标定位的工作方式，因此几乎不可能阻止这些群体这样做。“当然，你仍然可以针对某些Facebook页面的访问者，以及大量讲述用户政治、品味和态度的微妙能指。

帕里瑟认为，这场争论是一个有益的公共教育时刻，因为它生动地展示了Facebook系统的运作方式。但是，作为围绕社交网络在社会中的作用及其规范用户行为的责任的更广泛对话的一部分，我们在很大程度上仍处于未知领域。”我不羡慕他们，”帕里瑟谈到Facebook的角色时说。

阿尔伯特也不这么认为，他说，公司陷入了两难境地。”除非公司真的积极主动地思考他们的平台将如何被滥用，否则你会不断看到这样的例子，即组织会找到方法，以公司无意的方式使用这些目标机制，或者产生真正负面的结果，”阿尔伯特说。

桑德伯格在回应中也说了同样的话，她指出Facebook“从未打算或预期”针对“希特勒没有做错什么”的广告，但仍然有效地为任何人提供了这样做的工具。但Facebook、Google和Twitter这样的平台公司似乎不断发现自己处于这样的地位——不管是因为他们主持***国的宣传活动，还是因为他们无意中将无害的YouTube视频妖魔化，或者审查历史上的战争照片——因为更容易在之前而不是之后构建和部署一项技术，思考它的所有含义。

阿尔伯特说，当新技术出现时，社会往往被迫重新思考以前不受监管的行为。这种变化往往发生在事后，当我们发现有什么不对劲的时候。”这项技术向公众推广的速度会让社会难以跟上当你试着建造尽可能大或尽可能快的时候，那些更加怀疑或担心的人很容易在中途提出问题，这不是出于恶意，而是因为，‘哦，我们必须满足这个船期。’”

像上周那样的揭露肯定会再次出现，而且很可能没有什么具体的解决办法，如果有的话，可以用一种让每个人都高兴的方式来清除它们。但像Facebook和谷歌这样的科技公司有责任改进。这两家公司都以天文数字的速度增长，通过前所未有的覆盖范围和数据收集的新颖组合，巩固了市场主导地位，同时大大自动化系统的低开销。未能预见到这些边缘案件，是他们对增长的贪得无厌的追求与缺乏有意义的人的监督交织在一起的一个症状。

考虑到它的广告销售模式只是Facebook正在清醒地认识到的一个硬事实(谷歌（Google）的搜索引擎不太像是引起争议的避雷针，但它仍然保持着更为严格的沉默。）更广泛的问题，这则广告争议所说明的一个问题是，Facebook无法应对其积聚的权力和影响力，而这种影响力对于渴望利用它的不良行为者来说是多么脆弱。

首席执行官扎克伯格（Mark Zuckerberg）否认Facebook对美国大选有任何影响，但他的前景与去年11月有所不同。如今，有证据表明，一个亲俄罗斯的宣传团体购买了数千美元的Facebook政治广告，人们越来越认识到Facebook在社会中前所未有的作用，扎克伯格再也不能忽视这种情况。在周四的一段详细的Facebook直播视频中，这位Facebook负责人表示，该公司将提高政治广告的透明度，并计划投入更多资源保护选举诚信。虽然不同于可恨的广告定位问题，但这是另一种承认，Facebook设计了一个平台，鼓励而不是防止此类操纵，让用户失望。

帕里瑟说：“有一天早上醒来，你是一个城市的市长，也许你从来都不想当市长，人们会问，‘为什么水在这里流，而不是在那里流，’以及‘我们该怎么处理垃圾收集’。”我不知道Facebook开始扮演这个角色，但由于它是这个城市的建设者，现在有责任解决这些问题。”