随着Facebook致力于开发新的工具来阻止错误信息在其网络上的传播，它正在寻求为可用于此目的的技术申请专利。本月，美国商标和专利局（US Trademark and Patent Office）公布了Facebook的专利申请0350675：“识别不良内容的系统和方法”。该申请于2015年6月提交，描述了一个用于识别不适当文本和图像并将其从网络中删除的复杂系统。

如应用程序中所述，该工具的主要目的是改进对色情、仇恨言论和欺凌的检测。但上个月，扎克伯格强调需要“更好的技术系统来检测人们在自己动手之前会标记为虚假的东西。”周四公布的这项专利仍在等待批准，它为这种系统如何工作提供了一些想法。

Facebook发言人表示，该公司经常寻求从未实施的技术专利，并表示这项专利不应被视为该公司未来计划的标志。该发言人拒绝就目前是否在使用发表评论。

应用程序中描述的系统与Facebook自己描述的当前处理不良内容的方式基本一致。但它也增加了一层机器学习，以提高报道不良帖子的效率，并帮助系统随着时间的推移学习不良内容的常见标记——这些工具听起来类似于扎克伯格所说的打击虚假新闻所需的预期标记。

此举正值Facebook面临越来越大的公众压力，要求其减少通过网络传播宣传信息之际。该公司表示将致力于做出改进，但迄今为止，该公司对机器学习可以将事实与虚构区分开来的观点作出了谨慎回应。Facebook或多或少否定了让审查色情和欺凌内容的员工评估新闻文章真实性的想法，主要是因为难以建立明确的标准。

公司的谨慎是有经济激励的。Facebook是近一半美国人的主要新闻和信息来源，但它本身是一个中立的平台。在新闻提要中进行编辑判断可能会疏远意识形态不同的用户，即使Facebook做得很有效。该公司今年早些时候解雇了负责确定热门话题的编辑团队，原因是担心团队成员给该项目带来政治偏见。

从历史上看，一段内容通常经过两个步骤后就从Facebook上删除了。用户报告该链接包含令人反感的内容，然后该内容会被一个或多个为Facebook工作的人审查。如果版主认为内容令人反感，他们会将其从Facebook上删除。

Facebook试图申请专利的系统通过机器学习增强了这一过程，它收集有关所报道内容实际上令人反感的可能性的信号，并给它打分。分数较高的项目将加快审查速度。随着时间的推移，该系统将识别被认为有效的报告的特征，帮助它更明智地猜测哪些内容可能会被删除。

欺凌、仇恨言论和色情比虚假新闻更容易识别。恃强凌弱和仇恨言论通常涉及有限的，如果有任何演变，一套词。色情涉及**的身体部位，今天的机器视觉系统非常善于识别(有时有点太好了，如果你贴一张自己哺乳的照片。）

但虚假新闻也有共同的特点。所谓假新闻，我指的是一个前提明显是虚假的故事：比如Facebook上的假病毒故事，指称一名FBI特工调查希拉里·克林顿的私人电子邮件服务器，杀死了他自己和他的妻子，或者说唐纳德·特朗普赢得了大选，这成为谷歌在美国对“谁赢得了民意”的头号答案，尽管答案是假的。

Facebook专利申请中描述的系统似乎已经成熟，可以适应假新闻问题。该应用程序识别了几个用于识别不良内容的信号，这些信号可用于区分好链接和坏链接。以下是一些：

报告内容的人的记录。如果用户对不良内容的报告通常都经过验证，那么他们的报告就会得到更认真的对待。要求用户判断新闻的准确性充满了技术和哲学上的问题，其本身产生的问题可能比解决的问题还多(当你在《****》（newyorktimes）的Facebook页面上设置“让美国再次伟大”（makeamerica Great Again）时会发生什么呢？）但是Facebook仍然应该探索这样一种可能性，即它最好的用户可以帮助识别虚假新闻中最严重的罪犯。

配置文件验证。Facebook比普通人更重视贵宾的抱怨，因为它希望尽可能多的名人在那里闲逛。这些经过核实的用户中，包括许多媒体成员，似乎有可能真的善于嗅出恶作剧，他们的报告将成为识别最严重犯罪者的有力信号。

报告内容令人反感的人数。一方面，这似乎是一个明显的信号，表明出了问题。另一方面，由于意识形态原因，Facebook用户可能会玩这个游戏。用户可能会。因此，这不是唯一的信号，但它仍然可能是一个信号-一个不断被报道为虚假的故事值得Facebook更多的审查，如果没有别的。

帐户年龄。如果你在报告某人的内容令人反感的同一天创建了你的Facebook帐户，那么你骚扰他们的几率要比你在这个平台上工作多年的几率高得多。解决用户报道的假新闻可能被恶意暴徒操纵的问题的一个办法是，在评估用户的假新闻报道时要考虑到这一点。

Facebook需要用虚假新闻内容农场常见的其他信号来增强专利中描述的系统。有人质疑“新闻”网站的年代——2016年许多最大的虚假病毒点击源于去年诞生的网站。或者Facebook也可以尝试建立一个类似Google的PageRank的系统，该系统通过分析这些文章被其他可信渠道链接的频率来评估共享链接的质量。

目前尚不清楚Facebook愿意在减少错误信息传播方面发挥什么作用，这在很大程度上是因为它很难识别。”马克•扎克伯格（markzuckerberg）上月写道：“查明‘真相’很复杂。”虽然有些恶作剧可以被彻底揭穿，但更多的内容，包括来自主流来源的内容，往往把基本的想法弄对了，但一些细节却错了或遗漏了。”此外，大多数人相信他们所说的假新闻是真的，破坏了利用这些假新闻报道不良链接的努力。

减少Facebook上错误信息的重要性也很容易被夸大。这无助于消除确认偏差的问题，这会导致我们忽略我们不同意的信息，或者我们通过点击在Facebook上创建的过滤泡沫。在Facebook上，可信的新闻机构与煽动性的、党派性的、但并非完全是事实错误的报道争夺空间，这可能仍然会导致一个用户群，每个人都被困在各自的回音室中。尽管如此，对这个问题无所作为还是带有失败主义的味道。而随着假新闻泛滥的报道不断，Facebook的声誉受到影响。上个月，扎克伯格提出了公司将采取的一系列措施，以减少错误信息的传播。这些步骤包括创建一个更好的工具来报告坏链接，与第三方事实核查组织合作，并可能在被认为包含错误信息的链接上贴上警告标签(周二，一项要求用户评价新闻准确性的功能测试在野外被发现。）

即使Facebook确实将某个链接标注为虚假链接，但该公司对其后果却只字未提。如今，该公司表示，它“惩罚”了许多用户报告为虚假的链接，但在许多情况下，惩罚似乎是轻微的：它并没有阻止虚假报道获得数万份份额和数百万次页面浏览量。Facebook的专利申请只列出了一个不良材料的后果：移除。一方面，删除新闻链接将使Facebook受到重大的、可能是合理的批评——然而，很难想象，除非Facebook真的这么做，否则该公司如何才能摆脱被错误信息淹没的耻辱。