隨著Facebook致力於開發新的工具來阻止錯誤資訊在其網路上的傳播，它正在尋求為可用於此目的的技術申請專利。本月，美國商標和專利局（US Trademark and Patent Office）公佈了Facebook的專利申請0350675：“識別不良內容的系統和方法”。該申請於2015年6月提交，描述了一個用於識別不適當文字和影象並將其從網路中刪除的複雜系統。

如應用程式中所述，該工具的主要目的是改進對色情、仇恨言論和欺凌的檢測。但上個月，扎克伯格強調需要“更好的技術系統來檢測人們在自己動手之前會標記為虛假的東西。”週四公佈的這項專利仍在等待批准，它為這種系統如何工作提供了一些想法。

Facebook發言人表示，該公司經常尋求從未實施的技術專利，並表示這項專利不應被視為該公司未來計劃的標誌。該發言人拒絕就目前是否在使用發表評論。

應用程式中描述的系統與Facebook自己描述的當前處理不良內容的方式基本一致。但它也增加了一層機器學習，以提高報道不良帖子的效率，並幫助系統隨著時間的推移學習不良內容的常見標記——這些工具聽起來類似於扎克伯格所說的打擊虛假新聞所需的預期標記。

此舉正值Facebook面臨越來越大的公眾壓力，要求其減少透過網路傳播宣傳資訊之際。該公司表示將致力於做出改進，但迄今為止，該公司對機器學習可以將事實與虛構區分開來的觀點作出了謹慎回應。Facebook或多或少否定了讓審查色情和欺凌內容的員工評估新聞文章真實性的想法，主要是因為難以建立明確的標準。

公司的謹慎是有經濟激勵的。Facebook是近一半美國人的主要新聞和資訊來源，但它本身是一個中立的平臺。在新聞提要中進行編輯判斷可能會疏遠意識形態不同的使用者，即使Facebook做得很有效。該公司今年早些時候解僱了負責確定熱門話題的編輯團隊，原因是擔心團隊成員給該專案帶來政治偏見。

從歷史上看，一段內容通常經過兩個步驟後就從Facebook上刪除了。使用者報告該連結包含令人反感的內容，然後該內容會被一個或多個為Facebook工作的人審查。如果版主認為內容令人反感，他們會將其從Facebook上刪除。

Facebook試圖申請專利的系統透過機器學習增強了這一過程，它收集有關所報道內容實際上令人反感的可能性的訊號，並給它打分。分數較高的專案將加快審查速度。隨著時間的推移，該系統將識別被認為有效的報告的特徵，幫助它更明智地猜測哪些內容可能會被刪除。

欺凌、仇恨言論和色情比虛假新聞更容易識別。恃強凌弱和仇恨言論通常涉及有限的，如果有任何演變，一套詞。色情涉及**的身體部位，今天的機器視覺系統非常善於識別(有時有點太好了，如果你貼一張自己哺乳的照片。）

但虛假新聞也有共同的特點。所謂假新聞，我指的是一個前提明顯是虛假的故事：比如Facebook上的假病毒故事，指稱一名FBI特工調查希拉里·克林頓的私人電子郵件伺服器，殺死了他自己和他的妻子，或者說唐納德·特朗普贏得了大選，這成為谷歌在美國對“誰贏得了民意”的頭號答案，儘管答案是假的。

Facebook專利申請中描述的系統似乎已經成熟，可以適應假新聞問題。該應用程式識別了幾個用於識別不良內容的訊號，這些訊號可用於區分好連結和壞連結。以下是一些：

報告內容的人的記錄。如果使用者對不良內容的報告通常都經過驗證，那麼他們的報告就會得到更認真的對待。要求使用者判斷新聞的準確性充滿了技術和哲學上的問題，其本身產生的問題可能比解決的問題還多(當你在《****》（newyorktimes）的Facebook頁面上設定“讓美國再次偉大”（makeamerica Great Again）時會發生什麼呢？）但是Facebook仍然應該探索這樣一種可能性，即它最好的使用者可以幫助識別虛假新聞中最嚴重的罪犯。

配置檔案驗證。Facebook比普通人更重視貴賓的抱怨，因為它希望盡可能多的名人在那裡閑逛。這些經過核實的使用者中，包括許多媒體成員，似乎有可能真的善於嗅出惡作劇，他們的報告將成為識別最嚴重犯罪者的有力訊號。

報告內容令人反感的人數。一方面，這似乎是一個明顯的訊號，表明出了問題。另一方面，由於意識形態原因，Facebook使用者可能會玩這個遊戲。使用者可能會。因此，這不是唯一的訊號，但它仍然可能是一個訊號-一個不斷被報道為虛假的故事值得Facebook更多的審查，如果沒有別的。

帳戶年齡。如果你在報告某人的內容令人反感的同一天建立了你的Facebook帳戶，那麼你騷擾他們的幾率要比你在這個平臺上工作多年的幾率高得多。解決使用者報道的假新聞可能被惡意暴徒操縱的問題的一個辦法是，在評估使用者的假新聞報道時要考慮到這一點。

Facebook需要用虛假新聞內容農場常見的其他訊號來增強專利中描述的系統。有人質疑“新聞”網站的年代——2016年許多最大的虛假病毒點選源於去年誕生的網站。或者Facebook也可以嘗試建立一個類似Google的PageRank的系統，該系統透過分析這些文章被其他可信渠道連結的頻率來評估共享連結的質量。

目前尚不清楚Facebook願意在減少錯誤資訊傳播方面發揮什麼作用，這在很大程度上是因為它很難識別。”馬克•扎克伯格（markzuckerberg）上月寫道：“查明‘真相’很複雜。”雖然有些惡作劇可以被徹底揭穿，但更多的內容，包括來自主流來源的內容，往往把基本的想法弄對了，但一些細節卻錯了或遺漏了。”此外，大多數人相信他們所說的假新聞是真的，破壞了利用這些假新聞報道不良連結的努力。

減少Facebook上錯誤資訊的重要性也很容易被誇大。這無助於消除確認偏差的問題，這會導致我們忽略我們不同意的資訊，或者我們透過點選在Facebook上建立的過濾泡沫。在Facebook上，可信的新聞機構與煽動性的、黨派性的、但並非完全是事實錯誤的報道爭奪空間，這可能仍然會導致一個使用者群，每個人都被困在各自的迴音室中。儘管如此，對這個問題無所作為還是帶有失敗主義的味道。而隨著假新聞泛濫的報道不斷，Facebook的聲譽受到影響。上個月，扎克伯格提出了公司將採取的一系列措施，以減少錯誤資訊的傳播。這些步驟包括建立一個更好的工具來報告壞連結，與第三方事實核查組織合作，並可能在被認為包含錯誤資訊的連結上貼上警告標簽(週二，一項要求使用者評價新聞準確性的功能測試在野外被髮現。）

即使Facebook確實將某個連結標註為虛假連結，但該公司對其後果卻隻字未提。如今，該公司表示，它“懲罰”了許多使用者報告為虛假的連結，但在許多情況下，懲罰似乎是輕微的：它並沒有阻止虛假報道獲得數萬份份額和數百萬次頁面瀏覽量。Facebook的專利申請只列出了一個不良材料的後果：移除。一方面，刪除新聞連結將使Facebook受到重大的、可能是合理的批評——然而，很難想象，除非Facebook真的這麼做，否則該公司如何才能擺脫被錯誤資訊淹沒的恥辱。