Facebook和谷歌這兩家世界上最大、最具影響力的公司都以自己的廣告業務為榮。這些業務每年產生數百億美元的收入，部分原因是讓廣告商利用前所未有的資料集瞄準即使是最模糊的微社群。然而，正如上週披露的訊息所證明的那樣，這種能力是一把雙刃劍，它再次困擾著這些廣告支援的巨頭。

ProPublica上週四發現，Facebook的廣告工具可以利用這些使用者自我報告的資訊，針對種族主義者和反猶太主義者。這份初步報告啟動了新聞機構進行的一系列實驗，實驗發現，谷歌的搜尋引擎不僅可以讓你在搜尋結果旁放置帶有仇恨言辭的廣告，而且它的自動化過程甚至會建議類似的、同樣帶有仇恨的搜尋詞來銷售廣告。Twitter也捲入了這場爭論，當時它的過濾機制未能阻止廣告針對“納粹”和n-word，Twitter莫名其妙地將這一問題歸因於“我們已經修複了一個bug”，Instagram將一名記者收到的關於暴力威脅的帖子轉換成廣告，然後提供給記者的聯絡人。

Facebook營運長謝麗爾•桑德伯格（Sheryl Sandberg）週二表示，這一問題是公司失敗的結果，這是對目前這場災難最徹底的回應桑德伯格寫道：“我們從未打算或預期這種功能會以這種方式使用——這是我們的責任。”桑德伯格說，作為一個猶太人，基於對希特勒的親和力而針對廣告的能力讓她感到“厭惡和失望”。為了糾正這種疏忽，Facebook現在正在增加對其自動化流程的人為節制；改進廣告準則的執行，防止針對種族、族裔、性別和宗教信仰的攻擊；並建立更健全的使用者報告機制，以減少濫用。

但像桑德伯格這樣的高管所表現出的憤怒和憤慨，雖然可能是真誠的，但也讓人感覺膚淺。她的公司的成功是建立在它的傾向和渴望履行上個星期所揭示的那種職能的基礎上的。換言之，這種尷尬並不是該平臺廣告系統崩潰的跡象，而是恰恰相反。有證據表明它是按設計的那樣工作的。Facebook、Google和其他公司已經開發出自動化系統，盲目地將大量資料抽真空，然後進行貨幣化，上週的事件幾乎不可避免。

哈佛大學法學院網路法診所的律師兼研究員肯德拉·阿爾伯特（Kendra Albert）說：“這類爭議將不斷發生，因為與所服務的廣告數量相比，監管內容或廣告專案需要多少員工的規模和期望是微不足道的。”我認為，如果這些公司不將傳統上有人參與的事情自動化，它們往往不可能達到他們達到的規模。”

這不僅是因為這些廣告系統是由演算法控制的，這些軟體越來越多地受到人工智慧工具的指導，這些工具以連創造者都不完全理解的方式使系統自動化。另外，由於其廣度和監管不力，Facebook和Google已經成為人類在網際網路上行為的不折不扣的反映。包含並服務於我們所有的興趣，無論多麼卑鄙，都是一個特徵，而不是一個缺陷。這些公司的產品是由他們的使用者增長來衡量的，因為這是他們對廣告商的效用。這種種族主義和偏見會在矽谷的一系列廣告目標選擇中佔據一席之地，這似乎表明瞭該行業不惜一切代價的增長心態。

“讓我們明確一點：Facebook現在所做的不會對你在Facebook上針對反猶分子的能力產生任何影響。“你就不能輸入‘反猶太主義者’這樣做，”Eli Pariser說，他是濾鏡泡沫的作者，也是病毒媒體網站Upworthy的創始人基於推理的目標定位是大多數目標定位的工作方式，因此幾乎不可能阻止這些群體這樣做。“當然，你仍然可以針對某些Facebook頁面的訪問者，以及大量講述使用者政治、品味和態度的微妙能指。

帕裡瑟認為，這場爭論是一個有益的公共教育時刻，因為它生動地展示了Facebook系統的運作方式。但是，作為圍繞社交網路在社會中的作用及其規範使用者行為的責任的更廣泛對話的一部分，我們在很大程度上仍處於未知領域。”我不羨慕他們，”帕裡瑟談到Facebook的角色時說。

阿爾伯特也不這麼認為，他說，公司陷入了兩難境地。”除非公司真的積極主動地思考他們的平臺將如何被濫用，否則你會不斷看到這樣的例子，即組織會找到方法，以公司無意的方式使用這些目標機制，或者產生真正負面的結果，”阿爾伯特說。

桑德伯格在回應中也說了同樣的話，她指出Facebook“從未打算或預期”針對“希特勒沒有做錯什麼”的廣告，但仍然有效地為任何人提供了這樣做的工具。但Facebook、Google和Twitter這樣的平臺公司似乎不斷發現自己處於這樣的地位——不管是因為他們主持***國的宣傳活動，還是因為他們無意中將無害的YouTube影片妖魔化，或者審查歷史上的戰爭照片——因為更容易在之前而不是之後構建和部署一項技術，思考它的所有含義。

阿爾伯特說，當新技術出現時，社會往往被迫重新思考以前不受監管的行為。這種變化往往發生在事後，當我們發現有什麼不對勁的時候。”這項技術向公眾推廣的速度會讓社會難以跟上當你試著建造盡可能大或盡可能快的時候，那些更加懷疑或擔心的人很容易在中途提出問題，這不是出於惡意，而是因為，‘哦，我們必須滿足這個船期。’”

像上週那樣的揭露肯定會再次出現，而且很可能沒有什麼具體的解決辦法，如果有的話，可以用一種讓每個人都高興的方式來清除它們。但像Facebook和谷歌這樣的科技公司有責任改進。這兩家公司都以天文數字的速度增長，透過前所未有的覆蓋範圍和資料收集的新穎組合，鞏固了市場主導地位，同時大大自動化系統的低開銷。未能預見到這些邊緣案件，是他們對增長的貪得無厭的追求與缺乏有意義的人的監督交織在一起的一個癥狀。

考慮到它的廣告銷售模式只是Facebook正在清醒地認識到的一個硬事實(谷歌（Google）的搜尋引擎不太像是引起爭議的避雷針，但它仍然保持著更為嚴格的沉默。）更廣泛的問題，這則廣告爭議所說明的一個問題是，Facebook無法應對其積聚的權力和影響力，而這種影響力對於渴望利用它的不良行為者來說是多麼脆弱。

執行長扎克伯格（Mark Zuckerberg）否認Facebook對美國大選有任何影響，但他的前景與去年11月有所不同。如今，有證據表明，一個親俄羅斯的宣傳團體購買了數千美元的Facebook政治廣告，人們越來越認識到Facebook在社會中前所未有的作用，扎克伯格再也不能忽視這種情況。在週四的一段詳細的Facebook直播影片中，這位Facebook負責人表示，該公司將提高政治廣告的透明度，並計劃投入更多資源保護選舉誠信。雖然不同於可恨的廣告定位問題，但這是另一種承認，Facebook設計了一個平臺，鼓勵而不是防止此類操縱，讓使用者失望。

帕裡瑟說：“有一天早上醒來，你是一個城市的市長，也許你從來都不想當市長，人們會問，‘為什麼水在這裡流，而不是在那裡流，’以及‘我們該怎麼處理垃圾收集’。”我不知道Facebook開始扮演這個角色，但由於它是這個城市的建設者，現在有責任解決這些問題。”