Facebook必須時刻保持警惕，防止其平臺被“為非作歹之徒”所攻占，但他們究竟如何做到這一點，只有自己知道。然而在今天，該公司為我們提供了一些數據，說明他們正在使用何種工具以及正在取得什么成果，例如，今年到目前為止，已經刪除了1400多萬條“恐怖內容”。

在1400萬內容中，半數以上是在2018年之前發布的舊帖子，其中一些內容已經上線好幾年了。但正如Facebook所指出的，那些內容很有可能從來未被閱讀過。很難想象一個招募恐怖分子的帖子在970天內被人看過，卻未被管理系統識別出來。

也許更重要的是，新帖子被刪除的數量似乎在穩步增長。在今年第一季度，120萬條帖子被去除;在第二季度中，這一數字變為220萬;在第三季度，為230萬。用戶報告內容的移除數量也在增長，盡管在數量上要小得多——在第三季度大約有16000條。事實上，Facebook自豪地報告說，其中99%的內容是該公司“主動”刪除的。

值得注意的是，Facebook在談到這種內容時總是言語謹慎、小心措辭，例如，他們不會說“恐怖分子發布了230萬條內容”，而是說“被劫持”或“浮出水面”的內容數量。這樣做更保守，在技術上也更正確，因為他們只能對自己的行動心中有數，但這種做法也淡化了恐怖分子每月發布數十萬帖子的事實。

人們無法判斷1400萬條恐怖內容是多?還是少?不過，令人印象深刻的是，據說Facebook已經大大擴展了自動化檢測工具的范圍。該公司稱：

“我們利用算法識別違規文本帖子(我們稱之為“語言理解”)的實驗，現在已涵蓋19種語言。”

同時，降低內容刪除速度的bug已被修復：

“2018年第二季度，使用我們的標準工具，將新內容上傳到平臺上的平均時間約為14小時，比2018年第一季度有顯著增加。這種增長是由多種因素推動的，包括修復了一個阻止我們刪除一些違反政策內容的bug，以及推出新的檢測和執行系統。”

第三季度的數字還會有所提高，因為改進工作正在進行中。

“毫無疑問，我們都希望公司的內容管理早點達到嚴謹的水平。值得注意的是，這種機制最大的好處是不僅僅專注于刪除內容，還會促進內容管理團隊的不斷成長。”

關鍵詞：