Facebook一直明確表示，它希望人工智能處理其平臺上更多的審查職責(zé)。 周五，該公司宣布了向這一目標(biāo)邁出的最新一步：讓機(jī)器學(xué)習(xí)負(fù)責(zé)其審查隊(duì)列。 以下是Facebook上的審查工作方式。被認(rèn)為違反公司規(guī)則的帖子（包括從垃圾郵件到仇恨言論和 “美化暴力”的內(nèi)容）會被用戶或機(jī)器學(xué)習(xí)過濾器標(biāo)記出來。

此外，一些非常明確的案例會被自動處理（例如，回應(yīng)可能涉及刪除帖子或阻止帳戶），而其余的則進(jìn)入隊(duì)列，由人類審查員審查。

Facebook在全球范圍內(nèi)雇傭了大約1.5萬名這樣的審查員，過去一直被批評沒有給這些員工足夠的支持，雇傭他們的條件可能導(dǎo)致創(chuàng)傷。他們的工作是對標(biāo)記的帖子進(jìn)行整理，并對其是否違反公司的各種政策做出決定。

過去，審查員或多或少會按照時間順序?qū)彶樘?，按照帖子被舉報(bào)的順序進(jìn)行處理?，F(xiàn)在，F(xiàn)acebook表示要確保最重要的帖子被首先看到，并且正在使用機(jī)器學(xué)習(xí)來幫助他們。未來，各種機(jī)器學(xué)習(xí)算法的綜合體將被用來對這個隊(duì)列進(jìn)行排序，根據(jù)三個標(biāo)準(zhǔn)對帖子進(jìn)行優(yōu)先處理：它們的傳播程度、嚴(yán)重性以及它們違反規(guī)則的可能性。

究竟這些標(biāo)準(zhǔn)是如何加權(quán)的，目前還不清楚，但Facebook表示，目的是先處理最具破壞性的帖子。所以，一個帖子的傳播性越強(qiáng)（被分享和看到的次數(shù)越多），就會越快被處理。帖子的嚴(yán)重程度也是如此。Facebook表示，它將涉及現(xiàn)實(shí)世界傷害的帖子列為最重要的帖子。這可能意味著涉及恐怖主義、兒童剝削或自我傷害的內(nèi)容。同時，像垃圾郵件這樣的帖子，雖然很煩人，但沒有創(chuàng)傷性，被列為最不重要的審查對象。

“所有違反內(nèi)容的內(nèi)容仍然會收到一些實(shí)質(zhì)性的人工審查，但我們將使用這個系統(tǒng)來更好地確定（該過程）的優(yōu)先級，”Facebook社區(qū)誠信團(tuán)隊(duì)的產(chǎn)品經(jīng)理Ryan Barnes在新聞發(fā)布會上告訴記者。

Facebook過去曾分享過一些關(guān)于其機(jī)器學(xué)習(xí)過濾器如何分析帖子的細(xì)節(jié)。這些系統(tǒng)包括一個名為 “WPIE”的模型，WPIE代表 “整個帖子完整性嵌入”，采取Facebook所謂的“整體 ”方法來評估內(nèi)容。這意味著算法會協(xié)同判斷任何給定帖子中的各種元素，試圖找出圖片、標(biāo)題、海報(bào)等共同揭示的內(nèi)容。

Facebook使用人工智能來調(diào)節(jié)其平臺的做法過去一直受到審查，批評者指出，人工智能缺乏人類判斷很多在線交流背景的能力。尤其是像錯誤信息、欺凌和騷擾這樣的話題，計(jì)算機(jī)幾乎不可能知道自己在看什么。

Facebook的Chris Palow是該公司交互完整性團(tuán)隊(duì)的軟件工程師，他同意人工智能有其局限性，但他告訴記者，這項(xiàng)技術(shù)仍然可以在刪除不需要的內(nèi)容方面發(fā)揮作用?！斑@套系統(tǒng)就是要把AI和人類審核員結(jié)合起來，減少總的錯誤，”Palow說?！癆I永遠(yuǎn)不會是完 美的 。”

當(dāng)被問及該公司的機(jī)器學(xué)習(xí)系統(tǒng)分類錯誤的帖子比例是多少時，Palow沒有直接回答，但他指出，F(xiàn)acebook只有在自動系統(tǒng)與人類審查員一樣準(zhǔn)確時，才會讓自動系統(tǒng)在沒有人類監(jiān)督的情況下工作?！白詣有袆拥拈T檻非常高，”他說。盡管如此，F(xiàn)acebook正在穩(wěn)步地將更多的人工智能加入到審核組合中。