Google 正在推進用技術手段審查不當內容。

3 號 Google 通過官方博客宣布開放一項審查工具 Content Safety API，這項技術能夠幫助內容審查人員快速批量識別與兒童侵犯有關的圖片，減少這些內容的曝光。

API 將免費提供給 NGO 組織、科技公司等任何合作伙伴，包括任何提供內容的社交平臺或者搜索引擎。Google 解釋說這套算法的能力在于自我學習，讓圖片審查的速度和效率大幅度提高。

目前的圖片自動審查工具運行驗證機制，依靠之前人類和機器標記過的圖片，等于說首先要有一個圖片庫，后來的圖片與其中的某些相似，才會被評判為違規(guī)。

這會帶來識別范圍的限制，Google 在文章中解釋說，Content Safety API 的神經網絡會自己學習與判斷哪些圖片涉嫌兒童性侵，而不需要與圖庫中的圖片一一比對。

經過驗證，Google 已經發(fā)現(xiàn)這套機制能讓審查員發(fā)現(xiàn)比原本多 7 倍的違規(guī)圖片。

Google 推出這項舉措正值自己被廣受批評，上周英國外交大臣 Jeremy Hunt 在 Twitter 上說，“Google 寧愿考慮為中國過濾內容，也不愿意與英美等 5 眼聯(lián)盟國家合作消除兒童侵犯內容?！?

5 眼聯(lián)盟（Five Eyes）是一個國際情報分享團體，成員包括英國、美國、加拿大、澳洲和新西蘭 5 個國家。上周該聯(lián)盟還開了會，發(fā)表一份聯(lián)合聲明呼吁科技公司需協(xié)助當局合法訪問數(shù)據(jù)。

Google 在清除不當內容上花費不小的成本，年初 YouTube 投入了人工智能技術和 1 萬名審核員，來辨識和清理平臺上的極端、不雅和暴力視頻。

圖片和視頻是相對更容易識別的內容形式，F(xiàn)acebook 和 Twitter 致力于清除的仇恨言論和虛假新聞似乎更難。今年在詰問數(shù)據(jù)泄露的聽證會上，馬克· 扎克伯格也說，關于怎樣定義仇恨言論“很難回答”。

語言本身就是一項復雜的交流工具，涉嫌種族、性別、宗教等等冒犯性質的言論，在不同場景不同時間下可能會有完全不同的解讀，之前的差異非常微妙。

Google 有一個名叫 Perspective 的項目，是一套識別惡意表達的人工智能算法。不過算法并不能完全評判哪些言論具有侵犯性，比如剛發(fā)布的時候它的評估系統(tǒng)中“垃圾車（Garbage Truck）”這個詞的仇恨指數(shù)要高于“種族戰(zhàn)爭開始吧（Race War Now）”。后者在機器學習的材料中常常出現(xiàn)在嚴肅的學術著作中，也就讓機器人為該詞語相對比較中立。

另一方面，清理內容本身的爭議尚未結束。特朗普上周炮轟 Twitter、Facebook 和 Google 清理賬號的行為讓某些派別的聲音從互聯(lián)網消失，非常危險。他抱怨自己在搜索結果中排序不利，社交賬號還會莫名其妙掉粉，科技公司對保守派有故意屏蔽的嫌疑。

就像 EFF（電子前哨基金會）說的，“保護言論自由并非是因為我們支持哪一種言論，哪種言論就應該受到支持，而是因為我們相信不管是政府還是商業(yè)組織都沒有權限去干涉言論自由?！?