谷歌的Chrome將推出擴(kuò)展插件來過濾掉有害的文字。這款名叫Tune的插件可以幫用戶自動(dòng)隱藏Reddit、Twitter、Facebook、YouTube等網(wǎng)站上極度負(fù)面的文字。

這和十幾年前電子郵件平臺(tái)利用機(jī)器學(xué)習(xí)過濾垃圾郵件一樣，但有更高的響應(yīng)頻次，并且運(yùn)用了更多NLP（自然語言處理）技術(shù)，可以在用戶的“調(diào)教”下慢慢學(xué)會(huì)區(qū)分更深層次的語言范式。

該項(xiàng)目負(fù)責(zé)人Jigsaw表示：“我們希望Tune可以成為一種處理惡意鏈接和騷擾活動(dòng)的新方法，而不需要人工的進(jìn)行評(píng)論審核。”谷歌的另一位發(fā)言人說:“當(dāng)人們手動(dòng)留下反饋性信息時(shí)，我們可以利用這些數(shù)據(jù)來幫助培訓(xùn)和改進(jìn)模型。”

目前，國(guó)外眾多論壇網(wǎng)站運(yùn)營(yíng)者為來自世界各國(guó)用戶的評(píng)論內(nèi)容困擾著，這些評(píng)論夾雜著有害內(nèi)容，除非網(wǎng)站版主保持警惕（不斷人工審查、刪帖），否則評(píng)論區(qū)可能會(huì)變成一片混亂。用戶有可能在受到騷擾性評(píng)論后，放棄了在論壇上發(fā)布自己的想法，這對(duì)社交、論壇產(chǎn)品極為不利。當(dāng)然，使用AI過濾不良評(píng)論也會(huì)漏掉一些信息，不過自動(dòng)化理解文字內(nèi)容已經(jīng)可以為網(wǎng)站運(yùn)營(yíng)者節(jié)省了不少時(shí)間。