內容安全已成為全球性互聯(lián)網(wǎng)生態(tài)治理難題?；ヂ?lián)網(wǎng)平臺多媒體內容爆發(fā)帶來海量信息的同時，也泥沙俱下裹挾有大量不良有害信息。

當內容平臺發(fā)展快速，就會被灰黑產(chǎn)盯上，視作“流量蜜罐”，利用其流量曝光機會，植入涉黃賭毒等不良信息，以及大量垃圾廣告等。據(jù)不完全統(tǒng)計，2019年，有上千款應用和服務因為內容安全問題而遭遇下架關停等整改，業(yè)務發(fā)展遭受巨大損失。

2019年12月19日，網(wǎng)易易盾在北京成功舉辦2019內容安全智能體系發(fā)布會，分享易盾對內容安全體系建設的前瞻思考，并正式發(fā)布面向智能時代的審核管理系統(tǒng)，有上百位企業(yè)內容風控相關人員參加此次活動，共同研討內容安全體系建設和實踐。

據(jù)調查，有害垃圾內容占互聯(lián)網(wǎng)UGC內容量的3%左右。其中最多的是各類非法廣告類，其次是涉黃低俗類信息，以及涉賭涉毒信息。隨著內容的多媒體融合，5G等信息基礎設施的發(fā)展，互聯(lián)網(wǎng)內容也迎來大爆發(fā)，內容安全壓力愈加嚴峻。

網(wǎng)易易盾CTO朱浩齊

網(wǎng)易易盾CTO朱浩齊認為，只有行業(yè)一起努力，構建出智能驅動、統(tǒng)一聯(lián)動、個性定制、共建眾治的內容體系，才能全面高效地解決內容安全難題。

智能驅動： 在新一代內容安全體系中，智能技術起著驅動引擎的作用。目前90%以上的海量實時多媒體內容都可以被智能技術精準識別過濾。自然語義、圖像識別、聲紋識別等都在內容安全領域有成熟徹底的落地。

統(tǒng)一聯(lián)動： 內容安全需要從源頭徹底解決，就需要聯(lián)動賬戶安全，全鏈路聯(lián)動識別分析。采用驗證碼、注冊保護、登錄保護等反作弊技術、內容安全云能力和本地審核管理系統(tǒng)的聯(lián)動，可以更有效降低有害內容的產(chǎn)生。

個性定制： 直播短視頻、網(wǎng)絡文學、社交傳媒等各領域的內容監(jiān)管規(guī)定不同，需要根據(jù)產(chǎn)品形態(tài)來靈活定制各自的內容安全策略。

共建眾治： 有害內容是社會性難題。企業(yè)需要有效整合政府法律、技術服務、同行聯(lián)盟、用戶等多種力量共同防治，才能有效打擊灰黑產(chǎn)，構建風清氣正的互聯(lián)網(wǎng)生態(tài)。

此次，網(wǎng)易易盾還發(fā)布了面向智能時代設計的審核管理系統(tǒng)。

在未來很長時間內，內容安全依然是人機協(xié)同模式，各大平臺需要保有一定規(guī)模的人工審核部門。但易盾在調研時，發(fā)現(xiàn)由于審核管理長久一直缺乏相應通用規(guī)范，操作后臺長期得不到研發(fā)支持，大多數(shù)審核管理系統(tǒng)存在操作繁瑣、設計陳舊、功能落后，甚至有些操作需要在多個后臺跳轉處理的問題。

相比較爆發(fā)式的內容增長和日趨嚴格的監(jiān)管要求，審核管理系統(tǒng)已成為企業(yè)內容安全的最大短板，嚴重影響了審核效率和安全要求。

網(wǎng)易易盾此次發(fā)布的審核管理系統(tǒng)是面向智能時代的審核機制而設計，具有功能豐富、智能高效、輕量靈活、交互友好四大優(yōu)勢。

功能豐富：支持面向內容的預處理、多重審核、質檢溯源全生命周期管理;面向不同業(yè)務場景如直播音視頻、長文檔等垂直場景都有專門的視頻模式。

智能高效：基于機器學習的聚類審核，同類內容及時預警，審核人員可以快速過濾阻止擴散;高并發(fā)支持大規(guī)模審核團隊同時操作，可智能分組排版。

輕量靈活：無技術支持也可以快速接入，支持SaaS和私有化定制，客戶可以靈活自定義內容接口、安全策略、外觀、業(yè)務模塊等。

交互友好：深入審核團隊研究交互習慣，優(yōu)化界面交互、功能排列、操作流程。建立積分勛章等游戲化設計，有效降低審核疲憊。單手操作等無障礙輔助設計，讓殘障人士也可以輕松操作。

網(wǎng)易易盾產(chǎn)品總監(jiān)饒曉艷

網(wǎng)易易盾產(chǎn)品總監(jiān)饒曉艷表示：“審核人員是企業(yè)內容安全的重要保障力量，為公司健康發(fā)展付出了很多，非常高興可以為審核人員設計一套友好有溫度的管理系統(tǒng)，讓他們的工作更加輕松快捷?！?

網(wǎng)易易盾脫胎于網(wǎng)易安全部，扎根內容安全領域已超過20年，2016年對外商用以來，已服務數(shù)千家企業(yè)，其中不乏OPPO/VIVO、B站、一直播等知名客戶，每日過濾有害信息超過十億條，目前已是國內領先的內容安全和業(yè)務安全服務商。