互聯(lián)網(wǎng)新業(yè)態(tài)、新模式、新文化蓬勃發(fā)展，大量新型內(nèi)容形式、文化產(chǎn)品不斷涌現(xiàn)，對互聯(lián)網(wǎng)內(nèi)容治理也提出了新要求。隨著技術(shù)的不斷發(fā)展，從PGC、UGC到AIGC，數(shù)字內(nèi)容生產(chǎn)也進入高速時代，內(nèi)容數(shù)量突破性增長。

黨的十八大以來，監(jiān)管部門也在接連推出一系列舉措，加強內(nèi)容監(jiān)管聯(lián)合治理。在規(guī)章制度上，密集出臺內(nèi)容安全治理相關法律法規(guī)；在監(jiān)管執(zhí)法上，結(jié)合網(wǎng)絡生態(tài)問題持續(xù)開展“清朗”、“凈網(wǎng)”、“劍網(wǎng)”、“護苗”等專項行動，建立政府決策執(zhí)法、社會監(jiān)督、平臺整治的綜合治理執(zhí)法體系；在治理方式上，對網(wǎng)絡內(nèi)容治理的顆粒度逐漸細化，推動我國網(wǎng)絡內(nèi)容治理進入超級治理階段。然而，部分互聯(lián)網(wǎng)信息內(nèi)容服務企業(yè)仍存在對主體責任認識不充分、履職不到位、管理不規(guī)范、制度機制不完善等問題。

對此，經(jīng)過對內(nèi)容安全管理相關指標的大量深入調(diào)研和分析研究，網(wǎng)易易盾發(fā)布內(nèi)容安全領域首個成熟度模型——《互聯(lián)網(wǎng)信息服務數(shù)字內(nèi)容安全能力成熟度模型》，通過可定性、可量化且操作性強的內(nèi)容安全能力標準評價體系，幫助企業(yè)對旗下平臺內(nèi)容安全能力定期自我評估，識別可能存在的風險并建立全方位內(nèi)容生態(tài)治理體系，以提升平臺內(nèi)容安全風險防范和應對能力。

01

企業(yè)內(nèi)容安全治理是持久戰(zhàn)也是動態(tài)戰(zhàn)

內(nèi)容安全的風險管理不僅是一場無時無刻不能松懈的持久戰(zhàn)，更是一個需要持續(xù)迭代和完善企業(yè)安全框架的動態(tài)過程。

基于服務近萬家頭部企業(yè)數(shù)字內(nèi)容安全的經(jīng)驗沉淀，網(wǎng)易易盾認為，構(gòu)建和提升企業(yè)內(nèi)容安全風控能力，有五大核心關鍵：

在充分考慮這些原則的基礎上，《互聯(lián)網(wǎng)信息服務數(shù)字內(nèi)容安全能力成熟度模型》將企業(yè)不同階段的風險管理及應對策略納入范圍：

1、事前規(guī)劃：在風險管理的初始階段，企業(yè)需要從組織結(jié)構(gòu)、制度流程、意識形態(tài)等多個維度進行全面規(guī)劃。這不僅要求管理層給予足夠的重視，還需要確立一套清晰的安全政策和規(guī)范，為后續(xù)的風險控制打下堅實的基礎。

2、事中管控：在業(yè)務內(nèi)容的整個生命周期中，企業(yè)需要能夠?qū)崟r地發(fā)現(xiàn)并處置風險，確保風險處于可控狀態(tài)。關鍵要素包括：

安全標準：建立一套完善的安全標準，確保所有業(yè)務流程和操作都符合安全要求。

內(nèi)容檢測技術(shù)：運用先進的技術(shù)手段，對內(nèi)容進行實時監(jiān)控和分析，及時發(fā)現(xiàn)潛在的風險。

安全運營：建立專業(yè)的安全運營團隊，負責日常的風險評估、監(jiān)控和應急響應。

3、事后監(jiān)測：在風險管理的后期階段，企業(yè)需要進行異步的風險管理，這包括：

風險點發(fā)現(xiàn)：通過回顧和分析，發(fā)現(xiàn)在事前和事中階段可能遺漏的風險點。

數(shù)據(jù)驅(qū)動：利用數(shù)據(jù)分析和工具，對風險管理過程進行評估，找出改進點，從而不斷提升風險管理能力。

02

四維坐標

錨定平臺內(nèi)容安全能力成熟度

經(jīng)過大量的調(diào)研分析研究和分析內(nèi)容安全管理相關的一系列指標特征，網(wǎng)易易盾提出考量企業(yè)內(nèi)容安全體系的“四大坐標”：通用管理能力評價、內(nèi)容生命周期管理評價、外部評價和成熟度等級四大模塊，并制定定性與定量的評估維度和指標，提升標準的合理性和可操作性。

1.通用管理能力評價：指信息服務提供者在安全管理組織架構(gòu)、安全制度以及標準化流程體系的建設情況，是企業(yè)在安全管理中應共同具備的、最重要的、最基本的能力。

2. 內(nèi)容生命周期管理能力評價：《模型》將內(nèi)容的生命周期分為生產(chǎn)、處理、發(fā)布、傳播、存儲、銷毀等六個階段，內(nèi)容生命周期管理是針對六個階段制定相應的技術(shù)和策略的雙重安全保障措施，以降低內(nèi)容安全風險。

3. 外部評價：指由非本機構(gòu)或非直接利益相關者對某一組織、項目或服務進行的系統(tǒng)性評價。針對企業(yè)內(nèi)容安全方面的外部評價，包括公眾信用評價、行政監(jiān)督評價、社會責任擔當。

4.成熟度等級：根據(jù)企業(yè)平臺規(guī)模、輿論屬性或社會動員能力劃定不同類型企業(yè)成熟度等級建設目標，然后結(jié)合二級、三級指標達成情況進行評估，確保評估結(jié)果的客觀性。

03

已有近百家互聯(lián)網(wǎng)企業(yè)

參與首批成熟度調(diào)研

為使標準符合企業(yè)實際情況，網(wǎng)易易盾的安全專家以書面調(diào)研、網(wǎng)絡問卷和實地走訪等形式相繼對近百家互聯(lián)網(wǎng)企業(yè)開展調(diào)研，并為其中提供互聯(lián)網(wǎng)信息內(nèi)容生產(chǎn)、發(fā)布、交互等服務的企業(yè)提供《內(nèi)容安全能力成熟度等級評估報告》。

首批參與調(diào)研平臺覆蓋不同規(guī)模、不同業(yè)務形態(tài)和產(chǎn)品功能形態(tài)，從結(jié)果來看，有72%的平臺的內(nèi)容安全成熟度達到S3已定義級及以上，也就是說大部分企業(yè)具備基礎安全管理體系，但達到成熟度比較高的S4和S5等級的企業(yè)較少，分別占9.3%和7.4%。

28%的平臺處于S2已管理級，這類多數(shù)為初創(chuàng)企業(yè)、中小企業(yè)或數(shù)字化轉(zhuǎn)型中的企業(yè)，對內(nèi)容安全認識不足。

與此同時，調(diào)研分析結(jié)果顯示，企業(yè)建議等級達成率僅為40.7%，半數(shù)以上企業(yè)的安全能力與其業(yè)務規(guī)模、輿論屬性或社會動員能力不匹配。