11 月 30 日— 12 月 1 日，2022 騰訊數(shù)字生態(tài)大會在深圳召開，騰訊安全攜八款自研成果及背后的創(chuàng)新技術(shù)亮相，與生態(tài)伙伴共筑數(shù)字化安全新能力，探索以 " 安全共生 " 護(hù)航企業(yè) " 行穩(wěn)致遠(yuǎn) "。

在12月1日下午舉行的騰訊安全先行者·新品發(fā)布會場上，騰訊安全天御內(nèi)容風(fēng)控總監(jiān)蔡飛以《攜手云原生，騰訊天御內(nèi)容安全運(yùn)營中心全新亮相》為主題分享了內(nèi)容安全領(lǐng)域的風(fēng)險與挑戰(zhàn)，以及騰訊天御內(nèi)容安全運(yùn)營中心的最新應(yīng)對方案。

內(nèi)容安全面臨的風(fēng)險和挑戰(zhàn)

隨著移動終端與信息技術(shù)的快速發(fā)展，互聯(lián)網(wǎng)內(nèi)容愈發(fā)多元。從文字到圖片到語音再到視頻、直播，數(shù)字技術(shù)的時代洪流正沖刷出一幅豐富多彩的數(shù)字生活畫卷。同時，更加龐大和復(fù)雜的內(nèi)容安全隱患也伴隨而來。

對于數(shù)字內(nèi)容平臺和企業(yè)來說，開展網(wǎng)絡(luò)生態(tài)治理刻不容緩，24小時不停歇的互聯(lián)網(wǎng)內(nèi)容安全攻防戰(zhàn)每日都在上演。內(nèi)容安全面臨的問題與挑戰(zhàn)主要分為三個方向：

1. 違規(guī)內(nèi)容識別

數(shù)字內(nèi)容類應(yīng)用往往以用戶UGC內(nèi)容為主，用戶資料，圖文消息和音視頻數(shù)據(jù)大部分是由用戶自己上傳，很容易出現(xiàn)色情，低俗，辱罵等不良內(nèi)容。

2.內(nèi)容治理成本

企業(yè)和個人開發(fā)者不太可能具備足夠的安全團(tuán)隊(duì)，建立功能完備的內(nèi)容審核系統(tǒng)，組建專門的運(yùn)營團(tuán)隊(duì)。

3.全球性業(yè)務(wù)合規(guī)

面向海外的業(yè)務(wù)場景，需要滿足不同國家地區(qū)的法規(guī)要求。

騰訊安全天御內(nèi)容風(fēng)控解決方案，三大特性守護(hù)內(nèi)容安全

騰訊安全天御內(nèi)容風(fēng)控解決方案，以人工智能為核心，通過風(fēng)控策略的靈活調(diào)度，打造覆蓋圖片、文本、音頻、視頻全內(nèi)容形態(tài)的 AI 智能內(nèi)容風(fēng)控服務(wù)，為網(wǎng)絡(luò)空間清朗保駕護(hù)航。

01 更簡單：一鍵開通，自動審核

在上云的業(yè)務(wù)架構(gòu)里，如電商、游戲或者教育業(yè)務(wù)通常會使用COS搭建數(shù)據(jù)存儲系統(tǒng)、使用VOD實(shí)現(xiàn)音頻視頻播放功能、基于TRCT云直播打造豐富多彩的音視頻互動功能。

以往企業(yè)要對這些云組件類的數(shù)據(jù)進(jìn)行審核，需要通過各產(chǎn)品的SDK或者API獲取數(shù)據(jù)，完成數(shù)據(jù)的送審和處置，這對導(dǎo)致研發(fā)對接成本非常高。

在騰訊安全天御內(nèi)容風(fēng)控解決方案的新版本中，加強(qiáng)了內(nèi)容安全與其他云基礎(chǔ)產(chǎn)品的聯(lián)動性，在控制臺一鍵開通、自動實(shí)現(xiàn)數(shù)據(jù)審核。

在內(nèi)容安全的產(chǎn)品板塊里，騰訊安全對內(nèi)容識別能力進(jìn)行了技術(shù)架構(gòu)升級，通過原子能力模型產(chǎn)生更多內(nèi)容維度的特征，并且通過決策引擎實(shí)現(xiàn)對內(nèi)容、行為和賬號等多維度特征進(jìn)行綜合判斷，進(jìn)一步提升識別效果和運(yùn)營的靈活性。

升級了安全運(yùn)營服務(wù)，打造了對安全態(tài)勢的實(shí)施感知能力，對突發(fā)的安全事件可以及時上線策略進(jìn)行布控，并且定期組織紅藍(lán)對抗，優(yōu)化識別效果，確保云上的業(yè)務(wù)數(shù)據(jù)持續(xù)健康。

提供一套統(tǒng)一的運(yùn)營功能集成到各個云產(chǎn)品，讓云產(chǎn)品的客戶可以更容易地管理審核策略和優(yōu)化審核效果。

新版本的核心目標(biāo)是將復(fù)雜的內(nèi)容審核功能和運(yùn)營流程精簡為一鍵開通、自助運(yùn)營和數(shù)據(jù)看板三個關(guān)鍵功能給了客戶，以滿足快速接入、靈活調(diào)優(yōu)和對數(shù)據(jù)的可視分析的需求，極大地降低在內(nèi)容審核方面的研發(fā)和運(yùn)營成本，讓上云企業(yè)能夠在產(chǎn)品研發(fā)和安全運(yùn)營方面都能夠?qū)崿F(xiàn)降本增效的目的。

案例一：COS 全自動審核模式

在COS 全自動審核模式下，業(yè)務(wù)團(tuán)隊(duì)只需針對COS的存儲配置開通送審功能，并且進(jìn)一步配置對違規(guī)資源的處置規(guī)則，比如上傳的圖片如果包含低俗廣告，違規(guī)內(nèi)容時，就會自動封禁。

對于數(shù)據(jù)的送審，違規(guī)數(shù)據(jù)的處置功能邏輯完全可以交給COS和天御內(nèi)部系統(tǒng)實(shí)現(xiàn)，真正實(shí)現(xiàn)零研發(fā)接入。并且伴云審核還有一個很獨(dú)特的優(yōu)點(diǎn)，由于COS和天域系統(tǒng)可以通過騰訊內(nèi)部網(wǎng)絡(luò)通信，因此客戶不需要承擔(dān)因?qū)徍讼螺d產(chǎn)生的費(fèi)用。

以圖片審核為例，這種審核模式可以為客戶節(jié)省大約20%的整體審核費(fèi)用。

在COS存儲場景下，當(dāng)出現(xiàn)新的審核需求時，可以在控制臺啟動存量掃描能力，實(shí)現(xiàn)對歷史數(shù)據(jù)的全量清洗。

案例二：TRTC 全自動審核，靈活方便，費(fèi)用更低

在天御內(nèi)容審核中臺中，內(nèi)置實(shí)現(xiàn)TRTC 的專屬審核模塊，全面對接TRTC的事件消息服務(wù)。通過實(shí)時監(jiān)聽房間創(chuàng)建，用戶進(jìn)退房等事件消息，實(shí)現(xiàn)對數(shù)據(jù)的自動送審功能。

面對網(wǎng)絡(luò)中斷等異常情況，可實(shí)現(xiàn)自動恢復(fù)，并且對重復(fù)數(shù)據(jù)進(jìn)行自動去重。

在拉流審核模式方面，支持對單錄音視頻流進(jìn)行審核，也支持將多路音視頻數(shù)據(jù)混合成一路進(jìn)行審核。這種模式的切換可以實(shí)現(xiàn)自助配置，靈活調(diào)整，有效的平衡審核成本和業(yè)務(wù)風(fēng)險。

02 更全面：超500種違規(guī)類型識別

新版本中第二個大特性，是審核能力的全面升級：

超過500多種的違規(guī)類型識別，整體提升了40%以上。

在識別粒度方面也進(jìn)行更加精細(xì)的拆分，通過更細(xì)的標(biāo)簽、靈活調(diào)整，以適應(yīng)不同行業(yè)的審核需求。

案例一：守護(hù)未成年人網(wǎng)絡(luò)內(nèi)容安全

在未成年人保護(hù)相關(guān)能力方面，提供了兒童邪典、未成年人低俗、未成年人不適宜表情包等十幾個標(biāo)簽。

支持對未成年人年齡屬性的輸出，讓業(yè)務(wù)可以根據(jù)屬性進(jìn)一步區(qū)分未成年人群體，從而制定不同的處置規(guī)則。

案例二：守護(hù)內(nèi)容平臺版權(quán)風(fēng)險

近年來，各行各業(yè)的版權(quán)保護(hù)意識越來越強(qiáng)。例如，在有聲小說業(yè)務(wù)場景中，用戶有可能上傳一些缺乏授權(quán)的素材，導(dǎo)致平臺方侵犯作者的權(quán)益，從而引發(fā)版權(quán)訴訟。

因此，在騰訊安全天御內(nèi)容風(fēng)控解決方案新的內(nèi)容審核產(chǎn)品中，新增了版權(quán)篩查的功能，幫助平臺進(jìn)一步降低版權(quán)的風(fēng)險。

案例三：守護(hù)音視頻應(yīng)用本地化場景

對于國內(nèi)主打本地化場景的音視頻應(yīng)用，基于中文普通話構(gòu)建的安全識別能力，其效果會受地方方言影響大打折扣，因此騰訊安全天御內(nèi)容風(fēng)控解決方案在新版本里增加了超過20多種的國內(nèi)方言識別。

針對海外地區(qū)的業(yè)務(wù)場景，也新增了英語，日語，韓語和阿拉伯語等主流語言的識別，并且在海外部署了專門的業(yè)務(wù)節(jié)點(diǎn)，進(jìn)一步解決全球性的業(yè)務(wù)安全合規(guī)問題。

值得注意的是，經(jīng)過多次的模型迭代，騰訊安全天御內(nèi)容風(fēng)控解決方案在隱晦違規(guī)元素的識別上也取得了較大的突破，例如變體字、行近字等干擾性強(qiáng)的違規(guī)內(nèi)容。對一些情感性、傾向性檢測的場景，即使是在嘈雜音背景下，也能對風(fēng)險內(nèi)容進(jìn)行及時的應(yīng)對和處理。

03 更準(zhǔn)確：國內(nèi)權(quán)威認(rèn)證，全五星最高能力標(biāo)準(zhǔn)

騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)新版本今年六月份通過了中國信托院組織的專業(yè)評測，在文本、圖像、音頻、視頻四大類型的 16 項(xiàng)場景評測中均為滿分，斬獲“全五星”最高評級。

目前，騰訊安全天御風(fēng)控已為 1500 多家平臺提供內(nèi)容安全服務(wù)，共計審核圖片總量已突破 3000 億條，累計攔截不良內(nèi)容超 5 億條，更多次參與護(hù)航重大展會、峰會的內(nèi)容安全。