9月15日,網(wǎng)易智企主辦的“智啟 AI ? AIGC 產(chǎn)業(yè)賦能大會(huì)”在中國烏鎮(zhèn)盛大開幕,多位在 AI 領(lǐng)域具備深刻理解的大咖圍繞 AI 賦能行業(yè)的趨勢(shì)、AI 催生的商業(yè)機(jī)遇、AI 驅(qū)動(dòng)企業(yè)轉(zhuǎn)型的策略等話題進(jìn)行了探討。網(wǎng)易智企分享了 AIGC 在組織效能提升的實(shí)踐經(jīng)驗(yàn),以及智企各業(yè)務(wù)線 AI 落地的最新進(jìn)展與成果,并發(fā)布了聚焦于客服領(lǐng)域的行業(yè)大模型“商河”。

大會(huì)同期,作為網(wǎng)易智企旗下的新一代數(shù)字內(nèi)容風(fēng)控領(lǐng)軍者,網(wǎng)易易盾發(fā)布《生成式人工智能(AIGC)內(nèi)容安全合規(guī)指引》。該指引旨在闡述AIGC趨勢(shì)下,開展數(shù)字化業(yè)務(wù)的企業(yè)如何建立內(nèi)容安全合規(guī)體系,以確保AIGC相關(guān)業(yè)務(wù)健康長效地發(fā)展。

01.AIGC,數(shù)字內(nèi)容風(fēng)控的“矛”與“盾”

在愛分析聯(lián)合網(wǎng)易易盾發(fā)布的數(shù)字內(nèi)容風(fēng)控行業(yè)首本白皮書——《2023數(shù)字內(nèi)容風(fēng)控行業(yè)白皮書》中提到,自2022年開始,從引爆AI作畫領(lǐng)域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT為代表的接近人類水平的對(duì)話機(jī)器人,AIGC技術(shù)逐漸走入人們的視野和日常生活,也逐漸成為內(nèi)容生產(chǎn)的新引擎,其強(qiáng)大的內(nèi)容生產(chǎn)能力更是給人們帶來了極大的震撼。

一方面,AIGC提升了內(nèi)容生產(chǎn)效率,成為數(shù)字內(nèi)容生產(chǎn)的“利器”,另一方面也要看到,AIGC的內(nèi)容生產(chǎn)方式給黑灰產(chǎn)也提供了更加便利的工具,提升了數(shù)字內(nèi)容風(fēng)控的難度,包括虛假信息問題、惡意內(nèi)容問題、網(wǎng)絡(luò)欺詐問題等。

在當(dāng)前的AIGC環(huán)境下,虛假信息、惡意內(nèi)容以及網(wǎng)絡(luò)欺詐等問題已成為待解決的難題。因此,AIGC平臺(tái)廠商需要建立完整的閉環(huán)風(fēng)控體系,以實(shí)現(xiàn)全面的防范和處置。該體系應(yīng)從事前防控開始,通過數(shù)據(jù)標(biāo)注、數(shù)據(jù)治理等方法手段,將風(fēng)險(xiǎn)防控前置化;接著,在事中階段,應(yīng)精準(zhǔn)審核各種內(nèi)容,利用先進(jìn)的人工智能算法進(jìn)行快速篩選和判定是否存在違規(guī)行為,最后,在事后處置優(yōu)化階段,應(yīng)采取有效的措施對(duì)違規(guī)行為進(jìn)行處理,并通過持續(xù)的監(jiān)控和反饋機(jī)制,不斷完善和優(yōu)化風(fēng)控體系,確保 AIGC應(yīng)用的安全穩(wěn)定運(yùn)營。

易盾本次發(fā)布《生成式人工智能(AIGC)內(nèi)容安全合規(guī)指引》,即意在確保AIGC這一人類歷史上的突破性科技成果,“矛”為人類所用,“盾”護(hù)自身安全。

02.在效率之前的命題:安全合規(guī)

生成式人工智能(AIGC)的安全與合規(guī),并不是某一家企業(yè)或某一個(gè)平臺(tái)需要面對(duì)的命題,而是一個(gè)社會(huì)在面對(duì)一項(xiàng)時(shí)代進(jìn)步時(shí)所需要共同面對(duì)的。

國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》(以下稱“辦法”),對(duì)生成式人工智能進(jìn)行專項(xiàng)監(jiān)管,于2023年8月15日正式施行。這也是我國首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策。

根據(jù)中國日?qǐng)?bào)網(wǎng)解讀,在落實(shí)規(guī)范細(xì)則同時(shí),《辦法》也進(jìn)一步鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,支持各類組織在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展協(xié)作,推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。

此外,《辦法》在優(yōu)化監(jiān)管細(xì)則,支持企業(yè)級(jí)生成式人工智能技術(shù)進(jìn)一步發(fā)展同時(shí),也鼓勵(lì)生成式人工智能在不同行業(yè)、領(lǐng)域的應(yīng)用,構(gòu)建應(yīng)用生態(tài)體系,加速生成式人工智能應(yīng)用生態(tài)發(fā)展。

《辦法》實(shí)施的不久之后,百度、字節(jié)跳動(dòng)、商湯、中科院旗下紫東太初、百川智能、智譜華章等8家企業(yè)/機(jī)構(gòu)的大模型位列首批通過《生成式人工智能服務(wù)管理暫行辦法》備案的名單,可正式上線面向公眾提供服務(wù)。

在看到監(jiān)管的同時(shí),更應(yīng)該看到安全合規(guī)帶來的長期利好?？v觀歷史各項(xiàng)對(duì)人類發(fā)展有著重大意義的科技成果,每項(xiàng)成果在大規(guī)模造福人類時(shí)都需要在“安全合規(guī)”的前提下——這不是一種負(fù)擔(dān),而是一種長期主義下的重要保障。

03.得《指引》者得安全,得安全者得長效

在此次發(fā)布的《生成式人工智能(AIGC)內(nèi)容安全合規(guī)指引》中,易盾團(tuán)隊(duì)首先闡述了生成式人工智能內(nèi)容安全的重要性,后以人工智能行業(yè)合規(guī)發(fā)展為出發(fā)點(diǎn),重點(diǎn)探討了生成式人工智能全生命周期的安全風(fēng)險(xiǎn)與合規(guī),最后進(jìn)行總結(jié)并提出幾點(diǎn)建議,幫助生成式人工智能服務(wù)提供商在合乎規(guī)范的前提下為用戶提供服務(wù),促進(jìn)生成式人工智能健康蓬勃發(fā)展。

《指引》通過AIGC生命周期風(fēng)險(xiǎn)、風(fēng)險(xiǎn)應(yīng)對(duì)、內(nèi)容安全的檢測(cè)標(biāo)準(zhǔn)、內(nèi)容安全檢測(cè)工具及實(shí)例分析、AIGC企業(yè)合規(guī)要點(diǎn)5大章節(jié)近2萬字給出了詳細(xì)且完善的AIGC內(nèi)容安全合規(guī)方法論與案例參考。同時(shí)易盾研究團(tuán)隊(duì)向社會(huì)與行業(yè)免費(fèi)公開此《指引》,這也是網(wǎng)易易盾作為數(shù)字內(nèi)容風(fēng)控行業(yè)領(lǐng)軍者的行業(yè)擔(dān)當(dāng)、社會(huì)擔(dān)當(dāng)。

在給出具體合規(guī)要點(diǎn)與方法的同時(shí),《指引》還在最后向AIGC服務(wù)提供商真誠地提出如下建議:

(1)積極響應(yīng)國家政策,以網(wǎng)信辦等主管部門發(fā)布的相關(guān)文件為指引,做好算法備案、安全自評(píng)估等工作;

(2)加強(qiáng)對(duì)合規(guī)標(biāo)準(zhǔn)的自主探索,建立企業(yè)層面的評(píng)價(jià)體系,堅(jiān)持以公平、公開、向善的原則開展有關(guān)技術(shù)的研究和應(yīng)用工作,加強(qiáng)AIGC全生命周期合規(guī)工作的監(jiān)督意識(shí),確保訓(xùn)練階段不脫節(jié)、應(yīng)用階段不違法;

(3)加強(qiáng)企業(yè)安全管理制度建設(shè),用制度規(guī)范行為,做到安全管理常態(tài)化;

(4)加強(qiáng)科技創(chuàng)新,著重解決現(xiàn)有技術(shù)中存在的難題,突破算法透明度、健壯性、歧視與偏見等技術(shù)局限,打破行業(yè)發(fā)展瓶頸;

(5)主動(dòng)承擔(dān)社會(huì)責(zé)任,加強(qiáng)正面宣傳,幫助廣大人民群眾了解AIGC技術(shù)的現(xiàn)狀和發(fā)展趨勢(shì),引導(dǎo)大眾正確使用相關(guān)技術(shù)服務(wù),助力AIGC真正造福社會(huì)、造福人類。

網(wǎng)易副總裁、網(wǎng)易智企總經(jīng)理阮良表示:可以說,幾乎所有的業(yè)務(wù)都適合用AI重做一遍,所有的效益都值得被AIGC放大一遍。作為網(wǎng)易智企旗下的新一代數(shù)字內(nèi)容風(fēng)控領(lǐng)軍者,網(wǎng)易易盾基于豐富的內(nèi)容安全行業(yè)經(jīng)驗(yàn)積累,為企業(yè)提供算法備案等安全專家咨詢服務(wù),以數(shù)字化的方式幫助企業(yè)客戶用AIGC放大效益,用《生成式人工智能(AIGC)內(nèi)容安全合規(guī)指引》與AIGC內(nèi)容安全解決方案與所有擁抱AIGC的企業(yè)伙伴們奔向長效、奔向未來。