讓每一句人機(jī)對(duì)話都安全可信,讓每一次智能交互都風(fēng)險(xiǎn)可控——這是屬于AI時(shí)代的安全承諾。

—— 啟明星辰

近年來,隨著生成式人工智能、深度合成等新技術(shù)的迅猛發(fā)展,AI生成合成內(nèi)容在給人們帶來便利的同時(shí),也引發(fā)了濫用生成合成技術(shù)、虛假信息傳播擴(kuò)散加劇等問題。例如,2025年1月,西藏日喀則地震期間,一張被壓在廢墟下的兒童圖片被大量轉(zhuǎn)發(fā),但實(shí)際上該圖片是AI生成的,并非真實(shí)災(zāi)區(qū)影像。

AI合規(guī)新時(shí)代:《標(biāo)識(shí)辦法》與強(qiáng)制國標(biāo)出臺(tái)

為了促進(jìn)人工智能健康發(fā)展,規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí),保護(hù)公民、法人和其他組織合法權(quán)益,維護(hù)社會(huì)公共利益,國家網(wǎng)信辦、工信部、公安部、廣電總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(以下簡(jiǎn)稱《標(biāo)識(shí)辦法》),自2025年9月1日起施行。

《標(biāo)識(shí)辦法》明確,人工智能生成合成內(nèi)容(文本、圖片、音頻、視頻等)信息需要進(jìn)行標(biāo)識(shí),可采用顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式。

強(qiáng)制性國家標(biāo)準(zhǔn)《GB 45438-2025 網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》(以下簡(jiǎn)稱《標(biāo)識(shí)標(biāo)準(zhǔn)》)提出具體實(shí)施方式和操作方法,同《標(biāo)識(shí)辦法》兩者同步發(fā)布,于2025年9月1日同步實(shí)施,更好地指導(dǎo)相關(guān)主體規(guī)范開展強(qiáng)制標(biāo)識(shí)活動(dòng)。

《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能生成合成內(nèi)容標(biāo)識(shí) 服務(wù)提供者編碼規(guī)則》為人工智能生成合成內(nèi)容服務(wù)提供者和網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者提供編碼規(guī)則,指導(dǎo)其開展人工智能生成合成內(nèi)容的文件元數(shù)據(jù)隱式標(biāo)識(shí)工作。

●顯式標(biāo)識(shí):以文字、聲音、圖形等直觀方式呈現(xiàn),讓用戶一眼就能辨別內(nèi)容是否由AI生成;

●隱式標(biāo)識(shí):隱藏在文件數(shù)據(jù)中,雖不易被用戶察覺,但能詳細(xì)記錄生成、傳播的全鏈路信息,為內(nèi)容追溯提供有力支持。

這一舉措旨在通過標(biāo)識(shí)提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為,以合理成本提高安全性,推動(dòng)人工智能健康有序發(fā)展。

大模型應(yīng)用內(nèi)容合成水印系統(tǒng):應(yīng)運(yùn)而生的合規(guī)利器

面對(duì)《標(biāo)識(shí)辦法》、《標(biāo)識(shí)標(biāo)準(zhǔn)》帶來的合規(guī)挑戰(zhàn),企業(yè)在使用大模型生成內(nèi)容時(shí)往往感到無所適從。如何確保生成的內(nèi)容符合標(biāo)識(shí)要求?怎樣在復(fù)雜的業(yè)務(wù)場(chǎng)景中快速、準(zhǔn)確地嵌入標(biāo)識(shí)?如何滿足強(qiáng)制合規(guī)管理要求?這些問題成為了企業(yè)亟待解決的痛點(diǎn)。

為了幫助機(jī)構(gòu)應(yīng)對(duì)這些挑戰(zhàn),啟明星辰憑借在數(shù)據(jù)安全領(lǐng)域的深厚積累和技術(shù)優(yōu)勢(shì),重磅推出了大模型應(yīng)用內(nèi)容合成水印系統(tǒng)(Model Application Content Compose Watermark System,MACCW)。這是一款面向企業(yè)機(jī)構(gòu),用于企業(yè)用戶使用、應(yīng)用調(diào)用各種大模型時(shí),對(duì)大模型生成的內(nèi)容進(jìn)行合規(guī)標(biāo)識(shí)嵌入的產(chǎn)品。該產(chǎn)品基于《GB 45438-2025 網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》等要求設(shè)計(jì),通過標(biāo)準(zhǔn)化SDK/API能力,幫助大模型應(yīng)用方在生成、傳播AI內(nèi)容時(shí),自動(dòng)嵌入顯式與隱式標(biāo)識(shí),確保內(nèi)容可追溯、可鑒別,滿足數(shù)據(jù)安全與合規(guī)監(jiān)管要求。

產(chǎn)品定位:滿足企業(yè)合規(guī)剛需

在《標(biāo)識(shí)辦法》、《標(biāo)識(shí)標(biāo)準(zhǔn)》的嚴(yán)格要求下,大模型人工智能應(yīng)用方服務(wù)提供方需要確保生成的每一段文本、每一張圖片、每一段音頻和視頻都符合標(biāo)識(shí)標(biāo)準(zhǔn)。MACCW定位于對(duì)于企業(yè)用戶,尤其是那些依賴大模型人工智能生成合成進(jìn)行內(nèi)容生產(chǎn)生成與傳播的企業(yè),無縫對(duì)接企業(yè)現(xiàn)有的大模型AI應(yīng)用架構(gòu),統(tǒng)一處理幫助企業(yè)輕松應(yīng)對(duì)內(nèi)容標(biāo)識(shí)嵌入的合規(guī)挑戰(zhàn),防止人工智能生成合成的內(nèi)容無標(biāo)識(shí)擴(kuò)散和傳播。同時(shí)對(duì)于政府用戶,尤其是有面向公眾提供政務(wù)服務(wù)的單位和機(jī)構(gòu),也能夠加強(qiáng)人工智能生成合同內(nèi)容進(jìn)行政務(wù)服務(wù)的標(biāo)識(shí)“把關(guān)”。

核心價(jià)值:合規(guī)、安全、可追溯、即接即用

●合規(guī)遵從:系統(tǒng)嚴(yán)格遵循《標(biāo)識(shí)辦法》、《標(biāo)識(shí)標(biāo)準(zhǔn)》等相關(guān)要求,確保企業(yè)生成的AI內(nèi)容在標(biāo)識(shí)方面完全符合國家標(biāo)準(zhǔn) ,避免因合規(guī)問題而面臨的處罰和聲譽(yù)損失。

●數(shù)據(jù)安全:為企業(yè)AI生成內(nèi)容加上了一層堅(jiān)固的“安全鎖”。顯式或隱式標(biāo)識(shí)中記錄的生成、傳播全鏈路信息,就像內(nèi)容的“身份ID”,一旦出現(xiàn)數(shù)據(jù)泄露或?yàn)E用等安全事件,企業(yè)可以迅速通過這些信息進(jìn)行追溯,查明問題源頭。

●行為可溯:詳細(xì)記錄每一次水印動(dòng)作,對(duì)每次人工生成的行為進(jìn)行記錄。

●即接即用:系統(tǒng)提供標(biāo)準(zhǔn)的API、SDK接口,能夠同使用大模型的業(yè)務(wù)系統(tǒng)、大模型一體機(jī)、chatbot工具快速結(jié)合,降低用戶開發(fā)接入成本,助力企業(yè)快速合規(guī)。

產(chǎn)品創(chuàng)新

MACCW實(shí)現(xiàn)“生成即標(biāo)識(shí)、流轉(zhuǎn)可追溯”的創(chuàng)新模式,通過智能嵌入技術(shù)、全鏈路追溯及場(chǎng)景化智能適配技術(shù),構(gòu)建多模態(tài)AI生成內(nèi)容的全生命周期自動(dòng)化合規(guī)體系,實(shí)現(xiàn)高效可鑒別、抗篡改的監(jiān)管閉環(huán)。

●多模態(tài)智能嵌入:首創(chuàng)多類型內(nèi)容(文本/圖片/音視頻/虛擬場(chǎng)景)統(tǒng)一標(biāo)識(shí)框架,支持顯式標(biāo)識(shí)動(dòng)態(tài)位置適配(如文本首尾角標(biāo)、圖片智能留白區(qū)域嵌入),確保用戶體驗(yàn)與合規(guī)性的平衡。

●全鏈路數(shù)據(jù)水印:突破傳統(tǒng)元數(shù)據(jù)嵌入方式,采用分層隱式標(biāo)識(shí)技術(shù),在文件元數(shù)據(jù)層植入專屬擴(kuò)展字段(如來源、屬性、用途、版權(quán)等),同時(shí)在內(nèi)容數(shù)據(jù)層進(jìn)行特征指紋編碼,實(shí)現(xiàn)“生成 - 傳播 - 使用”全生命周期追溯。

●自動(dòng)化合規(guī)校驗(yàn):構(gòu)建AI驅(qū)動(dòng)的合規(guī)校驗(yàn)系統(tǒng),實(shí)時(shí)檢測(cè)顯式標(biāo)識(shí)格式(位置/內(nèi)容/形式)與隱式標(biāo)識(shí)完整性,通過規(guī)則引擎自動(dòng)觸發(fā)預(yù)警機(jī)制,并生成可追溯的審計(jì)日志鏈,支持監(jiān)管機(jī)構(gòu)穿透式核查。

●場(chǎng)景化智能適配:開發(fā)動(dòng)態(tài)模板庫技術(shù),基于業(yè)務(wù)場(chǎng)景(如智能客服對(duì)話流、文生圖創(chuàng)作工具)自動(dòng)匹配最優(yōu)標(biāo)識(shí)策略,結(jié)合生成內(nèi)容特征(如圖片分辨率、文本長度)實(shí)現(xiàn)參數(shù)智能調(diào)優(yōu),降低企業(yè) 80% 以上的配置成本。

產(chǎn)品功能

1、顯式標(biāo)識(shí)嵌入:清晰告知內(nèi)容來源

MACCW針對(duì)AI生成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等各類內(nèi)容,按照《標(biāo)識(shí)辦法》、《標(biāo)識(shí)標(biāo)準(zhǔn)》的要求添加用戶可見的顯式標(biāo)識(shí)。在文本內(nèi)容方面,支持在文本的起始位置、末尾位置或中間適當(dāng)位置添加文字提示或角標(biāo)形式的標(biāo)識(shí)。

2、隱式標(biāo)識(shí)嵌入:深度嵌入內(nèi)容信息

在文件元數(shù)據(jù)或內(nèi)容數(shù)據(jù)層嵌入不可見標(biāo)識(shí),詳細(xì)記錄生成、傳播全鏈路信息 。以文件元數(shù)據(jù)隱式標(biāo)識(shí)為例,MACCW會(huì)按照《標(biāo)識(shí)辦法》、《標(biāo)識(shí)標(biāo)準(zhǔn)》要求,在文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)擴(kuò)展字段,字段名稱或關(guān)鍵詞包含“AIGC”。隱式標(biāo)識(shí)擴(kuò)展字段的值為符合特定格式的字符串,其中包含生成合成標(biāo)簽要素、生成合成服務(wù)提供者要素、內(nèi)容制作編號(hào)要素、內(nèi)容傳播服務(wù)提供者要素、內(nèi)容傳播編號(hào)要素等關(guān)鍵信息。

3、合規(guī)性校驗(yàn)與審計(jì):為企業(yè)合規(guī)自查提供有力支持

MACCW提供了全面的標(biāo)識(shí)完整性校驗(yàn)功能,能夠自動(dòng)檢查標(biāo)識(shí)是否符合標(biāo)準(zhǔn),包括顯式標(biāo)識(shí)的形式、位置、內(nèi)容,以及隱式標(biāo)識(shí)的字段格式和內(nèi)容等,如果發(fā)現(xiàn)標(biāo)識(shí)存在問題,系統(tǒng)會(huì)及時(shí)發(fā)出預(yù)警,提醒企業(yè)進(jìn)行整改,同時(shí)具備日志記錄與審計(jì)能力,它會(huì)詳細(xì)記錄每一次標(biāo)識(shí)嵌入的操作信息,包括時(shí)間、內(nèi)容類型、生成合成服務(wù)提供者、內(nèi)容傳播服務(wù)提供者等。

4、多場(chǎng)景合規(guī)適配:靈活應(yīng)對(duì)各種AI生成場(chǎng)景

不同AI生成場(chǎng)景對(duì)標(biāo)識(shí)要求各異,MACCW為此預(yù)置合規(guī)標(biāo)識(shí)模板。智能對(duì)話場(chǎng)景,像智能客服與用戶交互時(shí),它在對(duì)話文本附近持續(xù)顯示提示文字,讓用戶辨明AI回復(fù)。文生圖場(chǎng)景,用戶用大模型生成圖片,MACCW依圖片尺寸和內(nèi)容,自動(dòng)選位添加顯式標(biāo)識(shí),保證風(fēng)格協(xié)調(diào)。企業(yè)借助這些模板,無需單獨(dú)復(fù)雜配置,降低使用成本,提高合規(guī)效率,可快速將其應(yīng)用到各類業(yè)務(wù)場(chǎng)景。

核心能力

1、智能適配引擎:智能識(shí)別,精準(zhǔn)嵌入

MACCW的智能適配引擎能夠自動(dòng)識(shí)別AI生成內(nèi)容的類型。當(dāng)一段文本、一張圖片、一段音頻或視頻輸入到MACCW中時(shí),智能適配引擎能夠迅速準(zhǔn)確地判斷其類型,然后根據(jù)不同的內(nèi)容類型和尺寸,動(dòng)態(tài)調(diào)整標(biāo)識(shí)的位置,大大提高標(biāo)識(shí)嵌入的效率和準(zhǔn)確性,讓企業(yè)無需為不同類型的內(nèi)容分別進(jìn)行復(fù)雜的配置,真正實(shí)現(xiàn)了“一鍵式”的標(biāo)識(shí)嵌入操作。

2、雙模式嵌入:實(shí)時(shí)與離線的靈活選擇

MACCW提供雙模式嵌入能力,為企業(yè)提供靈活、高效的解決方案。

●實(shí)時(shí)嵌入模式:與大模型API同步調(diào)用,在AI生成內(nèi)容的瞬間,迅速將標(biāo)識(shí)嵌入其中 。當(dāng)企業(yè)的智能客服與用戶進(jìn)行實(shí)時(shí)對(duì)話時(shí),MACCW的實(shí)時(shí)嵌入模式能夠立即對(duì)客服回復(fù)的內(nèi)容添加標(biāo)識(shí),確保每一次對(duì)話都符合合規(guī)要求,讓用戶在第一時(shí)間了解內(nèi)容的來源。

●離線批量嵌入模式:適用于企業(yè)需要對(duì)大量已生成的內(nèi)容進(jìn)行集中打標(biāo)的場(chǎng)景。企業(yè)可以將存儲(chǔ)AI生成內(nèi)容的文件夾或數(shù)據(jù)庫連接到MACCW,通過離線批量處理模式,一次性對(duì)其中的所有內(nèi)容進(jìn)行標(biāo)識(shí)嵌入。

3、強(qiáng)魯棒性技術(shù):保障標(biāo)識(shí)安全可靠

MACCW采用強(qiáng)魯棒性技術(shù),具備抗壓縮、抗篡改、抗轉(zhuǎn)換的能力,為標(biāo)識(shí)的安全可靠提供了堅(jiān)實(shí)的保障。比如,經(jīng)過MACCW嵌入標(biāo)識(shí)的圖片,即使經(jīng)過多次壓縮,標(biāo)識(shí)依然清晰可辨,確保了標(biāo)識(shí)在各種復(fù)雜環(huán)境下都能穩(wěn)定存在,有效避免了因標(biāo)識(shí)丟失或損壞而導(dǎo)致的合規(guī)風(fēng)險(xiǎn)。

部署場(chǎng)景

1、方式一:對(duì)接私域大模型/一體機(jī)

MACCW采用旁路方式接入用戶網(wǎng)絡(luò),并為私域大模型/一體機(jī)提供數(shù)據(jù)水印能力,實(shí)現(xiàn)大模型生成合成內(nèi)容自動(dòng)標(biāo)識(shí),如下圖所示:

私域大模型/一體機(jī)部署安裝MACCW的水印SDK或調(diào)用MACCW的API接口,當(dāng)大模型生成合成內(nèi)容后,通過MACCW生成內(nèi)容進(jìn)行自動(dòng)標(biāo)識(shí),再提供給用戶或大模型業(yè)務(wù)服務(wù)系統(tǒng)進(jìn)行使用。

2、方式二、對(duì)接大模型業(yè)務(wù)服務(wù)系統(tǒng)

MACCW采用旁路方式接入用戶網(wǎng)絡(luò),并為用戶大模型業(yè)務(wù)服務(wù)系統(tǒng)提供數(shù)據(jù)水印能力,實(shí)現(xiàn)大模型生成合成內(nèi)容自動(dòng)標(biāo)識(shí),如下圖所示:

大模型業(yè)務(wù)服務(wù)系統(tǒng)部署安裝MACCW的水印SDK或調(diào)用MACCW的API接口,當(dāng)業(yè)務(wù)系統(tǒng)從公域大模型、私域大模型/一體機(jī)獲取生成合成內(nèi)容后,通過MACCW生成內(nèi)容進(jìn)行自動(dòng)標(biāo)識(shí)。

3、方式三:對(duì)接大模型訪問脫敏罩

MACCW采用旁路方式接入用戶網(wǎng)絡(luò),通過與大模型訪問脫敏罩結(jié)合,實(shí)現(xiàn)用戶與大模型之間數(shù)據(jù)上傳、數(shù)據(jù)生成、數(shù)據(jù)防護(hù)的全方位安全保障,如下圖所示:

●用戶訪問大模型時(shí),對(duì)用戶輸入數(shù)據(jù)(文本提示詞)或上傳文件自動(dòng)識(shí)別敏感信息,并對(duì)敏感數(shù)據(jù)自動(dòng)脫敏處理,避免用戶隱私泄漏;

●大模型生成合成內(nèi)容通過MACCW自動(dòng)添加標(biāo)識(shí),滿足合規(guī)需求,同時(shí)對(duì)生成內(nèi)容追蹤定位。

未來展望:攜手共進(jìn),迎接AI合規(guī)新未來

啟明星辰大模型應(yīng)用內(nèi)容合成水印系統(tǒng)的推出,為企業(yè)在AI生成內(nèi)容合規(guī)領(lǐng)域提供了強(qiáng)有力的支撐,具有重要的意義和價(jià)值。它不僅幫助企業(yè)滿足了《標(biāo)識(shí)辦法》、《標(biāo)識(shí)標(biāo)準(zhǔn)》的合規(guī)要求,降低了法律風(fēng)險(xiǎn),還提升了企業(yè)對(duì)AI生成內(nèi)容的管理能力,增強(qiáng)了內(nèi)容的可信度和安全性。

●助力合規(guī)達(dá)標(biāo):幫助企業(yè)滿足國家相關(guān)合規(guī)要求,降低合規(guī)風(fēng)險(xiǎn)。

●風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警:實(shí)時(shí)監(jiān)測(cè)和預(yù)警大模型應(yīng)用過程中的安全風(fēng)險(xiǎn),及時(shí)采取應(yīng)對(duì)措施。

●支撐業(yè)務(wù)創(chuàng)新:在保障數(shù)據(jù)安全和合規(guī)的前提下,為企業(yè)大模型應(yīng)用提供了有力支持,促進(jìn)業(yè)務(wù)的高效開展和創(chuàng)新發(fā)展。

●守護(hù)品牌聲譽(yù):避免因數(shù)據(jù)泄露或違規(guī)行為導(dǎo)致的聲譽(yù)損失。

在未來,隨著AI技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的日益豐富,合規(guī)挑戰(zhàn)也將不斷變化。啟明星辰將繼續(xù)秉持創(chuàng)新精神,不斷優(yōu)化和完善大模型應(yīng)用內(nèi)容合成水印系統(tǒng),提升其性能和功能,以適應(yīng)不斷變化的合規(guī)需求。同時(shí),啟明星辰也期待與更多的企業(yè)客戶攜手共進(jìn),共同探索AI合規(guī)的最佳實(shí)踐,分享經(jīng)驗(yàn)和成果,共同應(yīng)對(duì)AI發(fā)展帶來的各種挑戰(zhàn)。