近日，由全球數(shù)字經(jīng)濟(jì)大會(huì)組委會(huì)主辦，中國(guó)信息通信研究院（以下簡(jiǎn)稱“中國(guó)信通院”）、中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)承辦的全球數(shù)字經(jīng)濟(jì)大會(huì)-云智算安全論壇暨第三屆“SecGo論壇”在京召開。會(huì)上發(fā)布了2025可信云上人工智能安全領(lǐng)域最新評(píng)估結(jié)果，科大訊飛的星火大模型內(nèi)容安全防護(hù)平臺(tái)通過中國(guó)信通院“云上大模型內(nèi)容安全防護(hù)產(chǎn)品能力評(píng)估”，并獲得證書，成為首批獲得該項(xiàng)權(quán)威認(rèn)證的產(chǎn)品之一。

此次評(píng)估是中國(guó)信通院為推動(dòng)大模型安全應(yīng)用落地、筑牢內(nèi)容安全屏障而啟動(dòng)的首批“云上大模型內(nèi)容安全防護(hù)產(chǎn)品能力評(píng)估”。評(píng)估標(biāo)準(zhǔn)覆蓋內(nèi)容風(fēng)險(xiǎn)識(shí)別、內(nèi)容檢測(cè)分析、內(nèi)容安全防護(hù)、安全管理等多個(gè)核心維度，對(duì)云上大模型內(nèi)容安全產(chǎn)品能力進(jìn)行全方位考核。

星火大模型安全防護(hù)平臺(tái)基于星火大模型的安全攻防實(shí)踐經(jīng)驗(yàn)沉淀，由科大訊飛聯(lián)合安徽星盾智能科技有限公司聯(lián)合研發(fā)，融入了數(shù)十種原子技術(shù)，達(dá)到“開箱即用”的效果，支持多語種、多模態(tài)、智能體等全場(chǎng)景防護(hù)，成功保障星火大模型的迭代升級(jí)與日常運(yùn)營(yíng)。

平臺(tái)的核心優(yōu)勢(shì)體現(xiàn)在五個(gè)方面：

精細(xì)化分級(jí)分類：根據(jù)功能場(chǎng)景、知識(shí)分類等細(xì)分維度，自動(dòng)適配安全方案及處置策略，平衡不同場(chǎng)景下的風(fēng)險(xiǎn)與效果；

復(fù)雜場(chǎng)景關(guān)鍵設(shè)計(jì)：針對(duì)多模態(tài)結(jié)合風(fēng)險(xiǎn)、上下文語義風(fēng)險(xiǎn)、多語種混合等復(fù)雜風(fēng)險(xiǎn)場(chǎng)景，融入多類型技術(shù)專向設(shè)計(jì)核心防護(hù)邏輯；

大模型回復(fù)安全增強(qiáng)：面向輸入階段的疑似風(fēng)險(xiǎn)，采用安全增強(qiáng)、安全代答、安全搜索等策略；

底線安全多級(jí)加固：針對(duì)高風(fēng)險(xiǎn)場(chǎng)景，考慮傳統(tǒng)防護(hù)技術(shù)的難點(diǎn)問題，基于“以模治模”的思路，引入安全大模型形成規(guī)則->小模型->大模型多級(jí)防護(hù)機(jī)制，配合“人機(jī)結(jié)合”風(fēng)控運(yùn)營(yíng)和效果閉環(huán)體系，實(shí)現(xiàn)底線安全最大化；

行業(yè)領(lǐng)域適配性：支持API輕量化接入與垂直領(lǐng)域策略定制，支撐教育、醫(yī)療、汽車等構(gòu)建垂直領(lǐng)域防護(hù)方案。

此次獲得中國(guó)信通院權(quán)威認(rèn)證，標(biāo)志著科大訊飛在AI安全領(lǐng)域的技術(shù)實(shí)力得到行業(yè)認(rèn)可，也為推動(dòng)人工智能技術(shù)的安全、可控發(fā)展貢獻(xiàn)了重要力量。