讓每一句人機對話都安全可信,讓每一次智能交互都風(fēng)險可控——這是屬于AI時代的安全承諾。

—— 啟明星辰

從傳統(tǒng)網(wǎng)絡(luò)安全到AI原生安全:一場跨越20年的范式升級

2003年,防火墻、入侵檢測、漏洞掃描構(gòu)成的"安全鐵三角"守護(hù)了PC互聯(lián)網(wǎng)時代;當(dāng)ChatGPT4.0發(fā)布后,標(biāo)志著大模型邁出了學(xué)術(shù)圈,讓2023年樹立起一個AI里程碑;2025年春節(jié)前后,DeepSeek的爆火,讓AI真正邁出了技術(shù)圈成為了全行業(yè)全社會的新動能。技術(shù)驅(qū)動千行百業(yè)智能化升級了“發(fā)展”這一翼,一體之另一翼的“安全”也必然煽動起風(fēng)潮。AI大模型應(yīng)用安全的新需求、新賽道、新板塊應(yīng)運而生。

2025年2月17日,啟明星辰正式完整發(fā)布,推出面向AI原生安全的大模型應(yīng)用安全“新三件套”:

1.MAF 大模型應(yīng)用防火墻

Model Application Firewall

2.MASB 大模型訪問安全代理

Model Access Security Broker

3.MAVAS 大模型安全評估系統(tǒng)

Model Application Vulnerability Assessment System

構(gòu)筑起大模型應(yīng)用的全閉環(huán)、全生命周期安全防線。

?第一件:MAF大模型應(yīng)用防火墻——智能對話的“安全閘門”

MAF大模型應(yīng)用防火墻是專注于為企業(yè)級大模型服務(wù)提供應(yīng)用層安全防護(hù)能力的專屬安全產(chǎn)品,聚焦在大模型業(yè)務(wù)場景面臨的全新內(nèi)容級、應(yīng)用級威脅,以“大模型技術(shù)”對抗“大模型威脅”,從而打破傳統(tǒng)防火墻難以應(yīng)對大模型動態(tài)交互和內(nèi)容風(fēng)險場景:

●大模型提示詞注入攻擊防護(hù):通過專用AI算法,基于自然語義理解,精確識別提示詞注入行為,確保輸入內(nèi)容符合大模型業(yè)務(wù)應(yīng)用的邊界。

●大模型對話/API敏感數(shù)據(jù)防泄漏:通過對輸入輸出數(shù)據(jù)的全面解析,對大模型API或?qū)υ捊换ミ^程中的敏感信息輸出實時識別、封堵或脫敏,確保大模型服務(wù)合規(guī)運行。

●大模型應(yīng)用層拒絕服務(wù)攻擊防護(hù):針對應(yīng)用層拒絕服務(wù)攻擊,提供包括密碼防爆破、人機識別、地理區(qū)域訪問控制、API限流保護(hù)等一系列功能,為大模型服務(wù)提供完整的應(yīng)用層抗拒絕服務(wù)攻擊能力。

●大模型應(yīng)用層漏洞攻擊防護(hù):內(nèi)置國內(nèi)領(lǐng)先的應(yīng)用層防護(hù)規(guī)則/語義算法,有效防護(hù)各類針對大模型暴露面的軟件漏洞攻擊。

MAF應(yīng)用場景:所有本地化部署大模型業(yè)務(wù)應(yīng)用的場景均建議部署,如金融行業(yè)大模型服務(wù)安全防護(hù)、電子政務(wù)人工智能對話服務(wù)防護(hù)、企業(yè)內(nèi)部大模型代碼生成防漏洞植入等。

?第二件:MASB大模型訪問安全代理——模型交互的“數(shù)據(jù)安檢通道”

聚焦在大模型企業(yè)級場景下用戶交互訪問場景下數(shù)據(jù)防泄露、權(quán)限管控、合法合規(guī)安全需求,MASB(大模型訪問安全代理,Model Access Security Broker)是在繼承了海外主流產(chǎn)品形態(tài)CASB在云應(yīng)用訪問管控的基礎(chǔ)上,將云應(yīng)用管控邊界擴展至大模型技術(shù)棧:

●企業(yè)敏感數(shù)據(jù)防泄漏圍欄(AI-Sensitive DLP):實時檢測大模型用戶上傳文件敏感信息,動態(tài)策略+行業(yè)庫精準(zhǔn)攔截;

●提示詞“端到端”全鏈路審計(Prompt Guardian):輸入(指令掃描)、交互(元數(shù)據(jù)鏈)、輸出(合規(guī)對比)全鏈路審計;

●影子AI識別管控(Shadow AI Hunter):自動發(fā)現(xiàn)并管控AI資產(chǎn)與員工使用,確保合規(guī)可控;

●AI-Native 零信任訪問控制:動態(tài)鑒權(quán)(身份/意圖/數(shù)據(jù)敏感度)+Token級管控防語義攻擊+會話級風(fēng)險阻斷;

●云-端策略一致化:安全客戶端聯(lián)動實現(xiàn)跨網(wǎng)絡(luò)(內(nèi)網(wǎng)/Wi-Fi/熱點)AI訪問與內(nèi)網(wǎng)管控強度一致;

●企業(yè)級安全Portal門戶(AI Secure Chat):基于角色/設(shè)備動態(tài)管控(對話限制/關(guān)鍵詞攔截/人工審核),完整會話審計滿足強監(jiān)管要求。

MASB典型價值場景:大模型使用過程中防數(shù)據(jù)泄露、企業(yè)AI訪問權(quán)限管控。

?第三件:MAVAS大模型安全評估系統(tǒng)——模型風(fēng)險的“CT掃描儀”

MAVAS大模型安全評估系統(tǒng)通過識別并防范模型在倫理、價值觀及對抗攻擊方面的潛在風(fēng)險,幫助用戶實現(xiàn)合規(guī)運營、規(guī)避內(nèi)容失控風(fēng)險,保障生成內(nèi)容的安全性。MAVAS成為業(yè)內(nèi)首個覆蓋“系統(tǒng)-模型-應(yīng)用”的全棧評估體系:

●風(fēng)險透視:通過包含20000+高質(zhì)量對抗樣本的測試庫,自動化評估模型在道德倫理、歧視偏見、財產(chǎn)隱私、反面誘導(dǎo)、目標(biāo)劫持等14類安全隱患,量化評估模型抗攻擊能力;

●對抗評估:基于大模型實現(xiàn)對抗攻擊場景下的對抗樣本生成和增強,以及安全評估場景下的大模型安全評估結(jié)果判定;

●攻防推演:支持自定義攻擊算子,自動化驗證攻擊樣本的有效性,聯(lián)動電子圍欄驗證安全策略,以持續(xù)攻防博弈增強攻防雙向水平;

●全棧評測:通過集成脆弱性掃描、Web漏掃等引擎,一站式全面評估大模型應(yīng)用的系統(tǒng)、模型和應(yīng)用的安全風(fēng)險;

●合規(guī)分析:內(nèi)置包含生成式AI安全的相關(guān)法案和標(biāo)準(zhǔn)的知識庫,通過智能助手比對模型安全評估結(jié)果給出合規(guī)分析和建議。

MAVAS核心突破場景:大模型應(yīng)用上線前安全驗證、第三方模型采購風(fēng)險評估。

三維立體的大模型應(yīng)用安全防御體系

當(dāng)MAF在大模型應(yīng)用的服務(wù)側(cè)構(gòu)建起覆蓋全層次的防護(hù)墻,確保服務(wù)的合規(guī)、可靠和正向價值;MASB在大模型應(yīng)用的訪問側(cè)架構(gòu)雙向安全隧道,保護(hù)使用者的自身權(quán)益和利益;MAVAS在全局視角針對大模型應(yīng)用的各環(huán)節(jié)進(jìn)行全方位安全評估,進(jìn)而促進(jìn)體系更加堅韌健康。

MAF、MASB、MAVAS三者形成了“事前預(yù)防-事中攔截-事后評估”的完整閉環(huán),形成了“服務(wù)提供者、使用者、保障者”的立體安全格局。

開啟“后DeepSeek智能時代”的新安全范

大模型安全不是傳統(tǒng)網(wǎng)絡(luò)安全的簡單延伸,而是需要重構(gòu)從協(xié)議架構(gòu)到防御邏輯的AI原生安全體系。啟明星辰發(fā)布的大模型應(yīng)用安全"新三件套",正是為千行百業(yè)的大模型落地掃清安全障礙,讓技術(shù)創(chuàng)新始終行駛在安全的軌道上。

“新三件套”只是一個開始

啟明星辰發(fā)布了MAF、MASB、MAVAS組成的大模型應(yīng)用安全的新三件套,精準(zhǔn)滿足了廣大機構(gòu)在大模型全局應(yīng)用初期面臨的核心、高頻且迫切的安全需求。為了構(gòu)建更加全面、堅固的安全防護(hù)體系,啟明星辰正穩(wěn)步規(guī)劃并逐步推出一系列增強的安全產(chǎn)品、服務(wù)與解決方案,涵蓋MCG大模型內(nèi)容網(wǎng)關(guān)、M-ZTNA大模型環(huán)境的零信任、M4A大模型環(huán)境的4A、大模型應(yīng)用安全域服務(wù)以及大模型應(yīng)用安全邊緣服務(wù)等。這一系列創(chuàng)新的安全產(chǎn)品與服務(wù)將共同構(gòu)筑成一個高價值的全新業(yè)務(wù)板塊,引領(lǐng)行業(yè)發(fā)展新方向。

價值在哪里,哪里就需要安全;發(fā)展在哪里,安全的羽翼就會呵護(hù)哪里。在“后DeepSeek智能時代”,啟明星辰知行合一,要:讓每一句人機對話都安全可信,讓每一次智能交互都風(fēng)險可控——這是屬于AI時代的安全承諾。