以ChatGPT為代表的新一代人工智能(AI)技術(shù)的興起,在各行各業(yè)掀起了新一輪技術(shù)革命。圍繞AI技術(shù)帶來的機遇和挑戰(zhàn)，“安全+AI”已經(jīng)成為目前網(wǎng)絡(luò)安全廠商積極布局的領(lǐng)域。IDC預(yù)測，全球基于AI技術(shù)的網(wǎng)絡(luò)安全市場將從2022年的174億美元增長到2023年的1027.8億美元，年復(fù)合增長率為19.43%。另據(jù)Research and Markets報告預(yù)測，2030年網(wǎng)絡(luò)安全中AI產(chǎn)值將突破千億美元，年復(fù)合增長率達(dá)到25.7%。安博通，作為網(wǎng)絡(luò)安全上游的龍頭企業(yè)，正加速研發(fā)和探索步伐，持續(xù)為網(wǎng)安行業(yè)發(fā)展注入新動能。

AI新型攻擊種類與手段迭出 新一輪“攻防戰(zhàn)”已打響

AI技術(shù)的廣泛應(yīng)用加劇了網(wǎng)安風(fēng)險，黑產(chǎn)大語言模型、惡意AI機器人、自動化攻擊、深度偽造（Deepfake）等AI新型攻擊層出不窮，在全球范圍內(nèi)造成嚴(yán)重危害，新一輪“攻防戰(zhàn)”已打響。如何防范AI技術(shù)帶來的新風(fēng)險，并應(yīng)用AI技術(shù)構(gòu)建更具實戰(zhàn)能力的安全體系，已成為行業(yè)、企業(yè)的剛需和網(wǎng)安廠商研發(fā)的重點。

安博通專家指出，大語言模型自身的安全漏洞就是一大嚴(yán)重的安全威脅。據(jù)開放式Web應(yīng)用程序安全項目（OWASP）發(fā)布的AI安全矩陣，常見的AI威脅包括多種提示注入、模型投毒、數(shù)據(jù)投毒、數(shù)據(jù)泄露等，針對大模型應(yīng)用的十大安全風(fēng)險項檢查清單包括提示注入、數(shù)據(jù)泄漏、沙箱不足和未經(jīng)授權(quán)的代碼執(zhí)行等。這些都可能造成信息泄露。更加嚴(yán)峻的形勢是，黑產(chǎn)大語言模型應(yīng)運而生， FraudGPT和WormGPT 兩款惡意AI工具自去年開始就在暗網(wǎng)公開出售，F(xiàn)raudGPT偏向生成迅速且大量的網(wǎng)絡(luò)釣魚攻擊，WormGPT偏向生成更為復(fù)雜的惡意軟件和勒索軟件功能，均成為黑客手中的得力工具。因此，需要對大語言模型進(jìn)行加密、權(quán)限管理、監(jiān)控等多重安全措施,保障其輸入、輸出和相關(guān)數(shù)據(jù)不受非法攻擊或訪問。

據(jù)悉，安博通早在去年就和百度安全簽訂戰(zhàn)略合作協(xié)議，基于文心大模型共同研發(fā)面向安全網(wǎng)關(guān)的AI SEC Agent，共建AI大模型安全生態(tài)。據(jù)全球增長咨詢公司弗若斯特沙利文發(fā)布的《2024年中國大模型能力評測》，基于用戶使用體驗和實際使用價值雙重衡量標(biāo)準(zhǔn)，綜合考量數(shù)理科學(xué)、語言能力、道德責(zé)任、行業(yè)能力及綜合能力等5大核心維度及21個細(xì)化二級維度，對國內(nèi)主流的15個大模型進(jìn)行了權(quán)威評測，百度文心一言能力最為全面，五項評測維度均為優(yōu)勢能力，并取得四項第一。

巧用AI化被動為主動 安全產(chǎn)品變身智能安全顧問

社會工程攻擊是利用社會工程學(xué)手段實施的網(wǎng)絡(luò)攻擊行為。社會工程學(xué)是一種操縱人際關(guān)系以獲取敏感信息或訪問權(quán)限的技術(shù)。攻擊者通常利用人類的心理弱點，如信任、恐懼或貪婪，來誘使受害者泄露信息或執(zhí)行不安全操作。AI技術(shù)令攻擊者可以更加便捷、更加具有針對性地實施海量攻擊。去年，在ChatGPT發(fā)布的短短五個月后，據(jù)英國網(wǎng)絡(luò)安全公司Darktrace報告，攻擊者使用ChatGPT等生成式AI通過增加文本描述、標(biāo)點符號和句子長度，就讓社會工程攻擊量增加了135%。

對此，安博通專家表示，作為網(wǎng)安的防守方，應(yīng)當(dāng)以“安全+AI”為利刃，化被動為主動，在這場“攻防戰(zhàn)”中積極搶占制高點，更有效地應(yīng)對新型威脅，提高威脅檢測和判斷的效率以及準(zhǔn)確率，提升安全處置自動化水平。運用AI技術(shù)打造的網(wǎng)絡(luò)安全產(chǎn)品未來應(yīng)當(dāng)更具智慧，類似智能安全顧問，能夠提供威脅情報與改善建議，在助力企業(yè)、行業(yè)提升智能化防護水平的同時，進(jìn)一步改善交互模式和用戶體驗。

AI攻擊危及國家安全 筑牢網(wǎng)安“防火墻”勢在必行

AI新型攻擊不僅對行業(yè)、社會發(fā)展帶來嚴(yán)重威脅，更危及國家安全層面。例如，基于AI技術(shù)圖像、音頻和視頻合成方法的深度偽造技術(shù)經(jīng)常被用于制造虛假新聞、操控公眾輿論，該技術(shù)曾被運用于2022年俄烏沖突期間的信息戰(zhàn)，并造成了今年1月美國新罕布什爾州選舉干擾事件。這正是全球各國強化法律約束，持續(xù)推動國家信息安全建設(shè)的主要原因。據(jù)國外調(diào)研機構(gòu)Markets and Markets的研究，2023年全球組織預(yù)計將在網(wǎng)絡(luò)安全AI解決方案上花費224億美元。

繼去年國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》之后，我國持續(xù)強化AI安全的管理，進(jìn)一步健全網(wǎng)安法律和標(biāo)準(zhǔn)體系，維護國家安全和社會公共利益。近期，多項網(wǎng)安規(guī)定和相關(guān)標(biāo)準(zhǔn)相繼發(fā)布：3月15日，《數(shù)據(jù)安全技術(shù) 數(shù)據(jù)分類分級規(guī)則》等5項網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)獲批發(fā)布；3月22日，國家網(wǎng)信息辦公布《促進(jìn)和規(guī)范數(shù)據(jù)跨境流動規(guī)定》，自公布之日起施行，進(jìn)一步促進(jìn)數(shù)據(jù)依法有序自由流動，激發(fā)數(shù)據(jù)要素價值，擴大高水平對外開放。

安博通專家表示，維護網(wǎng)絡(luò)安全、守護國家信息安全是全社會的共同責(zé)任，更是每個安全廠商的首要責(zé)任。從深度偽造、大規(guī)模高效率攻擊到隱私數(shù)據(jù)泄露等，盡管AI造成的安全隱患多種多樣，但緊握“安全+AI”這個核心，做好AI攻擊監(jiān)測和防范，做強數(shù)據(jù)安全防護，則可有效防范AI安全風(fēng)險。而這正是安博通不斷努力的方向。作為網(wǎng)安上游企業(yè)，我們將在“安全+AI”領(lǐng)域不斷探索，致力于成為網(wǎng)安行業(yè)堅實的“后盾”，為保障國家信息安全持續(xù)貢獻(xiàn)力量。