7月21日，2022北京網(wǎng)絡(luò)安全大會(huì)技術(shù)峰會(huì)上，百度副總裁馬杰詳細(xì)介紹了在AI安全領(lǐng)域的一些實(shí)踐和研究，分享了他在元宇宙與AI結(jié)合方面的新思考。

馬杰表示，伴隨數(shù)字經(jīng)濟(jì)智能經(jīng)濟(jì)的發(fā)展，以及國(guó)際政治經(jīng)濟(jì)格局的變化，在全球范圍內(nèi)網(wǎng)絡(luò)安全形勢(shì)正在發(fā)生一系列深刻的變革，其中以AI為代表的新技術(shù)、新應(yīng)用和新場(chǎng)景快速崛起。一方面，AI與實(shí)體經(jīng)濟(jì)進(jìn)一步融合，帶給社會(huì)很多的便利，而另一方面，AI也刷新了對(duì)網(wǎng)絡(luò)安全的認(rèn)知、重構(gòu)了原有的網(wǎng)絡(luò)安全體系。多方協(xié)同共治，已成為共識(shí)。

如何構(gòu)建一個(gè)更為安全的智能時(shí)代？馬杰提到，兩年前百度提出了Security、Safety、Privacy的AI安全三大研究維度，并以此為基礎(chǔ)，圍繞算力算法和數(shù)據(jù)，進(jìn)一步把AI安全能力，覆蓋到了各種應(yīng)用場(chǎng)景，由此構(gòu)建起了一整套體系化的安全框架。例如AI自主框架安全模型攻擊檢測(cè)、數(shù)據(jù)安全能力以及有隱私保護(hù)的機(jī)器學(xué)習(xí)能力等。

面對(duì)新變化與新技術(shù)，馬杰認(rèn)為，對(duì)于安全來(lái)說(shuō)，最大的挑戰(zhàn)永遠(yuǎn)不是該如何去解決問(wèn)題，而是如何才能更快的更準(zhǔn)確的發(fā)現(xiàn)問(wèn)題。相比較之下，人的行為環(huán)境變化很大，真實(shí)世界中有太多風(fēng)險(xiǎn)無(wú)法預(yù)判，因此想要窮盡所有的可能不現(xiàn)實(shí)，因此提前應(yīng)對(duì)潛在的安全問(wèn)題成為了每一個(gè)安全人必須考慮的問(wèn)題。

近期，百度在嘗試有關(guān)自動(dòng)駕駛安全研究項(xiàng)目——鐵馬冰河，此項(xiàng)目是一個(gè)聚焦于沉浸式高擬真場(chǎng)景，富含AI對(duì)抗的元宇宙化安全測(cè)試平臺(tái)，在這個(gè)平臺(tái)上我們構(gòu)建了大量高擬真的測(cè)試場(chǎng)景去捕捉自動(dòng)駕駛產(chǎn)品感知環(huán)節(jié)的漏洞，將Fuzzing模糊測(cè)試的理念與元宇宙相結(jié)合，并進(jìn)行視覺(jué)魯棒性Al安全對(duì)抗性的指標(biāo)評(píng)測(cè)，通過(guò)虛實(shí)結(jié)合的仿真測(cè)試為自動(dòng)駕駛安全保駕護(hù)航。

目前項(xiàng)目已經(jīng)可以支持三個(gè)方向的自動(dòng)駕駛安全測(cè)評(píng)方案，并由此構(gòu)建了一個(gè)從整車在環(huán)、硬件在環(huán)，再到軟件在環(huán)的全鏈條測(cè)試驗(yàn)證體系。

他分享到，百度為應(yīng)對(duì)用AI、用云、用元宇宙等的安全問(wèn)題，構(gòu)建出了一個(gè)數(shù)字孿生世界，在平行空間內(nèi)測(cè)試、用最大限度去發(fā)現(xiàn)想不到和想得到的安全隱患。

“國(guó)產(chǎn)元宇宙產(chǎn)品希壤，則是百度打造出的平行于現(xiàn)實(shí)世界的第二時(shí)空?！瘪R杰分享到，今年6月，鐵馬冰河已上線希壤。未來(lái)，希壤將不僅創(chuàng)造出近乎仿真的虛擬環(huán)境，也將打通一系列數(shù)據(jù)，并與平行的元宇宙大世界產(chǎn)生互動(dòng)，未來(lái)，個(gè)人也將有機(jī)會(huì)作為真人NPC參加到車輛測(cè)試中。此外，在仿真環(huán)境的反復(fù)測(cè)試，也將能夠給出更多真實(shí)的測(cè)試反饋，并納入到未來(lái)鐵馬冰的設(shè)計(jì)之中。

馬杰提到，處在一個(gè)新與舊相互疊加的時(shí)代，一方面AI本身的安全性挑戰(zhàn)超出了傳統(tǒng)的安全邊界與框架的認(rèn)知范疇，同時(shí)新升級(jí)的問(wèn)題也在同時(shí)出現(xiàn)，因此，將AI與Meta等新技術(shù)的結(jié)合將為未來(lái)安全能力的研究注入新動(dòng)能。與此同時(shí)，百度也在利用Fuzzing進(jìn)行模糊測(cè)試，并將Fuzzing與Meta結(jié)合，以便未來(lái)挖掘出它的更大價(jià)值。

目前，百度先后多次將開(kāi)源技術(shù)、平臺(tái)等捐獻(xiàn)給了開(kāi)源基金會(huì)，希望基于這些開(kāi)放的研究、開(kāi)放的代碼，可以更好地與合作伙伴一起共同推動(dòng)產(chǎn)學(xué)研各界合作，從而構(gòu)建起來(lái)一個(gè)更為開(kāi)放的生態(tài)，未來(lái)能夠更好地服務(wù)于國(guó)家網(wǎng)絡(luò)安全建設(shè)，履行企業(yè)應(yīng)由的社會(huì)責(zé)任。

據(jù)了解，百度是目前全球?yàn)閿?shù)不多可以提供AI芯片AI軟件架構(gòu)和AI應(yīng)用等全棧AI技術(shù)的企業(yè)之一。今年的第一季度百度的核心研發(fā)費(fèi)用達(dá)到了51.34億元，這占到核心收入的比例已連續(xù)六個(gè)季度超過(guò)了20%，研發(fā)投入強(qiáng)度位居中國(guó)大型科技互聯(lián)網(wǎng)公司的前列。