“360AI安全實驗室已經(jīng)發(fā)現(xiàn)多款移動APP人臉識別設(shè)備存在模型數(shù)據(jù)和人臉數(shù)據(jù)泄露的風(fēng)險。這些模型本應(yīng)是企業(yè)非常重要的資產(chǎn)，卻被輕易的破解，可見人工智能系統(tǒng)本身存在很嚴(yán)重的安全問題?！? 三六零(股票代碼：601360.SH，以下簡稱“360”)集團(tuán)副總裁、人工智能研究院院長鄧亞峰對于人工智能發(fā)展面臨的安全挑戰(zhàn)直言不諱。

9月16日，第四屆全球人工智能產(chǎn)品與應(yīng)用博覽會（AIExpo2021）——新一代人工智能開放創(chuàng)新平臺高峰論壇召開，鄧亞峰發(fā)表主題演講，并被大會主辦方評為中國人工智能年度十大風(fēng)云人物。

本次大會由新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟、蘇州市人工智能協(xié)同創(chuàng)新中心聯(lián)合主辦。360作為唯一一家網(wǎng)絡(luò)安全企業(yè)，360安全大腦入選科技部“國家新一代人工智能開放創(chuàng)新平臺”項目，參與搭建國家級AI開放平臺。大會當(dāng)天，包括華為、百度、商湯、小米、科大訊飛等多家入選企業(yè)參會，演講內(nèi)容圍繞各自負(fù)責(zé)的人工智能重點細(xì)分領(lǐng)域平臺建設(shè)情況展開。

AI發(fā)展造成潛在安全風(fēng)險 中國AI安全領(lǐng)域亟需補(bǔ)強(qiáng)

當(dāng)前，已經(jīng)成為數(shù)字化時代的核心驅(qū)動力，技術(shù)成熟度越來越高，在圖像識別、語音識別、游戲、醫(yī)療影像識別等眾多場景中甚至開始超越人類的表現(xiàn)。但是，隨之而來的風(fēng)險也不可避免的產(chǎn)生，AI算法和系統(tǒng)自身存在的安全隱患，會引入新的安全威脅，涉及到國防、經(jīng)濟(jì)、民生的人工智能設(shè)施和系統(tǒng)一旦遭到攻擊，甚至?xí){到國防安全、企業(yè)安全、個人安全，造成重大的損失與惡劣的影響。

作為中立性的技術(shù)，人工智能具有硬幣的兩面性，正面推動了創(chuàng)新發(fā)展，背面則在被黑客利用，用于自動化網(wǎng)絡(luò)攻擊，加劇了日益嚴(yán)峻的網(wǎng)絡(luò)安全威脅?，F(xiàn)有的檢測、識別、響應(yīng)、保護(hù)技術(shù)，嚴(yán)重落后于智能化發(fā)展過程中的需求，難以應(yīng)對有組織的，具有政府背景的網(wǎng)軍的襲擊。為此，全球范圍內(nèi)的網(wǎng)絡(luò)安全公司利用人工智能技術(shù)，為安全攻防尋求新的武器。目前，人工智能技術(shù)在漏洞挖掘、惡意代碼檢測、惡意流量監(jiān)測等方面已經(jīng)得到了廣泛的應(yīng)用。

ResearchAndMarkets報告顯示，2030年網(wǎng)絡(luò)安全中人工智能產(chǎn)值將突破千億美元，在2020至2030十年間將達(dá)到25.7%的年復(fù)合增長率，市場潛力巨大。然而，我國的人工智能安全領(lǐng)域的發(fā)展卻嚴(yán)重不足，主要表現(xiàn)在三個方面：一是安全評價體系不完善；二是人工智能安全應(yīng)用存在較大差距；三是人工智能安全創(chuàng)新意識和環(huán)境相對滯后，在CBInsights評選的全球100家最具前景的人工智能創(chuàng)業(yè)公司中，人工智能安全公司24家，占比靠前，卻無一家中國公司上榜。

全面開放安全能力 360七方面構(gòu)建人工智能安全生態(tài)

基于此，360所承擔(dān)建設(shè)的安全大腦人工智能開放創(chuàng)新平臺對于中國人工智能安全領(lǐng)域的發(fā)展，具有重要的生態(tài)建設(shè)意義。據(jù)鄧亞峰介紹，安全大腦開放創(chuàng)新平臺建設(shè)主要包括七部分內(nèi)容，分別是多源異構(gòu)安全大數(shù)據(jù)融合與治理、AI賦能安全、AI自身安全、開放與共享、開源社區(qū)與APP STORE、安全大數(shù)據(jù)攻防競賽與科研項目。

360正在AI基礎(chǔ)安全方面發(fā)力，努力建造AI安全的基石，只有根基穩(wěn)固，才能保障上層應(yīng)用的安全性?！癆I的框架本身有很多的安全問題，但是行業(yè)里對這方面的關(guān)注是比較少”，鄧亞峰表示。目前，360AI安全實驗室所開發(fā)的AI框架安全監(jiān)測平臺，已累計發(fā)現(xiàn)Tensorflow、Caffe、Pytorch等主流機(jī)器學(xué)習(xí)框架及供應(yīng)鏈漏洞200多個，其中提交給谷歌Tensorflow的漏洞數(shù)98個，包括24個高危、嚴(yán)重漏洞，在全球各大廠商中排名第一，成果于今年4月入選了中央網(wǎng)信辦“人工智能企業(yè)典型應(yīng)用案例”。

除了框架的安全，AI算法模型本身和數(shù)據(jù)也存在安全風(fēng)險，360AI安全實驗室已經(jīng)發(fā)現(xiàn)多款移動APP人臉識別設(shè)備存在模型數(shù)據(jù)和人臉數(shù)據(jù)泄露的風(fēng)險?！斑@些模型本應(yīng)是企業(yè)非常重要的資產(chǎn)，卻被輕易的破解，可見人工智能系統(tǒng)本身存在很嚴(yán)重的安全問題?！? 鄧亞峰表示。為此，360構(gòu)建了算法模型安全攻防平臺，用于攻防的手段來檢測模型，保障開放平臺企業(yè)的算法模型的安全性。作為一家成立16年的網(wǎng)絡(luò)安全公司，360本身也是一家大數(shù)據(jù)公司，從人工智能開發(fā)創(chuàng)新平臺生態(tài)建設(shè)的角度，360將會把基于自身大數(shù)據(jù)的訓(xùn)練、推理、標(biāo)注的機(jī)器學(xué)習(xí)平臺應(yīng)用于平臺建設(shè)中，賦能生態(tài)中的更多企業(yè)。不僅如此，360還將面向企業(yè)內(nèi)部的安全分析系統(tǒng)、防護(hù)軟件、測試系統(tǒng)等轉(zhuǎn)化成能力進(jìn)行封裝，面向平臺中的企業(yè)開放。

生態(tài)共建 360建立協(xié)同交互機(jī)制賦能平臺企業(yè)

生態(tài)共建是360構(gòu)建開放創(chuàng)新平臺的戰(zhàn)略思路，目前360已經(jīng)與清華大學(xué)、中科院自動化所、中科院工所、北京瑞萊智慧科技有限公司（RealAI）、浙江大學(xué)機(jī)構(gòu)等開展共建合作。為了進(jìn)一步打造開放生態(tài)，360還聯(lián)合中國計算機(jī)學(xué)會，以舉辦數(shù)字安全公開賽的方式，開放自身安全大數(shù)據(jù)，將產(chǎn)學(xué)研力量聯(lián)合起來，集中推動網(wǎng)絡(luò)安全的創(chuàng)新，其成果也將最終沉淀于安全大腦人工智能創(chuàng)新開放平臺的建設(shè)。

目前，360安全大腦開放平臺的能力已經(jīng)落地于工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、智能網(wǎng)聯(lián)汽車、智慧城市等場景，賦能了教育、運營商、信創(chuàng)等諸多行業(yè)。鄧亞峰表示，安全大腦國家開放創(chuàng)新平臺建設(shè)的目標(biāo)是，通過平臺運營，建立人工智能與安全開放創(chuàng)新體系，建立平臺化機(jī)制，實現(xiàn)核心研究成果的對接與轉(zhuǎn)化，賦能人工智能與安全相關(guān)的中小微企業(yè)、高校、科研院所，賦能中小初創(chuàng)安全企業(yè)、垂直行業(yè)、人工智能產(chǎn)業(yè)，共享技術(shù)成果，推動產(chǎn)業(yè)健康快速發(fā)展，提升國家人工智能安全整體防御能力。

“安全一直是攻防的思想，有人去攻，有人去防，從AI的角度，AI系統(tǒng)也是一個不斷的自主學(xué)習(xí)的系統(tǒng)，實際上也是一種攻防的概念。360作為AI開放創(chuàng)新平臺中唯一的一家網(wǎng)絡(luò)安全公司，希望促進(jìn)行業(yè)和產(chǎn)業(yè)的協(xié)同交互機(jī)制，進(jìn)而推進(jìn)人工智能的整體發(fā)展。”鄧亞峰說。