8月27日，第四屆互聯(lián)網(wǎng)安全領袖峰會(Cyber Security Summit，簡稱CSS)在北京昆泰酒店（望京）召開。當日下午，騰訊安全玄武實驗室負責人于旸，SecurityResearchLabs首席科學家KarstenNohl，汽車黑客開山鼻祖CharlieMiller，知道創(chuàng)宇CEO趙偉及GeekPwn大賽發(fā)起和創(chuàng)辦人、KEEN公司CEO王琦進行了一場名為“以極客之名，論未來安全之道”的尖峰對話，圍繞當下數(shù)字時代下，移動安全、自動駕駛、AI等領域和安全人才培養(yǎng)等問題展開深入研討。

針對時下AI技術的廣泛應用，王琦表示，AI技術并不像媒體渲染或公眾想像的那樣“完美”。根據(jù)過去的報告顯示，AI的開源代碼中大致每1000行就含有一個安全漏洞。作為全球最大關注智能生活的安全極客大賽，GeekPwn一直致力于尋找AI潛藏的風險并不斷幫助其完善，協(xié)助AI進行安全性的預演分析，助力AI安全健康成長。

不僅如此，GeekPwn Lab總監(jiān)王海兵在 28日舉行的CSS人工智能安全分論壇上，進行了主題為《從對抗樣本的視角看人工智能安全》的分享。王海兵指出，對抗樣本研究任重道遠，同時，在AI和安全界之間也存在溝通鴻溝問題，不過GeekPwn(極棒)黑客大賽正在成為二者之間的溝通橋梁。

防患于未然 GeekPwn鼓勵安全極客與AI跨界融合

一項新興技術的興起，必然會存在潛在的短板，AI亦是如此。作為一個整體，AI應用系統(tǒng)任何一個環(huán)節(jié)出現(xiàn)漏洞，都有可能出現(xiàn)安全問題。小到智能門鎖、智能音箱、智能手機，大到智能家居、智能汽車，我們司空見慣的AI產(chǎn)品都可能存在安全隱患。隱私泄露，威脅財產(chǎn)甚至人身安全，智能產(chǎn)品的生產(chǎn)企業(yè)或許還沒有足夠的重視安全問題，低級漏洞屢見不鮮。

值得慶幸的是，及時發(fā)現(xiàn)與修復還為時未晚，而黑客這一群體，正是破解難題的關鍵。在下午的尖峰論壇上，王琦說：“不論AI還是IoT領域，信息技術發(fā)展的速度要高于安全技術的發(fā)展。我們經(jīng)常在用黑客思維考慮的話，擔心這里會不會出問題，那里會不會有問題。漏洞不是因為黑客才存在，恰恰是因為黑客發(fā)現(xiàn)才消滅的。”

在人才挖掘方面，GeekPwn鼓勵極客們勇于探索新鮮事物，投入AI安全研究并且收獲肯定和榮譽。對于AI這一尚未完全成熟的領域，安全極客可以憑借其敏銳的洞察力與不放棄的破題精神將其完善，而AI領域現(xiàn)在關注安全的不多，過去做安全的人對AI又知之甚少，GeekPwn正在做的就是為黑客提供一個展示自己的平臺，讓兩個領域的人才進行融合，找到未來AI與專業(yè)安全的結合點，讓更多人用技術獲得世界的認可。

王琦幽默地說：在座的 Charlie Miller被喻為“黑掉汽車的第一人”，Karsten NohI很早就開始專注于移動安全研究，未能到現(xiàn)場的 Bruce Schneier更是密碼學專家、多本密碼學著作的知名作者。我們非常鼓勵GeekPwn的選手要去做各種領域的“第一人”，這并不是為了炫技，王琦繼而解釋道，我們要比那些可能干壞事的人更早發(fā)現(xiàn)漏洞，更早消滅問題。

聚焦對抗樣本 GeekPwn愿做安全界與AI界的橋梁

提到AI，就不得不提到“對抗樣本”。所謂對抗樣本是指在數(shù)據(jù)集中通過故意添加細微的干擾所形成的輸入樣本，導致模型以高置信度給出一個錯誤的輸出。CSS2018大會的第二天，極棒實驗室總監(jiān)、AI安全專家王海兵在人工智能分論壇上，就以對抗樣本的視角，對未來AI安全做出了大膽的預測和詳盡的闡釋。

人工智能與傳統(tǒng)技術面面臨著相似的安全問題。王海兵解釋說，“人工智能安全具有豐富的層次性，從應用到算法，而任何一個環(huán)節(jié)出現(xiàn)漏洞的都會造成安全問題。比如極棒過往比賽中出現(xiàn)的被攻破的人臉識別門禁，這種方法雖然很傳統(tǒng)，但是仍然具有破壞性。庫，框架，云服務，這些AI的基礎系統(tǒng)的漏洞也是AI安全的一大問題?！?

而作為新技術，人工智能也存在著其特有的安全問題，即對抗樣本。對抗樣本可以是一張圖片，一段語音甚至是一句話，其本身的多樣性會對人工智能造成識別干擾，比如對于惡意軟件的識別、對自動鑒黃系統(tǒng)的識別、對交通指示牌的識別。

除此之外，對抗樣本攻擊威脅模型還具有定向與非定向，數(shù)字攻擊與物理攻擊，擾動范圍與攻擊目標等多維度特點。目前對于對抗樣本干擾的防守暫無令人滿意的解決方案，這也是目前AI安全最快速發(fā)展的研究領域。GeekPwn率先涉足這一領域，于2018年GeekPwn美國站上全球首創(chuàng)對抗樣本的CTF：CAAD CTF，集結了六支來自企業(yè)與學界的世界級頂級戰(zhàn)隊，在拉斯維加斯上演了一場精彩的AI攻防戰(zhàn)。

GeekPwn始終走在對抗樣本研究的最前端，致力于通過不同形式的比賽，發(fā)掘出更多的安全人才，探索出防御對抗樣本，提高AI魯棒性的方法?！白鳛槿蚴讉€探索人工智能與專業(yè)安全的前沿平臺，極棒愿繼續(xù)擔當安全屆與AI屆的橋梁，讓更多的安全極客加入進來，共同推動AI健康發(fā)展?！蓖鹾１a充道。

（極棒實驗室總監(jiān)、AI安全專家王海兵）

在探索AI安全的歷程中，GeekPwn曾通過軟件漏洞攻破人臉識別門禁，證明了人工智能在軟硬件層面可能存在安全問題；我們還證明了存在利用 AI做壞事的可能，2017年有選手通過 AI模擬人類筆跡，并成功騙過了專業(yè)筆跡鑒定師；當然還有 AI對抗 AI的情況，像是破解谷歌驗證碼、多款聲紋識別系統(tǒng)等等。

GeekPwn2018嘉年華將于10月24日-25日在中國上海舉辦。屆時，黑客屋挑戰(zhàn)賽、數(shù)據(jù)追蹤挑戰(zhàn)賽、機器特工挑戰(zhàn)賽、基于漏洞攻破挑戰(zhàn)賽、非基于漏洞攻破挑戰(zhàn)賽、GAN掉馬賽克挑戰(zhàn)賽、RFID遠距離讀寫挑戰(zhàn)賽等全新賽制精彩上演，以最前沿的議題，預演AI領域風險。