美國(guó)當(dāng)?shù)貢r(shí)間8月10日至11日，全球最大關(guān)注智能生活的黑客大賽GeekPwn主辦的CAAD Village在DEF CON舉行，十余位AI安全領(lǐng)域的頂級(jí)專家學(xué)者圍繞AI“對(duì)抗樣本攻防”帶來(lái)了精彩的分享。2018年，為促進(jìn)黑客界與人工智能界的跨界融合，GeekPwn特別設(shè)置CAAD 對(duì)抗樣本攻防賽、CAAD CTF兩大賽制以及CAAD Village黑客村，旨在深入挖掘人工智能安全領(lǐng)域可能存在的風(fēng)險(xiǎn)，保護(hù)人工智能健康成長(zhǎng)。

在CAAD Village現(xiàn)場(chǎng)，十位來(lái)自全球知名高校及頂尖互聯(lián)網(wǎng)企業(yè)的研究人員，用十個(gè)議題深入剖析了時(shí)下“成熟的”AI應(yīng)用面臨的安全威脅，帶來(lái)一場(chǎng)AI安全領(lǐng)域最聚焦的思想碰撞。議題列舉了對(duì)抗樣本能夠輕而易舉地欺騙圖像識(shí)別系統(tǒng)、語(yǔ)音識(shí)別系統(tǒng)，甚至是殺毒軟件等領(lǐng)域，AI 應(yīng)用環(huán)境正在經(jīng)受重重安全挑戰(zhàn)。

十大議題對(duì)抗樣本攻防 帶來(lái)AI安全領(lǐng)域最聚焦的思想碰撞

來(lái)自騰訊安全云鼎實(shí)驗(yàn)室的張壯、史博以及董杭楓帶來(lái)了關(guān)于“狗斗的利器GAN：病毒對(duì)抗殺軟的免殺大發(fā)”的議題分享，他們?cè)诂F(xiàn)場(chǎng)以基于卷積神經(jīng)網(wǎng)絡(luò)的多形態(tài)惡意軟件檢測(cè)為例，分享了安全廠商應(yīng)用人工智能之后對(duì)抗病毒免殺技術(shù)的效果；同時(shí)還站在攻擊方的視角，介紹了惡意軟件使用了生成式對(duì)抗網(wǎng)絡(luò)之后，可繞過(guò)應(yīng)用機(jī)器學(xué)習(xí)檢測(cè)模型的案例。

（騰訊安全云鼎實(shí)驗(yàn)室安全專家張壯）

而來(lái)自百度X實(shí)驗(yàn)室的許偉林等三人分享了他們對(duì)自動(dòng)駕駛汽車的研究——給自動(dòng)駕駛汽車“變魔術(shù)”。通過(guò)對(duì)抗性機(jī)器學(xué)習(xí)可以給自動(dòng)駕駛汽車制造“眼前”存在障礙物的幻覺(jué)，或者讓障礙物在自動(dòng)駕駛汽車“眼前”憑空消失。許偉林表示：“這種技術(shù)已經(jīng)接近實(shí)用，自動(dòng)駕駛領(lǐng)域的AI安全仍然面臨巨大挑戰(zhàn)”。 自動(dòng)駕駛領(lǐng)域面臨困境，那智能語(yǔ)音識(shí)別領(lǐng)域就萬(wàn)無(wú)一失嗎？來(lái)自加州大學(xué)伯克利分校的研究生Rohan Taori和Amog Kamsetty是本次參賽平均年齡最小的團(tuán)隊(duì)，他們?cè)凇夺槍?duì)黑盒音頻系統(tǒng)的目標(biāo)式對(duì)抗案例》中介紹了利用GAN“迷惑”自動(dòng)語(yǔ)音識(shí)別（ASR）系統(tǒng)的方法，實(shí)現(xiàn)了在音頻文件相似度保持在94.6%的情況下，定向攻擊超過(guò)本公告率高達(dá)89.25%。也就是說(shuō)，當(dāng)你在瀏覽視頻時(shí)聽(tīng)到的正常聲音，里面包含了啟動(dòng)你的手機(jī)轉(zhuǎn)賬功能的可能性不僅存在，而且這個(gè)攻擊的成功率相當(dāng)高。

此外，本次CAAD CTF的參賽團(tuán)隊(duì)也帶來(lái)了相關(guān)領(lǐng)域的議題分享。由微軟應(yīng)用科學(xué)家趙耀和谷歌軟件工程師趙宇哲組成的獨(dú)立研究團(tuán)隊(duì)YYZZ在CAAD Village上提出了一種名為“對(duì)抗性的平方訓(xùn)練法”,用于增強(qiáng)神經(jīng)網(wǎng)絡(luò)分類器的防御能力；來(lái)自京東安全研究中心JD-Omega團(tuán)隊(duì)的郭文博和Alejandro Cuevas針對(duì)對(duì)抗樣本攻擊和防御的技術(shù)進(jìn)行了介紹；來(lái)自清華大學(xué)TSAIL團(tuán)隊(duì)的龐天宇、杜超則分享了去年NIPS挑戰(zhàn)賽的奪冠經(jīng)驗(yàn)；來(lái)自克萊姆森大學(xué)博士生Joseph Clements也從硬件物理層面，探討了針對(duì)神經(jīng)網(wǎng)絡(luò)的新式攻擊，還分享了他提出的一種向神經(jīng)網(wǎng)絡(luò)上植入后門(mén)的方法。

作為首次亮相DEF CON的新成員，GeekPwn CAAD Village帶來(lái)了一場(chǎng)關(guān)于AI對(duì)抗攻防最聚焦、最多樣、跨領(lǐng)域的AI安全嘉年華，承載了黑客對(duì)未來(lái)世界的好奇與探索。正如KEEN公司CEO、GeekPwn大賽發(fā)起和創(chuàng)辦人王琦所說(shuō)，安全漏洞從來(lái)不是因?yàn)楹诳筒糯嬖?，恰恰是因?yàn)楹诳桶l(fā)現(xiàn)而被消滅。GeekPwn一直呼吁白帽子黑客能夠提前發(fā)現(xiàn)問(wèn)題、修復(fù)問(wèn)題，避免安全問(wèn)題的發(fā)生。未來(lái)，AI將在這些白帽子與研究人員的護(hù)航下，走的更遠(yuǎn)。

據(jù)悉，GeekPwn2018嘉年華將于10月24日-25日在中國(guó)上海舉辦，屆時(shí)，CAAD 對(duì)抗樣本攻防賽、數(shù)據(jù)追蹤挑戰(zhàn)賽、黑客屋挑戰(zhàn)賽、機(jī)器特工挑戰(zhàn)賽、基于漏洞攻破挑戰(zhàn)賽、非基于漏洞攻破挑戰(zhàn)賽、GAN掉馬賽克挑戰(zhàn)賽、RFID遠(yuǎn)距離讀寫(xiě)挑戰(zhàn)賽將輪番上演，敬請(qǐng)期待。