鑒于復(fù)雜而惡意的網(wǎng)絡(luò)攻擊越來越多，網(wǎng)絡(luò)安全是微軟的首要任務(wù)。該公司正在不斷更新其安全基礎(chǔ)設(shè)施，以保護(hù)自己免受威脅，并建議其合作伙伴也這樣做。 一個被忽視的方面通常是其人工智能系統(tǒng)的安全。微軟計劃通過發(fā)布一個名為Counterfit的新工具來解決這個問題。

Counterfit是微軟創(chuàng)建的一個開源工具，用于自動化組織的AI系統(tǒng)的安全測試。鑒于人工智能系統(tǒng)在各行業(yè)的使用量很大，其最終目標(biāo)是讓企業(yè)對其人工智能系統(tǒng)的穩(wěn)健性和可靠性有很高的信心。微軟指出，在它調(diào)查的28個組織中，有25個認(rèn)為他們沒有正確的機(jī)制來保護(hù)人工智能系統(tǒng)，他們的安全專業(yè)人員也沒有很好地處理針對它們的威脅。

Counterfit最初是一套可用于攻擊AI模型的腳本。微軟首先在自己的內(nèi)部測試中使用它，但現(xiàn)在，Counterfit已經(jīng)發(fā)展成為一個自動化工具，可以大規(guī)模地攻擊多個AI模型。該公司表示，它已經(jīng)成為自己的人工智能“紅隊”業(yè)務(wù)的主要工具，他們用它來執(zhí)行和自動化目前正在開發(fā)和生產(chǎn)的人工智能服務(wù)的對抗性安全測試。

使用Counterfit的好處是，它與環(huán)境、模型和數(shù)據(jù)無關(guān)。這意味著，它可以在企業(yè)內(nèi)部、邊緣和云中使用，以測試任何類型的人工智能模型，這些模型依賴于幾乎任何形式的輸入數(shù)據(jù)，包括文本和圖像。

微軟表示，Counterfit對于使用Metasploit或PowerShell Empyre的安全團(tuán)隊來說很容易使用。它可以用于滲透測試和漏洞掃描，它還可以記錄對人工智能模型的攻擊，因此數(shù)據(jù)科學(xué)家可以利用其遙測技術(shù)來進(jìn)一步加強其人工智能系統(tǒng)的安全性。