（AI云資訊消息）據(jù)賓夕法尼亞大學(xué)工程學(xué)院的研究人員稱，他們發(fā)現(xiàn)了多個由人工智能控制的機(jī)器人平臺的先前未被發(fā)現(xiàn)的安全漏洞。

電氣與系統(tǒng)工程UPS基金會運輸教授喬治·帕帕斯(George Pappas)表示，“我們的研究表明，目前將大型語言模型與現(xiàn)實世界結(jié)合起來并不足夠安全?！?

帕帕斯和他的團(tuán)隊開發(fā)了一種名為RoboPAIR的算法，這是第一個專門設(shè)計用于破解由LLM控制的機(jī)器人的算法。與現(xiàn)有針對聊天機(jī)器人的即時工程攻擊不同，

RoboPAIR是專門為從LLM控制的機(jī)器人引發(fā)有害的物理行為而設(shè)計的，比如波士頓動力公司和TRI正在開發(fā)的雙足機(jī)器人平臺。

據(jù)報道，RoboPAIR在破解三個流行的機(jī)器人研究平臺方面取得了100%的成功率：四足機(jī)器人平臺Unitree Go2、四輪機(jī)器人平臺Clearpath Robotics Jackal以及用于自動駕駛的Dolphins LLM模擬器。RoboPAIR算法僅用了幾天時間就完全獲得了對這些系統(tǒng)的訪問權(quán)限，并開始繞過安全限制。一旦研究人員利用了這些平臺，他們就可以誘導(dǎo)這些平臺采取危險的行動，例如不減速闖紅燈通過馬路十字路口。

研究人員表示，“我們的研究結(jié)果首次表明，被破解的LLM的風(fēng)險遠(yuǎn)不止于文本生成，鑒于破解的機(jī)器人在現(xiàn)實世界中完全有可能造成物理傷害?！?

目前賓夕法尼亞大學(xué)的研究人員正在與平臺開發(fā)人員合作，以加強(qiáng)系統(tǒng)防止被進(jìn)一步的入侵，但他們擔(dān)心說，這些安全問題具有系統(tǒng)性。

賓夕法尼亞大學(xué)的研究者維杰·庫馬爾(Vijay Kumar)表示：“我們的研究結(jié)果充分表明，采取安全第一的做法對于實現(xiàn)負(fù)責(zé)任的創(chuàng)新至關(guān)重要。在將具備人工智能的機(jī)器人投入現(xiàn)實世界使用之前，我們必須解決其固有的弱點?！?

該項研究的第一作者亞歷山大·羅比補(bǔ)充說：“實際上，對人工智能系統(tǒng)進(jìn)行潛在威脅和漏洞的測試（即AI紅隊）是保護(hù)生成型人工智能系統(tǒng)的必要安全實踐。因為一旦發(fā)現(xiàn)漏洞，就可以對這些系統(tǒng)進(jìn)行測試甚至訓(xùn)練以修補(bǔ)這些漏洞。”