（AI云資訊消息）前OpenAI公司員工威廉·桑德斯（William Saunders）和丹尼爾·科科塔吉洛（Daniel Kokotajlo）給加利福尼亞州州長(zhǎng)加文·紐森（Gavin Newsom）寫(xiě)了一封信，稱該公司反對(duì)一項(xiàng)旨在對(duì)未來(lái)人工智能開(kāi)發(fā)實(shí)施嚴(yán)格安全指南和流程的州法案，這令人特別失望。

桑德斯和科科塔吉洛寫(xiě)道，“我們加入OpenAI是因?yàn)槲覀兿Ｍ_保該公司正在開(kāi)發(fā)的極其強(qiáng)大的人工智能系統(tǒng)的安全性，但我們從OpenAI離職是因?yàn)槲覀兪チ藢?duì)該公司能夠安全、誠(chéng)實(shí)地和負(fù)責(zé)任地開(kāi)發(fā)人工智能系統(tǒng)的信任?！?

他們認(rèn)為，如果沒(méi)有足夠的監(jiān)管措施，進(jìn)一步的發(fā)展將帶來(lái)可以預(yù)見(jiàn)的對(duì)公眾造成災(zāi)難性傷害的風(fēng)險(xiǎn)，比如前所未有的網(wǎng)絡(luò)攻擊和協(xié)助制造生物武器。

這對(duì)夫婦還迅速指出了OpenAI CEO 薩姆·奧爾特曼（Sam Altman）在監(jiān)管問(wèn)題上的虛偽之處，他在最近的國(guó)會(huì)聽(tīng)證會(huì)上呼吁對(duì)人工智能行業(yè)進(jìn)行監(jiān)管，但當(dāng)真正的監(jiān)管提上議事日程時(shí)，他卻又反對(duì)了。

根據(jù)麻省理工學(xué)院MITRE公司和哈里斯民意調(diào)查(Harris Poll)2023年的一項(xiàng)調(diào)查，只有39%的受訪者認(rèn)為當(dāng)前的人工智能技術(shù)安全可靠。

該法案即SB-1047，《前沿人工智能模型安全與保障創(chuàng)新法案》，要求在開(kāi)始對(duì)受保護(hù)模型進(jìn)行初始訓(xùn)練之前，開(kāi)發(fā)者必須遵守各種要求，包括立即實(shí)施全面停機(jī)的能力，并實(shí)施書(shū)面的、獨(dú)立的安全與保障協(xié)議。OpenAI公司近年來(lái)遭受了多次數(shù)據(jù)泄露和系統(tǒng)入侵事件。

據(jù)外媒的報(bào)道，OpenAI公司的一位發(fā)言人稱，該公司強(qiáng)烈不同意研究人員對(duì)我們?cè)赟B 1047問(wèn)題上的立場(chǎng)的誤述。OpenAI公司首席戰(zhàn)略官Jason Kwon今年2月在給加州參議員斯科特·維納(Scott Wiener)的一封信中寫(xiě)道：公司辯稱，由聯(lián)邦政府推動(dòng)的一套人工智能政策，而不是各州的雜亂無(wú)章的法律，將促進(jìn)創(chuàng)新，使美國(guó)能夠引領(lǐng)全球標(biāo)準(zhǔn)的發(fā)展。

桑德斯和科科塔吉洛反駁稱，OpenAI公司推動(dòng)聯(lián)邦監(jiān)管并非出于善意，他們明確表示不愿通過(guò)有意義的人工智能監(jiān)管措施。

這項(xiàng)法案也得到了一個(gè)意想不到的支持者——xAI首席執(zhí)行官埃隆·馬斯克的支持。他在周一的X上寫(xiě)道：“這是一個(gè)艱難的決定，會(huì)讓一些人不高興，但綜合考慮，我認(rèn)為加州應(yīng)該通過(guò)SB 1047人工智能安全法案，20多年來(lái)，我一直是人工智能監(jiān)管的支持者，就像我們對(duì)任何可能存在風(fēng)險(xiǎn)的產(chǎn)品/技術(shù)進(jìn)行監(jiān)管一樣?！瘪R斯克最近宣布將在田納西州孟菲斯市建造世界上最強(qiáng)大的人工智能訓(xùn)練集群，此前他曾威脅要將X和SpaceX兩家公司的總部遷至德克薩斯州，以逃避加州的行業(yè)監(jiān)管。