（AI云資訊消息）加利福尼亞州議會(huì)和參議院已經(jīng)通過(guò)了《前沿人工智能模型安全與保障法案》(SB 1047)，這是美國(guó)首個(gè)針對(duì)人工智能的重大監(jiān)管法案之一。

這項(xiàng)法案在硅谷以及其他地方引發(fā)了激烈的爭(zhēng)論，它要求在加州運(yùn)營(yíng)的人工智能公司在訓(xùn)練高級(jí)基礎(chǔ)模型之前采取一系列預(yù)防措施。這些措施包括確保能夠迅速而完全關(guān)閉模型，確保模型不受不安全的后訓(xùn)練修改的影響，以及保持一個(gè)評(píng)估模型或其衍生品是否特別容易造成或促成重大危害的測(cè)試程序。

該法案的主要起草人、參議員斯科特·威納(Scott Wiener)表示，SB 1047是一項(xiàng)非常合理的法案，要求大型人工智能實(shí)驗(yàn)室做他們已經(jīng)承諾要做的事情：對(duì)他們的大型模型進(jìn)行災(zāi)難性安全風(fēng)險(xiǎn)的測(cè)試?！拔覀兘衲昊撕芏鄷r(shí)間，與開(kāi)源倡導(dǎo)者、Anthropic以及其他人一起，對(duì)法案進(jìn)行了完善和改進(jìn)。SB 1047與我們對(duì)可預(yù)見(jiàn)的人工智能風(fēng)險(xiǎn)的了解相吻合，它值得被采納。”

SB 1047的反對(duì)者（包括OpenAI和Anthropic、議員Zoe Lofgren和Nancy Pelosi以及加州商會(huì)）認(rèn)為，該法案過(guò)于關(guān)注災(zāi)難性危害，可能會(huì)過(guò)度傷害小型、開(kāi)源AI開(kāi)發(fā)者。為此，法案進(jìn)行了修訂，將潛在的刑事懲罰改為民事懲罰，縮小了賦予加州檢察長(zhǎng)執(zhí)行權(quán)的范圍，并調(diào)整了加入該法案所創(chuàng)建的前沿模型委員會(huì)的要求。

據(jù)報(bào)道，人工智能安全法案將提交給加利福尼亞州州長(zhǎng)加文·紐森（Gavin Newsom），他將在9月底之前決定該法案的命運(yùn)。