紐約州通過 AI 安全強製披露法案：旨在防範重大人員傷亡或財產損失事故

IT之家 6 月 14 日消息，當地時間週四，紐約州議會通過一項旨在防範 AI 災難的法案，要求 OpenAI、Google和 Anthropic 等前沿 AI 模型的開發者，必須避免出現造成百人以上傷亡或超過 10 億美元損失的風險。

該法案名為 RAISE 法案，標誌著 AI 安全陣營的一次勝利，更有傑佛瑞・辛頓和祖舒亞・本吉奧等重量級學者為法案背書。若最終成為法律，RAISE 將開創全美首部強製前沿 AI 實驗室公開信息的法規。

RAISE 法案與加州曾被否決的 SB 1047 法案存在相似內容，但紐約州參議員 Andrew Gounardes 表示，RAISE 的設計更謹慎，避免打壓初創企業或學術研究者，而這是 SB 1047 飽受批評的一點。「技術發展太快，我們設立防護機制的時間不多了。許多頂尖專家都指出 AI 風險極高…… 這不得不引起警覺。」

法案現已送交紐約州長 Kathy Hochul，等待其簽署、修改或否決。

一旦生效，RAISE 法案將要求全球頭部 AI 實驗室必須披露其前沿模型的安全和保障措施，並在發生異常或被盜事件時及時上報。若企業未按規定執行，紐約州總檢察長有權處以最高 3000 萬美元（IT之家註：現彙率約合 2.16 億元人民幣）罰款。

RAISE 法案的目標是對超大規模公司設限，無論總部在加州還是中國。法規適用於訓練耗資超過 1 億美元、並向紐約州用戶開放模型的企業。

Encode 高管 Nathan Calvin 表示，RAISE 法案更注重回應外界質疑。例如，它不要求設「緊急終止開關」，也不追責後期訓練模型的公司。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。