速遞｜AI 監管法案 SB1047 遭否決！加州州長：加州是全球 32 家領先 AI 公司所在地，過早立法會阻礙 AI 創新

據悉，該法案通過加州州立法機構後，Newsom 直到最後一刻才宣佈這一決定。這項法案旨在迫使開發最強大 AI 模型的公司遵守嚴格規則，包括設置緊急停止開關以防止災難性危害。

然而，Google、OpenAI 和 Meta 等矽谷 AI 科技巨頭強烈反對該法案，認為過早的立法可能會阻礙 AI 的發展，威脅到加州在技術開發中的領先地位，而 Anthropic 以及 xAI 則支持該立法。

在給加州參議院的信中，Newsom 為否決這項名為《前沿 AI 系統安全創新法》（SB 1047）的法案辯護。他表示，這一框架可能會「遏製推動進步並造福公眾的創新」，並指出加州是全球 32 家領先 AI 公司所在地。

Newsom 特別指出，法案以模型的規模為衡量標準 —— 該法案要求開發成本超過1億美元的模型進行安全測試和實施其他防護措施 —— 並非正確的做法。這種標準可能會讓公眾對控制這一快速發展的技術產生錯誤的安全感，因為「小型且專門的模型可能同樣危險，甚至更危險。」

提出該法案的參議員 Scott Wiener 表示，否決法案是「對所有相信需要監管那些做出影響公眾安全、福祉及地球未來關鍵決策的大型企業的人的一次挫折」。

他還指出，面對極為強大的技術，企業在美國政策製定者缺乏約束的情況下，幾乎沒有任何強製性限制，尤其是國會在監管科技行業方面持續癱瘓。

儘管如此，Newsom 堅稱，法案並沒有考慮到 AI 系統是否部署在高風險環境中、涉及關鍵決策或使用敏感數據。

「相反，只要是大型系統，法案就會對其施加嚴格的標準。我不認為這是保護公眾免受技術真正威脅的最佳方式。」

在過去 30 天內，Newsom 已經簽署了多項涉及生成式 AI 技術的法律，包括關於深度偽造、AI 水印和虛假信息的規定。

他還表示，科技領域的專家也已與加州合作，幫助製定基於實證和科學證據的「可行監管框架」，以控制生成式AI的部署。