美國加州AI法案即將「轉正」，科技圈炸鍋，擔心傷害開發者
編譯 | 徐豫
智東西8月30日消息，據The Information報導，美國加州的人工智能（AI）法案（SB-1047）8月29日已在加州立法機構表決通過，經由州長Gavin Newsom簽署後，將於2026年1月1日生效。
Newsom尚未表態是否會簽署該法案。如果Newsom否決SB-1047，州參、眾兩議院可以再次投票表決，但兩院都需要達到至少2/3的票數，才能推翻州長的否決。據《紐約時報》8月28日報導，Newsom需要在9月30日前做決定。若限期內，這項AI法案未被簽署或否決，將直接成為加州的正式法律。
SB-1047全稱為《前沿人工智能模型安全創新法案》，今年2月由美國舊金山的州參議員Wiener提出，旨在為具有一定規模的AI系統建立安全標準。如果AI系統本身，或是基於AI系統的產品給用戶帶來「嚴重傷害」，用戶可依據這部首創法案，向相關的AI開發者追究法律責任。
假設你開發了一個自動駕駛汽車系統。某天，有陌生人入侵了這個系統，並引發了一場車禍。作為這個自動駕駛汽車系統的開發者，你可能會違反SB-1047，被要求為涉事系統的「傷人行為」負責，並支付罰款。
隨著SB-1047立法程序的推進，AI開發者圍繞該法案的爭論愈演愈烈。
科技大佬、知名風投人士、AI開發者紛紛通過社交媒體發聲，希望有更多人站出來，說服州長執行一票否決權。
「我們還有時間阻止SB-1047成為正式法律。」Google大腦聯合創始人、百度前首席科學家吳恩達呼籲人們向州長提出異議。他認為，法律監管的對象理應是部分具有危害性的AI應用，而非整個通用AI模型。
「軟件定義網絡之父」、a16z（Andreessen Horowitz）合夥人Martin Casado在社交媒體平台上寫道，「希望加州州長Newsom聽取本土專家的意見，SB-1047的發起人Wiener基本上無視了專業建議」。
▲部分科技、風投公司和組織針對加州AI法案爭議「站隊」：紅色代表反對，黃色代表中立，綠色代表支持（圖源：The Information）
「紅方」——包括OpenAI、Meta、Google、蘋果、亞馬遜在內，多家科技大廠高層共同簽字反對SB-1047，希望減輕AI研究和創新的負擔。
現階段選擇支持SB-1047正式立法的「綠方」，有AI創企xAI的創始人馬斯克、AI先驅史超活·羅素（Stuart Russell），以及一些擔心AI失控風險的組織。他們則期待SB-1047能對AI領域形成有效約束。
一、開源AI難溯源，但新AI法案要求「誰開發誰監管」
對開源AI開發者「不友好」，SB-1047因此飽受爭議。
該法案要求開源AI開發者評估，基於其AI系統創建的所有AI模型和產品，包括微調模型、以其他方式修改的模型——「越獄」和嵌入其他軟件的模型等。同時，開源AI開發者還需監控這些模型和產品潛在的「任何風險」，併負有法律責任。
問題在於，人們通常直接將開源的AI系統下載到個人設備上。其開發者可能不知情，即便監測到，也難以管理其他開發者或用戶最後會如何使用它們。
許多免費提供開源AI的開發者，其初衷並非賺錢和盈利。然而，如果該法案最終通過，這些開發者很可能不僅掙不到錢，還要替散佈在互聯網各個角落的用戶，為那些不可控的行為，承擔法律責任和大額損失。
二、罰款金額高，定責不清晰，還可能誤傷小公司
按照SB-1047的規定，若AI系統造成「他人死亡或人身傷害」、「財產損失」等後果，加州執法機構可對該AI系統的開發者，處以AI業務總營收10%至30%的罰款。
一位AI開發者政策研究人員稱，這意味著，包括災難性事件在內，任何財產損失都可能導致動輒數千萬美元的罰款。例如，黑客可能會利用AI觸發消防噴淋系統，造成水災等財產損失。
不少該法案的反對者認為，SB-1047中關於「實際造成重大傷害或財產損失」的責任等級界定模糊。該法案將重大傷害的違法情形解釋為「大規模傷亡」、「超過5億美元的損失」或其他「同等嚴重」的傷害。然而，其並未進一步註明傷害等級如何區分、不同傷害等級的罰款金額等具體標準。
據業內人士Chris Lengerich透露，AI開發者需要花費大量金錢和時間，去摸索這些詞語的法律邊界。但實際上，這些模棱兩可的條文，沒有人能真正解釋清楚，還可能給AI開發者帶來無法預料的大額財產損失。
該法案還要求AI開發者僱傭專業審計員，獨立評估和驗證其AI系統，以符合法規要求。
許多小型AI創企各方面的資源，特別是資金實力，往往與OpenAI、Google等科技大廠相差甚遠。SB-1047的適用範圍，是模型訓練花費超1億美元、調整或微調現有模型花費超1000萬美元的AI開發者。有業內人士認為，按照現有規定，一些小型AI創企會被錯誤劃入該法案的監管範圍，一旦違法，很可能付不起罰款。
結語：加州AI法案波及的，不只是加州「土著」
許多AI開發者的公司總部都設在加州。OpenAI聲稱，SB-1047可能導致一些AI創企搬離加州。Google則擔憂這項新法案「可能會將AI創新趕出加州」。
但AI明星創企Anthropic CEO Dario Amodei並不認可這種說法，「總部遷出加州這一言論，不過是誇張的調侃，是談判的籌碼」。他在8月28日的採訪中談道，這種說法是無稽之談，該法案適用於任何在加州開展業務的個人和企業，而不僅僅是一些總部在加州的公司。
Amodei仍持續觀望，他既不反對該法案的通過，也不在明面上支持它。目前，美國軟件巨頭微軟也對SB-1047保持中立態度。
此外，美國加州立法機構通過的這項AI法案，也可能會對美國其他州，甚至其他國家的AI立法產生長足的影響。
來源：The Information、《紐約時報》
