美商務部發佈重磅開放AI支持報告
本文來自微信公眾號:財聯社AI daily (ID:gh_f7653dea6e99),作者:黃君芝,題圖來源:視覺中國
當地時間週二(30日),美國商務部發佈了一份報告,表達了對「開放式」生成式人工智能模型(「Open-weight」GenAI models)的支持,比如Meta的Llama3.1,但同時建議政府開發「新功能」來監控這些模型的潛在風險。
這份報告由美國商務部國家電信和信息管理局(NTIA)撰寫。報告指出,開放模型將使小公司、研究人員、非營利組織和個人開發者更容易獲取生成式AI(GenAI)的資源。報告建議,出於這些原因,政府不應對開放模型的訪問設置限制,至少在調查和評估這些限制是否會對市場造成傷害之前。
![](http://n.sinaimg.cn/spider20240730/23/w1000h623/20240730/24e3-abe3e2783e52411477515843338df98c.png)
這種觀點與美國聯邦貿易委員會(FTC)主席莉娜·汗(Lina Khan)最近的言論相呼應。她認為,開放模型可以讓更多的小公司將自己的想法推向市場,從而促進良性競爭。
「開放式模型在促進競爭方面具有巨大的潛力……開放模型可以解放初創公司,他們可以不受封閉的開發人員和雲服務看門人的想法束縛。」她說。
美國助理商務部長、國家電信和信息局局長艾倫·大衛森(Alan Davidson)在一份聲明中寫道:「最大、最強大的人工智能系統的開放性,將會影響這些革命性工具的競爭、創新和風險。」
「NTIA的報告認識到開放人工智能系統的重要性,並呼籲對最大AI模型的廣泛可用性進行更積極的風險監測。政府在支持人工智能發展方面可以發揮關鍵作用,同時建立理解和應對新風險的能力。」
監控風險
該報告出爐之際,拜登政府正在考慮關於「開放式模型」的使用和安全的指導意見。今年2月,美國商務部就這種做法的風險徵求公眾意見。但也有批評人士警告稱,開放模型也可能放大AI模型被濫用的風險,可能會讓美國對手的公司利用這項技術。
在上述報告中,NTIA呼籲政府製定一項持續的計劃,收集開放模型的風險和益處的證據,評估這些證據並根據這些評估採取行動,包括在必要時對模型的可用性施加某些限制。
具體而言,該報告建議政府研究各種人工智能模型的安全性,支持風險緩解措施(risk mitigations)的研究,並製定「特定風險」指標的閾值,以表明可能需要改變政策。
美國商務部長吉娜·雷蒙多(Gina Raimondo)也指出,相關步驟將與拜登總統關於人工智能的行政命令保持一致,他呼籲政府機構和公司圍繞人工智能的創建、部署和使用製定新的標準。
雷蒙多在一份新聞稿中表示:「拜登政府正在盡一切努力,最大限度地發揮人工智能的潛力,同時將其風險降到最低。今天的報告提供了一個負責任的人工智能創新和由美國領導的路線圖,擁抱開放,並建議美國政府如何準備和適應未來的潛在挑戰。」