世界人工智能大會熱議大模型安全，多家機構聯合發佈「白皮書」

新京報貝殼財經訊 （記者俞金旻）2024世界人工智能大會上，如何讓大規模高價值數據可信流通成為不少業內人士關注的重點。為了確保數據要素流通合規、安全和高效，產學研界正積極推進一系列的技術標準製定，聚焦解決不同隱私計算技術產品的通用安全分級，受控環境下的數據匿名化，以及數據離開運維域後的有效管控等問題。與此同時，隨著大模型能力的不斷增強，其安全性、可靠性、可控性受到前所未有的挑戰，如研發過程中引發信息泄露、價值對齊、機器幻覺等問題，以及落地過程中面臨的數據、模型、算法及其運行的軟硬件環境安全風險。

7月5日，在2024WAIC分論壇上，多家產學研機構聯合發佈多份白皮書，為數據要素流通行業當下普遍遇到的挑戰和大模型安全實踐，提供最新的技術思考和行業實踐。

新京報貝殼財經記者注意到，本次發佈的《隱私計算產品通用安全分級》白皮書逐一討論隱私計算安全分級面臨的諸多難點，包括技術路線特徵不同難以進行統一分級、部分重要安全能力難以被分級和量化、安全是系統性問題涉及的維度多、範圍廣。針對以上挑戰，給出通用安全分級的設計思路，包括按照攻防效果分級來屏蔽不同技術路線差異，在「可證安全」和「不安全」之間增加一個「抵禦已知攻擊」的分級水位，引入軟件信譽度等更多維度量化「實現安全」，明確所有技術特徵與安全分級的對應關係。

同日發佈的《個人信息匿名化制度：技術與法律（2024）》白皮書由對外經濟貿易大學、大數據技術標準推進委員會和螞蟻集團共同發佈。這是學術與產業界首次聯合從技術與法律雙重維度對個人信息匿名化問題做系統性梳理與闡釋、探尋可落地技術方案與數據流通解決路徑。白皮書建議，在數據基礎設施的規劃與建設過程中，應充分考慮個人信息匿名化相關處理技術與制度規範內容。為破解「個人信息匿名化」的困境，必須從單一的法律視角轉向復合的「數據基礎設施」的路徑。匿名化條款可以拓展為一套融合法律和技術的基礎設施，從而推動在不同行業、不同機構之間實現可信、安全的數據共享、開放、交易。

5日下午，由清華大學、中關村實驗室、螞蟻集團等機構聯合撰寫的《大模型安全實踐（2024）》白皮書也在2024世界人工智能大會上正式發佈。這也是國內首份「大模型安全實踐」研究報告，為行業打造高價值參考體系。白皮書首次系統化提出安全實踐總體框架，從安全性、可靠性、可控性等維度給到了技術實施方案，同時提供了金融、醫療、政務等領域的大模型安全應用案例，以及「五維一體」協同共治的治理框架。

編輯 楊娟娟

校對 盧茜