北京市政協常委張振軍:建立人工智能重點領域質量保障體系
新京報貝殼財經訊(記者白昊天)今年的北京兩會上,北京市政協常委、民盟北京市委副主委、國際宇航科學院院士張振軍與民盟同仁一起帶來了《關於我市在發展人工智能產業中加強風險防控的提案》,建議建立人工智能重點領域質量保障體系,構建人工智能重點產品應用推廣機制。

人工智能是新一輪科技革命和產業變革的重要驅動力。近年來北京積極搶佔戰略先機,大力推動人工智能產業發展。張振軍介紹,2024年民盟北京市委對人工智能產業進行專題調研發現,人工智能作為戰略性新興產業,一些前所未有的新風險逐步顯現,例如技術濫用風險、數據安全風險、知識產權保護風險等。
面對這些風險,張振軍建議北京率先建立人工智能重點領域質量保障體系,嚴把人工智能技術產品供給準入關,明確對人工智能企業、產品、研發過程等的安全要求,包括人工智能企業應具備的設計驗證、安全保障等能力,人工智能產品應具備的預期功能安全、數據記錄與分析等功能,以及人工智能技術產品研發過程中應建立必要的質量保障體系,多維度確保供給質量。
同時,要針對垂直大模型、智能機器人等人工智能產品的應用示範及推廣需要,製定相關地方標準、團體標準,明確應用準入、退出和過程中的安全保障要求、配套條件要求和安全監測要求。對可能出現的安全和倫理問題,需要規範事件調查程序、責任判定方法和救濟措施。
此外,張振軍期待北京針對算力安全、算法安全、數據安全等人工智能產業關鍵環節的安全風險,組織隱私保護、算法防禦加固、虛假信息檢測等技術和產品研發,打造人工智能安全解決方案、安全保障平台,為人工智能產業高質量發展保駕護航。
編輯 程子姣
校對 王心