張瑩代表:建議加強人工智能規則治理 健全專業人才培養模式
1月14日,北京市第十六屆人民代表大會第三次會議舉行,市長殷勇作政府工作報告。報告提出,要提升優勢產業發展能級,完善新一代信息技術、人工智能等產業支持政策。
對於人工智能的發展和落地,北京市人大代表張瑩就把人工智能應用到了日常工作中。作為中國電信股份有限公司北京分公司10000號服務中心員工,她將算法與用戶實際訴求相結合,參與研發了服務大模型,以進行全流程的智能輔助。
張瑩告訴新京報記者,本次上會她帶來了加強人工智能規則治理與健全人工智能領域專業人才培養模式兩項建議。
構築大模型安全能力,用「魔法打敗魔法」
張瑩表示,當前在人工智能規則治理方向中,惡意誤導模型、虛假信息傳播、有害的信息傳遞三個方面的問題較為突出。具體來看,惡意誤導模型使得模型訓練結果受損,浪費算力資源;模型生成的不真實或不良信息的傳播會影響公眾的價值觀和認知,進而被別有用心的人用於製造社會輿論,甚至涉及司法犯罪;大模型的普遍應用一方面方便了工作生活,另一方面也造成了大模型生成有害信息無法事前攔截的問題。
對此,她建議針對受眾群體較大或訓練成本較高的模型,採取必要的安全監管措施,一方面針對數據的安全監管,對敏感數據進行加密和脫敏處理,確保數據存儲、傳輸及使用安全的基礎上,建立嚴格的數據訪問、處理控制機制,並構建完善的審計流程,防止數據被惡意篡改或泄露。另一方面針對參與訓練的技術人員建立完備的權限管理機制,按照「最小化」原則訪問其所需資源並對訪問及使用過程運用自動化安全檢測工具或平台實時進行審查及監管,發現潛在的風險並及時修復。
張瑩認為,在模型生產內容安全風險加劇的情況下,需要迭代更新新型安全治理技術,構築大模型安全能力,用「魔法打敗魔法」。對可能存在的各類大模型安全風險相關數據進行收集,構築完備的數據底座來為風險識別奠定基礎,並在數據底座的基礎上運用合理的技術手段,如相似度匹配、語義分析等進行有效的風險識別及風險等級評估。算法升級方面,針對模型結構進行優化,基於當前模型的特點可以針對性地進行模型結構改進和訓練策略調整。
試點在中小學開設人工智能實踐體驗課 消除就業不確定影響
作為在行業一線進行人工智能應用落地的代表,張瑩也觀察到當前企業內人工智能高層次人才不足,青年科技人才更多是應用層人才,能力偏重於數據資源應用與數據加工挖掘,研發顛覆性成果需進一步提升人才培養的深度與針對性。
在她看來,為減少人工智能出現「幻覺」,保持AI模型的自洽性需要在模型訓練、推理、微調等不同環節由具備在交叉學科融合過程中運用適當的技術來選擇符合邏輯的合理結果的專業人才,幫助模型自洽性的保持和提高。隨著人工智能技術的不斷進步,未來的就業環境更加複雜,部分傳統職業用工需求將極速下降,而相應地也會產生新的與人工智能領域相適應的新型職業。
對此,她建議企業內部針對人才培養加強頂層設計及戰略規劃,深化企業與高校聯合高層次人才培養模式改革,聚焦機器人、教育、醫療、文化、交通等領域,持續推進交叉學科人工智能領域人才培育。
「適時試點在中小學開設人工智能實踐體驗課程,鼓勵有條件的科技型企業與教育集團或學校建立戰略合作關係,共同培養拔尖創新人才,使學生及家長對就業市場未來發展有一個客觀的認知,對行業趨勢保持敏感,以消除未來就業環境的不確定性帶來的影響。通過針對性的培養專業素養及職業技能,鼓勵學生發展創新思維、邏輯思維和實施變革的能力,為未來新型職業尤其是行業顛覆性職業的人才缺口做足充分的準備。」張瑩說。
新京報記者 羅亦丹
編輯 陶野
校對 盧茜