中關村對話｜清華大學薛瀾：人工智能安全上路需要全社會共同監督

新京報貝殼財經訊（記者韋英姿）4月26日，清華大學蘇世民書院院長、人工智能國際治理研究院院長薛瀾出席2024中關村論壇年會平行論壇「數據安全治理與發展論壇」，並在接受包括新京報貝殼財經在內的媒體採訪時回答了如何應對人工智能的潛在風險，以及可能的社會影響等問題。

對於人工智能潛在風險的控制體系建設，他強調了國家法律法規、企業內部和社會公眾的綜合性作用。

他認為，國家需要專門出台類似《個人信息保護法》《生成式人工智能服務管理暫行辦法》的以處理算法為主的法律法規，要求算法合理保護使用者權益。另外也需要企業通過成立委員會等加強內部基礎建設的措施來保證技術應用過程合法合規。

 「人工智能安全上路還需要全社會共同監督，一旦發現誤用、濫用的情況及時舉報，相關政府部門將採取相應治理措施。」薛瀾說。

他認為，應該鼓勵人工智能採取開源技術路徑，「促進技術快速發展和迭代」。同時他認為，在開源過程中也要保證技術安全，防止被惡意使用者利用從而給人類社會帶來危害。

「人工智能技術剛進入應用階段，各國的應用場景存在差別。」薛瀾希望未來人工智能在應用上儘量給公眾提供更多選擇，但也需要以中國的特定場景為基礎。

他以人臉識別技術為例解釋稱，國內火車站常人滿為患，需要在較短時間內通過大量人流，「這時候人臉識別技術相對來說更快」。另外，火車站也可以為不願意採取人臉識別技術的人設立人工通道，「只是這樣可能更慢些」。

人工智能可能影響未來的職業技能要求，甚至是就業模式，我們應該如何應對？

對此薛瀾認為，就像面對其他技術創新一樣，我們可能需要探討「怎麼樣利用人工智能技術為人類服務」，可能需要思考「人類下一步發展更希望得到什麼」，「哪些工作可能更有創意、人工智能無法替代」，探討思考後得到的方向可能就是人類需要掌握的技能。

「另一方面也需要開拓就業新領域。」薛瀾表示，隨著新技術發展和物質文化生活不斷豐富，社會將產生更多的新需求，「這些需求也許就是未來的就業新模式」。

採訪結束後，薛瀾參加了主題為「數據安全治理與發展」的中關村論壇年會平行論壇，並主持「AI大模型數據安全治理」圓桌討論。

該論壇由國家互聯網信息辦公室、北京市人民政府主辦，國家互聯網信息辦公室網絡數據管理局、北京市互聯網信息辦公室、北京市經濟和信息化局、北京市政務服務和數據管理局等七家單位承辦，清華大學人工智能國際治理研究院、國家互聯網應急中心北京分中心協辦。

編輯 陶野

校對 趙琳