世界人工智能大會舉辦可信AI論壇，圖像篡改檢測“黑科技”現身

7月7日下午，2023世界人工智能大會（WAIC）“聚焦·大模型時代AIGC新浪潮—可信AI”論壇在上海世博中心紅廳舉行，“產學研用”界共同發起AIGC可信倡議。本文圖均為主辦方供圖

大模型時代的AI如何確保安全向善？

7月7日下午，2023世界人工智能大會（WAIC）“聚焦·大模型時代AIGC新浪潮—可信AI”論壇在上海世博中心紅廳舉行。中國信通院、上海人工智能實驗室、武漢大學、螞蟻集團等多家單位共同發起《AIGC可信倡議》，得到數十家單位參與，與會專家圍繞人工智能可能引發的經濟、安全、隱私和數據治理等問題，提出構建AIGC可信發展的全球治理合作框架，採用安全可信的數據資源、技術框架、計算方法和軟件平台等，全面提升AIGC可信工程化能力，最大限度確保生成式AI的安全、透明、可釋。

AIGC安全成為當前人工智能研究發展的重要議題。中國科學院院士何積豐發表《可信人工智能展望》主題演講時認為，“不能再將人工智能視為簡單的技術工作，而是成為整個組織的變革引擎。可信人工智能要致力於保障數據安全可信、系統行為可追責、算法模型可解釋、網絡環境可信、法律倫理可信等問題。”

圖像是信息的主要載體之一，利用AI進行圖像造假的行為，是AI可信化發展需要應對的重點問題。論壇上，合合信息帶來的AI圖像內容安全技術方案引起關注。該方案可精準定位截圖篡改痕跡，對生成式圖片進行智能判別，防止不法分子利用技術手段非法爬取圖片上的信息。

合合信息智能創新事業部總經理唐琪介紹，去年的世界人工智能大會上，合合信息首次展示了“PS篡改檢測”技術，在識別證件、票據等各類重要商業材料中的PS痕跡方面具有了“火眼金睛”。今年，AI圖像篡改檢測“黑科技”持續優化升級，應用面也拓展至“截圖篡改檢測”。升級後的AI圖像篡改檢測技術可檢測包括轉賬記錄、交易記錄、聊天記錄等多種截圖，無論是從原圖中“摳下”關鍵要素後移動“黏貼”至另一處的“複製移動”圖片篡改手段，還是“擦除”“重打印”等方式，圖像篡改檢測技術均可“慧眼”識假。