烏鎮“智”新時刻丨國內首個AI大模型攻防賽十強亮相烏鎮 四川大學參賽選手站上全球舞台

封面新聞記者 張越熙

“這條語音在某些頻率上過於‘乾淨’，顯示出不自然的變化，AI生成概率在98%以上！”11月20日，國內首個AI大模型攻防賽在世界互聯網大會烏鎮峰會收官。現場，四川大學學生朱學康，作為全球十強隊伍選手，現場通過大模型技術辨別AI造假的音頻，向大家展示了如何用AI對抗AI。

大賽自9月啟動以來，來自全球18個國家和地區的2700多個賽隊、3200餘名技術精英參與，選手來自清華大學、北京大學、四川大學、交通大學、南洋理工大學、約翰霍普金斯大學、香港科技大學、雪梨大學等290多個國內外高校，以及字節跳動、理想汽車、騰訊、智譜AI、Shopee、網易等280多個互聯網、金融、汽車、大模型科技等行業企業。

通過攻、防雙向賽道競技，大賽最終角逐出全球十強，由來自字節跳動、合合信息科技、濟南大學、浙江工業大學、安徽大學、上海交通大學、四川大學等企業和高校的賽隊獲得。

據悉，賽事由中國圖像圖形學學會、螞蟻集團、雲安全聯盟（CSA）大中華區聯合主辦，聯合清華大學、上海交通大學、浙江大學、北京科技大學、湖南大學、華中科技大學、北京理工大學等高校及多家產學研組織共同發起，直面並解決大模型應用中潛藏風險，助力全球AI產業健康可持續發展。

國內首個攻防賽：聚焦AI反詐等大模型安全真實場景

近年來，人工智能技術特別是大模型及AIGC領域飛速發展，給我們生活帶來了前所未有的便利與可能性，也帶來了安全方面的挑戰。

只需10秒，大模型就能複製聲音、復刻照片，甚至能生成“你”的視頻，從而引發deepfake欺詐、色情影像偽造、假新聞等社會事件；大模型“越獄”問題頻發，誘騙AI聽從不懷好意的指令，生成血腥、暴力、歧視、仇恨的圖片、視頻，危害網絡空間安全。

中國工程院院士、中國圖像圖形學學會理事長王耀南指出：“加強大模型安全保護，構建完善的安全防護體系，是確保人工智能技術持續、穩定、健康發展的關鍵所在，也是我們在這個充滿機遇與挑戰的時代必須肩負起的重要使命。”

據瞭解，在此背景下，全球AI大模型攻防挑戰賽聚焦大模型自身安全和大模型生成內容的防偽檢測兩個賽道，賽題涉及信用成長、憑證審核、商家入駐、智能助理等多個業務場景，覆蓋機器學習、圖像處理與計算機視覺、數據處理等多個算法領域，通過創新的技術解決方案，進一步保障大模型應用安全和產業安全。

“通過攻防實戰演練，直面大模型應用中的安全問題，促使大模型安全技術不斷進步，從而攜手行業邁向更高的安全水平。”螞蟻集團安全實驗室首席科學家、全球AI大模型攻防挑戰賽評審委員會委員王維強表示。

AI反詐是當前保護大模型安全最典型、真實的場景之一。“現在AI詐騙越來越隱秘，手法越來越多樣，可以模擬親人的聲音、朋友的視頻，甚至偽造各種文件，讓人們防不勝防。今天的比賽，作為一名人民警察，我感覺非常欣慰，這意味著我們在對抗AI詐騙的道路上，有了更多的力量和智慧。”收官現場，來自桐鄉的反詐民警李湘臣向記者說道。

育人才、建標準：推動大模型安全可持續發展

“大賽的舉行，彙聚了全球範圍內數千位技術精英，為大家提供了技術交流與競技平台；在這個舞台上，許多優秀的人才脫穎而出，發現和培養一批優秀的安全人才，為行業的未來發展儲備智力資源，也是大賽的初衷之一。”中國圖像圖形學學會副理事長兼秘書長、北京科技大學教授馬惠敏在接受記者採訪時表示。

中國科學院計算技術研究所副研究員敖翔在現場表示：“人工智能技術的飛速發展為人才提供了廣闊的發展空間和創新平台，而AI領域的快速變化也對人才的知識結構、技能水平和創新能力提出了更高的要求，AI時代人才的成長離不開產學研的密切合作。”

IIFAA互聯網可信認證聯盟也正式對外發佈《IIFAA基於移動智能終端的憑證文件驗證服務檢測規範》，該規範對憑證文件驗證服務的功能、性能要求以及評估方法做了詳細說明，以提升憑證文件驗證的效率和安全性，推動行業的標準化進程。

“只有當技術、規範和意識三者協同發力，加上持續的人才儲備，我們才能真正守護好大模型的安全，為其持續健康發展創造良好的條件。”王維強表示說。