國內首個 AI 大模型攻防賽啟動，設立近 100 萬元獎金池

IT之家 9 月 6 日消息，9 月 6 日上午，在 2024 Inclusion・外灘大會「以 AI 守護 AI 大模型時代的攻守之道」論壇上，國內首個大模型攻防主題的科技賽事「全球 AI 攻防挑戰賽」宣佈正式啟動。

這項賽事聚焦 AI 大模型產業實踐，設計了攻、防雙向賽道，邀請各路「白帽黑客」（IT之家註：站在黑客立場攻擊自己系統以進行安全漏洞排查的程序員）、技術人才分別進行針對文生圖大模型「數據投毒」的攻防實戰演練，以及金融場景大模型生成內容的防偽檢測競賽。

• 「攻擊賽道」聚焦於文生圖大模型的實際應用風險問題。參賽選手可通過目標劫持、情景帶入、邏輯嵌套等多樣化的動態攻擊誘導技術，誘發大模型輸出風險圖像，以此激活大模型的潛在弱點和漏洞，增強大模型生圖的安全免疫能力。

• 「防守賽道」則聚焦於 AI 核身中的金融場景憑證篡改檢測，以應對日益嚴峻的 Deepfake 深度偽造及 AIGC 假證風險。大賽提供百萬級憑證篡改數據訓練集，參賽選手需要研發和訓練模型，並利用對應的測試集評估模型有效性，給出數據偽造概率值。

該賽事由中國圖像圖形學會、螞蟻集團、雲安全聯盟（CSA）大中華區聯合主辦，並得到了上海交通大學、浙江大學等 C9 高校及多家產學研組織的支持。

賽事設立了近 100 萬元獎金池，並邀請了多位學術界和工業界的知名專家擔任評委。中國工程院院士、中國圖像圖形學學會理事長王耀南，雲安聯盟（CSA）大中華區主席李雨航擔任本次大賽的指導委員會專家，來自清華大學、上海交通大學、上海人工智能實驗室、中國圖像圖形學學會等單位的近 30 位知名學者將參與大賽的組織及評審工作。

本次大賽於 9 月 6 日正式啟動報名，11 月初完成賽事評審。即日起，選手可通過中國圖像圖形學學會官網、阿里雲天池大數據眾智平台官網等渠道報名。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。