牽動人心的地震圖片系偽造，人工智能時代如何去偽存真？

西藏定日縣的6.8級地震，牽動億萬網民的心。但一些虛假信息，比如AI（人工智能）生成的圖片，也在造成誤導。

比如下面圖片中，一個戴帽子的小孩被重壓在倒塌的建築物下。在某短影片平台上，至少有10個以上的帳號發佈該內容，有的帳號甚至和西藏日喀則地震關聯，獲得好幾萬的轉、評、讚。不少網民看到圖片後，都為圖中的孩子落淚，甚至不斷追問，圖片中的小孩怎麼樣了，並未留意到可能的疑點。

某平台上多個的帳號發佈該內容。

後新京報記者查證發現，上述圖片由AI創作，且原始作者在2024年11月18日發佈了相同畫面的短影片，並聲明該影片由AI生成。「仔細看的話，可以從圖像細節發現問題，比如圖中‘孩子’的右手出現了六根手指、雙眼瞳孔反光不同等不符合常理的特徵。」瑞萊智慧聯合創始人蕭子豪告訴新京報貝殼財經記者。

那麼，在人工智能給我們的學習、工作和生活帶來諸多便利之餘，普通人應如何辨別人工智能生成或深度偽造的內容？平台在聚合和傳播信息之餘，應如何維護社區生態，使其不受人工智能生成的謠言的影響？

深度偽造：肉眼已喪失對數字世界辨識的能力？

螞蟻集團大模型數據安全總監楊小芳向貝殼財經記者解釋了人工智能生成內容的發展：AIGC（人工智能生成內容，包括圖片、影片、聲音等）的初期，（生成的內容）沒有那麼真，很多圖片一看就知道是AI生成的或者深度偽造的。但現在有越來越擬真的趨勢，包括網絡上的一些知名企業家的聲音內容，以及一些實時影片，甚至能進行互動，達到了以假亂真的程度。

AI深度偽造技術，也稱為深度偽像（Deepfake）是一種利用人工智能技術生成逼真的虛假內容，通常是指用於偽造人物的影片、音頻、圖像等。其主要原理涉及兩個關鍵技術：生成對抗網絡（GANs）和深度學習。

「這是世界性難題，國外的社交媒體也充斥著大量深度偽造的影片內容，平台雖然會開發識別算法、鑒真算法，也在實驗性地應用，但並沒有想像中管用，或者說鑒別速度跟不上傳播速度。」安全專家李鐵軍告訴貝殼財經記者。

「當前大模型能力的持續提升，AI生成的圖片和影片已經很難用肉眼去辨別真偽了。我們已經來到了一個‘人類肉眼喪失對數字世界信息真偽辨識能力’的時代，所以每一名社會公民都應該對網絡信息保持一定的警惕性，理性思考，或借助一些AI檢測工具求證。」瑞萊智慧聯合創始人蕭子豪說。

隨著近年來AI大模型技術的進步，一些AI生圖大模型在追求更多真實度的同時「誤打誤撞」成了AIGC謠言和深度偽造的「幫兇」，如此前著名的stable diffusion（一款AI智能繪畫大模型）就被開發出了一鍵脫衣的功能，並一度氾濫。雖然後來該模型修改了相關功能，讓這種行為有所收斂，但由於技術開源的特性，「潘多拉的盒子」已經打開，或許難以再度關閉。

解決方法：需法律和平台共治

如何在人工智能時代去偽存真？

楊小芳告訴貝殼財經記者，在AIGC發展初期，螞蟻開發了AI鑒真能力，基於大量AI生成內容訓練的算法模型。隨著AIGC的發展，AI生圖越來越逼真，需要進一步引入數字水印技術，也就是在AI生圖時內置隱水印，並做到經過圖片裁剪或媒體傳播也能夠提取水印，以追根溯源。但是，技術只是手段，AIGC管理才是核心，這需要政策和監管的引導與規範、也需要行業自律。

據貝殼財經記者瞭解，國內、國際的互聯網企業都有開發AI鑒真工具，但這些工具也有局限性。德雷克塞爾工程學院的多媒體和信息安全實驗室 (MISL) 多年來一直致力於研究此類技術。他們的科學家們評估了11種可供公眾使用的合成圖像檢測器。這些程序顯示出很高的效率，在檢測被篡改的圖像方面至少有90%的準確率。然而，當負責識別公開可用的AI或者大模型生成的影片時，它們的性能下降了20%至30%。

該學院副教授兼MISL主任馬修·史譚在一份報告中稱：「在沒有一個好的系統來檢測不良行為者製造的假貨之前，這種影片技術就已經發佈，這真是令人不安。」

安全專家李鐵軍認為，必須靠法律法規的威懾力來解決深度偽造問題。「平台缺少主動鑒別深度偽造的動力，需要國家層面給予平台足夠的約束，比如出現重大造假事件、造成嚴重社會影響的，處罰平台，這樣平台才有動力去鑒別真偽。」李鐵軍說。

事實上，我國也在完善相關法律。根據《中華人民共和國治安管理處罰法》第二十五條第（一）項規定，散佈謠言，謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的，處五日以上十日以下拘留，可以並處五百元以下罰款；情節較輕的，處五日以下拘留或者五百元以下罰款。明知是AI生成的虛假圖片卻故意在重大災難事件中傳播，意圖誤導公眾、擾亂社會秩序或獲取不當利益的個人或組織，可能面臨行政處罰的責任。如果引起的後果特別惡劣，甚至可能構成刑事責任。如果是轉發的人故意隱去AI標識，可能也要承擔同樣的行政處罰責任。

此外，若平台未能盡到合理的審核和監管義務，導致AI虛假圖片廣泛傳播並造成嚴重負面影響，平台也需承擔相應的法律責任。如可能面臨監管部門的罰款、責令整改等。

2024年9月，國家網信辦公佈了《人工智能生成合成內容標識辦法（徵求意見稿）》，其中明確規定服務提供者具有對生成內容（文字、圖片、影片等）的標註義務，網絡信息內容傳播平台對傳播的內容具有核驗及標註義務，用戶上傳生成合成內容時負有主動聲明義務，使用平台提供的標識功能進行標識。雖然目前只是徵求意見稿，但該標識辦法審批生效的可能性較大，具有直接的參考作用。

隨著AIGC和深度偽造技術的發展，各平台也均出台了相應規範。微信要求自媒體發佈使用AI等技術生成的信息時，必須標註內容為AI製作；重點打擊造假、蹭炒社會熱點等違規內容和行為。抖音要求發佈者對人工智能生成內容進行顯著標識，幫助用戶區分虛擬與現實；發佈者需對人工智能生成內容產生的相應後果負責；禁止利用生成式人工智能技術創作、發佈侵權內容。快手則要求對數字人直播等AIGC輔助創作的內容，不再給予額外流量扶持；對使用外站AIGC數字人生成的錄製直播將按「播放錄製內容」規則管控，違規行為將受到警告、扣分、封禁帳號等處罰。

記者聯繫郵箱：avril-1989@163.com

新京報貝殼財經記者 白金蕾 羅亦丹

編輯 袁秀麗 校對 穆祥桐