兩會經濟策｜AI「魔改」越界，誰來擔責？

「我家裡人都分不清是不是真是我了。」近日，因本人形象被盜用於廣告宣傳，演員王勁鬆下場「打假」。

隨著AI（人工智能）發展，這種「把我AI了」問題已不新鮮。此前，周星馳工作室也公開表示周星馳人臉存在被濫用的風險。

從假冒圖片到AI換臉、換口型，AI「魔改」內容的仿真感越來越強。當人們沉浸在影片生成AI帶來的視覺盛宴時，亂象監管同樣被推至台前：AI篡改圖片、影片的法律邊界在哪？AI假圖如何系統治理、從源頭規範？

【代表委員圓桌】

鍾錚 全國人大代表、美的集團副總裁

高潔 全國政協委員、陝西省人民檢察院副檢察長

齊向東 全國政協委員、奇安信集團董事長

AI造假，本質是技術紅利碰撞版權規則

鍾錚：除了過去用影片傳播，在2025年我們看到用數字人直播的傳播場景更多，它的識別難度更大。隨著數字人製作和運營門檻降低，其在直播領域的濫用和違規現象日益增多，暴露出身份虛假、內容失範、權益糾紛、監管滯後等突出問題，這些問題若不及時治理，將擾亂市場秩序，損害用戶權益，影響人工智能技術的社會信任與應用前景。

高潔：隨著人工智能快速發展與廣泛應用，AI生成圖片在電商領域普及應用，顯著提升了商品展示效率與行業運營效能。與此同時，AI生成虛假圖片亂象日益突出，擾亂了市場秩序、侵害消費者合法權益。

在電商領域，AI生成虛假圖片的亂象影響了市場秩序、侵害消費者合法權益，部分不良商家利用AI製作虛假宣傳圖、過度渲染效果圖，引發「圖文不符」「貨不對板」等消費糾紛；少數不法分子通過AI偽造商品瑕疵圖，惡意退款、實施詐騙，給正規商家造成經濟損失。

齊向東：AI「魔改」影片的現象，本質是技術紅利和版權規則的碰撞。一方面，AI技術快速迭代，讓普通人也能輕鬆實現內容創作、二次改編；另一方面，有人藉著AI肆意篡改、盜用、惡搞，嚴重侵犯原創的合法權益。久而久之，沒人願意再做原創，最終傷害的是整個行業的活力。

法律責任界定較為模糊，電商平台應承擔「打假」責任

高潔：現有規定對電商場景下AI假圖的認定標準、處置規則、處罰幅度不夠明確，法律責任界定較為模糊，執法實踐缺乏統一依據。監管技術與手段相對滯後，AI假圖製作門檻低、篡改成本小、識別難度大，即使《人工智能生成合成內容標識辦法》施行後，未按規定標識、擅自篡改標識等問題依然存在。此外，協同治理機制尚未形成，監管部門、電商平台、AI技術服務方之間數據不互通、職責不清晰，難以形成全鏈條治理合力。

電商平台應該承擔起相應責任。一是督促電商平台健全AI假圖審核機制，對食品、美妝、農產品等重點品類商品圖片實行強化審核，接入權威檢測技術工具，提升識別精準度，降低誤判影響；二是完善平台信用懲戒體系，將發佈虛假AI圖片、惡意退款索賠的商家及個人納入電商信用黑名單，實施跨平台聯合同束與聯合懲戒；三是暢通消費者和正當商家的維權渠道，優化投訴處理流程，提升維權效率；四是面向消費者開展AI圖片風險提示與辨別知識普及，增強風險防範意識，引導理性消費。

鍾錚：數字人亂象首先是因為我們的法律法規體系不完善，另外這背後涉及肖像權、知識產權、著作權等方面，如何對人工智能合成內容進行定義需要明確。

加強數字人直播管理，應壓實多方主體責任，加強跨部門協同監管與公眾監督。督促商家、平台、AI工具提供方履行各自主體責任，明確各方在內容審核、標識合規、權益保護等方面的義務；暢通用戶舉報渠道，鼓勵公眾參與監督；建立網信、廣電、市場監管等部門間的常態化協同監管機制，統一規則，共享數據，聯合執法，形成監管合力。

「眼見為實」徹底終結，AI生成內容要戴上緊箍

高潔：由工信部門牽頭，加大技術研發支持力度，支持科研機構與企業開展聯合攻關，研發具有自主知識產權的AI生成內容標識、檢測、溯源技術，建設統一的AI生成內容標識核驗公共平台。

由網信、工信、市場監管等部門聯合製定電商領域AI生成內容管理細化規定，明確AI圖像顯式、隱式標識要求，對重點品類強製使用不可篡改標識，界定AI「假圖」違法違規情形，建立階梯式處罰機制，強化法律剛性約束。

鍾錚：加快推進人工智能法等相關立法進程，設立數字人直播專項管理條款；推行數字人註冊備案制度，強製公示其技術生成屬性和背後運營主體信息，做到「數字形象可標識、責任主體可追溯」。修訂《消費者權益保護法》《廣告法》等，明確將數字人直播納入監管範疇，嚴厲打擊虛假宣傳、仿冒名人等消費欺詐行為。同時，完善知識產權與人格權相關法律法規，明確數字人製作中真人肖像、聲音、個人信息等的授權使用邊界，加大對無授權使用行為的處罰力度，保障權利人合法權益。

齊向東：在深度偽造技術面前，「眼見為實」徹底終結，普通人要做到「一看二查三防四維權」，簡單實用。

一是看細節，找破綻。在觀看影片時，可以留意平台提示，或者自己仔細甄別一些蛛絲馬跡。比如光影是不是自然，人物面部的口型與聲音是不是完美同步、眼神僵不僵硬，背景是否清晰合理等。

二是查源頭，信權威。增強信息免疫力，不輕信非官方、無信源的「爆料」「內幕」「名人喊話」，對於誘導投資、轉賬等內容，更要提高警惕，通過官方渠道進行二次核實，不要被牽著鼻子走。

三是防泄露，護隱私。不隨意公開高清正面照、原聲影片，關閉不必要的人臉以及聲音採集權限，減少個人信息被用於AI訓練與偽造的風險，避免捲入詐騙案件。

四是會維權，快處置。當發現自己被AI偽造侵權，要第一時間截圖錄屏固定證據，向平台投訴下架，向網信、公安部門舉報；當自己遭受名譽損害、詐騙、敲詐勒索，更要果斷報警並提起法律訴訟。

新京報貝殼財經記者 張曉慧 羅亦丹 陳維城 徐雨婷

編輯 王進雨

製圖 師春雷

校對 劉軍