甄嬛舉槍、寶黛互毆…AI「魔改」經典，到底是創新還是褻瀆？

封面新聞記者 羅石芊 邊雪

「0幀起手」。在經過AI（人工智能）「二創」之後，《甄嬛傳》變成槍戰片，《西遊記》中唐僧和女兒國國王擁抱親吻，《紅樓夢》劇情變武打戲，《三國演義》里諸葛亮戴上墨鏡指點沙場……

2024年，被廣泛認為是「AI影片元年」。隨著AI影片生成技術的不斷成熟，在各大短影片平台上，使用AI生成創作的各類短影片變得火熱，部分畫面可以做到以假亂真，特別是下半年以來，對於經典影視作品的二次創作開始「爆發」。通過AI技術對經典IP作品進行「魔改」，是一種創新還是對原著的褻瀆？引發了網民的廣泛討論。

通過AI進行「移花接木」的現象也時有發生。近段時間，知名傳染病學專家張文宏的容貌和聲音被商家通過「AI換臉」移花接木，在網絡上帶貨，有不少老年人掉入「陷阱」。

12月7日，國家廣播電視總局網絡視聽司發佈《管理提示（ AI魔改）》，指出近期AI「魔改」影片以假亂真、「魔改」經典現象頻發，要求短影片平台進行排查清理。

AI「魔改」影片興起，帶來了哪些新的問題？創作者對影視作品進行「二創」是否面臨法律風險？AI技術進步的背後是否存在「邊界」？封面新聞記者對這一現象進行了調查，並邀請了業內相關專家和律師，請他們進行解讀。

AI「魔改」經典影視劇

廣電總局出手管控

近段時間，在短影片平台上，一些AI生成的影片吸引了不少網民關注。其中，一些經典影視作品的畫面，在經過AI二次創作「魔改」後，得到了大量點讚。

被「魔改」的影視作品中，四大名著和《甄嬛傳》中的影片畫面較多。例如，《西遊記》里，唐僧與女兒國國王「終成眷屬」，擁抱親吻，大師兄孫悟空騎著電單車揚長而去；《三國演義》中，羽扇綸巾的諸葛亮戴上了墨鏡指點沙場；《紅樓夢》里，黛玉、寶玉話不投機就大打出手，黛玉還能徒手倒拔垂楊柳；熱門影視劇《甄嬛傳》中，甄嬛更是一言不合就舉槍……

這些影片，通過AI工具對原有影片內容進行了重新剪輯、配音，改變劇情走向，讓觀眾覺得十分新鮮好玩，瀏覽量、點讚量、轉發量頗高，有網民表示「這才是原版」。但同時，也有網民擔憂，這樣的「魔改」劇情，會對大眾認知造成衝擊，認為經典不應該被胡亂改編。

12月7日，國家廣播電視總局網絡視聽司發佈《管理提示（AI魔改）》，指出近期AI「魔改」影片以假亂真、「魔改」經典現象頻發。這些AI「魔改」經典包括《甄嬛傳》變身「槍戰片」，《紅樓夢》改成「武打戲」，孫悟空騎著電單車揚長而去等。這些影片為博流量，毫無邊界褻瀆經典IP，衝擊傳統文化認知，與原著精神內核相悖，且涉嫌構成侵權行為。

《管理提示》要求，各相關省局督促轄區內短影片平台排查清理AI「魔改」影視劇的短影片，並嚴格落實生成式人工智能內容審核要求，舉一反三，對各自平台開發的大模型或AI特效功能等進行自查，對在平台上使用、傳播的各類相關技術產品嚴格準入和監督，對AI生成內容做出顯著提示。

AI影片加速發展

換臉配音等以假亂真

2023年，AI開始「爆發」。2024年，AI不斷創新突破，技術出現了巨大進步，新業態持續湧現，在影片生成大模型方面表現得尤為明顯。今年2月，OpenAI發佈文生影片模型SORA，AI影片在解像度、畫面真實度、時序一致性等方面有了顯著提升，給人強烈震撼。

一石激起千層浪，國內外多家技術公司開始佈局AI影片。今年，我國的即夢、可靈、海螺等AI平台不斷推出新的影片生成技術，表現亮眼，其效果已經超越近期才對外開放使用的SORA，在全球處於「第一梯隊」。封面新聞記者在多個平台測試發現，國內AI平台的文生影片、圖生影片、對口型配音的畫面表現力和真實度，在某些場景下，足以「以假亂真」。

在此基礎上，不少APP也開發了簡易的「AI一鍵生成」功能，用戶將所需創作的圖片、影像、音樂導入後，可根據自己的喜好「定製」專屬的作品，生產出高清晰度、高畫質、真實感強的新作品。

但是，這樣的AI技術，在方便創作者進行內容生產的同時，也出現了上文中的AI「魔改」現象。同時，有商家利用AI換臉等手段，在網絡上謀取利益。

前段時間，知名傳染病學專家張文宏，就被商家通過AI換臉、合成人聲做成影片，在網絡上「直播帶貨」銷售一款蛋白棒，使不少老年人信以為真。對此，12月12日，張文宏在接受媒體採訪時回應，這樣的賣貨帳號不止一個，且一直在變，他已多次向平台投訴。「很多不明真相的老百姓、特別是有些對AI不是很熟悉的、年紀較大的市民，就很容易相信。」除此之外，張文宏也考慮求助警方，但對方看不見、摸不著，經常更換帳號，很難找到準確的報警對象。

張文宏的遭遇，並不是首例。去年，在江西上饒，68歲的丁奶奶刷影片陷入「假靳東」騙局。丁奶奶在網上刷到假冒靳東的影片，相信是靳東本人發佈的，給其發私信刷禮物，3年時間刷了3萬餘元。

今年國慶，「雷軍」在網絡上犀利點評堵車、調休、遊戲等熱門話題，引發網民熱議。但事實上，這些內容與雷軍並無關係，而是有人通過AI配音製作。

據《2024人工智能安全報告》顯示，2023年，基於AI的深度偽造欺詐增長了3000%；2024年上半年，AI詐騙案案值已超過1.85億元。

12月15日，騰訊官方內容安全溝通站點微信「珊瑚安全」公眾號發佈消息稱，微信從速從嚴打擊了一批利用AI仿冒知名人士進行不當營銷、惡意博取流量的違規行為，並針對相關情況開展專項治理，截至目前，累計處置內容532條，關閉帳號209個。

封面新聞記者從業內人士處獲悉，目前，抖音、快手等短影片平台，也對AI生成影片進行較為嚴格的審核，除了在畫面中標註提醒類文字外，還對一些影片進行限流處理。

AI技術的「邊界」在哪？

專家：應提前做好風險控制

AI技術的快速發展，正在推動相關領域發生深度變革。關於AI「魔改」類的影片，網民也是各持己見。有網民認為AI二創「魔改」，很有創意，只是為了「圖一樂」，通過新技術重新「解讀」了經典，不應太過苛責。也有網民認為，AI的不合理的創作，是對原著作品的一種侵權，涉及法律風險。

AI技術的「邊界」在何處？應當從哪些方面出發更好規範AI技術發展？四川大學文學與新聞學院研究員、博士生導師桑治耀教授認為，AI只是一個技術工具，關鍵在於使用者要有對信息本源的價值判斷，政府、平台、企業需要提前做好風險控制。

桑治耀說，政府部門可以對AIGC的內容進行適當管理，「如果是涉及偏公益、普及、教育意義的信息，由於會影響大眾判斷，政府可以通過政策進行引導。」同時，政府也應當加大對AI技術上遊公司的監管，保證全鏈條的透明度。

針對AI技術源頭公司，桑治耀認為，企業本身也需要加大對技術的管理，「企業可以嘗試通過技術，給影片打上‘AIGC生成甄別標籤’並永久留存，這樣可以更明顯地提醒大眾。」他還建議，AIGC影片要能溯源，企業可通過區塊鏈等方式，為影片打一個AI生成的標記，平台可以通過該標記能夠找到背後的數據模型，溯源後起到管理用戶的作用。

「我認為相關AI軟件在使用前，可以考慮通過合約的方式來進行使用者行為的限制，比如使用者在使用軟件過程中，對作品版權進行限制，如果用AI生成了作品，可以要求使用者不能夠進行商業化、不得生成違法作品等條款，通過對生成內容進行預先設定，以合約的方式來限制他人對原作品的濫用。」電子科技大學公共管理學院副教授、英特信律所律師黃小洵表示。

「培養用戶的相關意識是非常有必要的，因為我們現在面臨與AI相關的領域越來越多，很可能個人就成為AI作品的創作者。在相關技術發展的過程當中，我們其實有一個認知，如果回溯版權法的整個發展歷程，每當面臨新的技術，就會產生新的作品形式，公眾其實都會產生一種新的法律認知。」黃小洵告訴封面新聞記者，當前非常有必要來提高公眾對AI相關產品使用的法律意識，因為人工智能涉及的問題很廣，比如AI在進行學術研究過程中，同樣會引發相關的倫理問題，但很多AI工具的使用者法律意識都是很模糊的。

AI「魔改」涉及法律風險

律師：惡搞或侵犯原作品著作權

AI換臉、AI「魔改」，是否會觸犯相關法律？AI作品是否能擁有自己的版權？對此，陝西恒達律師事務所高級合夥人、知名公益律師趙良善在接受封面新聞記者採訪時表示，未經著作權人許可，用AI技術「魔改」原作品，在多個關鍵特徵上與原作品具有極高相似度，甚至褻瀆、玷汙原作品，從而符合「接觸」和「實質性相似」的侵權判定標準，平台侵犯了原作品的複製權、改編權等著作權。若AI「魔改」原作品，在構成侵權的情況下，AI衍生的作品因自身的違法性導致其不享有版權。

封面新聞記者查詢民法典時發現，AI換臉技術涉及肖像權、名譽權、隱私權等多種權利。據我國《中華人民共和國民法典》第一千零一十九條規定，任何組織或者個人不得以醜化、汙損，或者利用信息技術手段侵犯他人肖像權的方式，製作、使用、展示他人肖像。利用AI換臉技術製作虛假的肖像，侵犯了他人的肖像權，可能會引發侵權糾紛。

「用戶利用AI換臉技術偽裝，導致被偽裝人的肖像權等權利被侵權，或導致其他人的感情和財產大量受損時，平台在未盡到合理審核義務、未有效規製該類行為發生的情況下，需要承擔一定的幫助侵權，甚至直接侵權的法律責任。」泰和泰律師事務所律師劉青表示，但是，除非平台故意為之或協助詐騙人進行詐騙行為，否則很難認定平台構成詐騙罪。