張文宏、雷軍、靳東深受其害，AI仿冒名人到底有多真？

從智能家居的語音助手到自動駕駛汽車，AI正以前所未有的方式改變著世界，但隨著AI技術的不斷髮展和應用其雙刃劍的特性也逐漸顯現，深度偽造技術就帶來了不小的隱患。

AI能夠輕鬆換臉、模仿聲音，能夠做到讓張文宏深夜帶貨，讓雷軍大罵網民，就連明星靳東都被AI硬塞代言。

張文宏深夜帶貨?

近日，有網民向媒體反映：家中老人在網絡賣貨影片中看到知名傳染病學專家張文宏醫生在賣一種蛋白類的產品，老人信以為真，不僅下了單還轉發了很多群。

事實上，該影片並非張文宏醫生本人發佈的，而是有人利用AI技術合成的。在這段影片中，被合成的人像反復介紹一種產品，聲音聽起來也很像張文宏本人，商品櫥窗內的某蛋白棒售賣鏈接顯示已出售1200多件。目前，該帳號已搜索不到。

對此，張文宏醫生在回應媒體時表示，「我在發現這個事情後立即投訴過那個AI合成的影片，但他的帳號一直在換，我最後也沒有精力了。這些假的AI合成信息就像蝗災一樣，一次又一次發生，像漫天飛過來的蝗蟲一樣害人。事實上，從平台投訴結果來看，我覺得最終也難以解決問題。」

除了向平台方投訴，張文宏稱自己也曾考慮過報警，但對方看不見摸不到，就像幽靈一般難以描述，只能寄希望於相關部門加強監管。「報警總要有個對象對吧，現在報警報誰呢?他一天換一個帳號，而且全是虛擬的，我向誰報警?所以我認為，他侵犯的是消費者的利益，我覺得相關部門應該處理。」張文宏說。

科技漩渦認為，當前AI技術飛速發展，特別是深度學習算法的不斷成熟，使得換臉技術的門檻大大降低。在前面提到的假張文宏之前，已經出現過假靳東、假雷軍、假於東來等。

AI雷軍罵翻全網，AI靳東詐騙老人

國慶假期，短影片平台上出現了大量「雷軍」的發言影片，涉及堵車、調休、遊戲等熱門話題，不僅言辭犀利，還常爆粗口。

對於很多熟悉網絡環境的人來說，這些「雷軍 AI 配音」影片可能是「一眼假」，但雷軍的名氣太大，影響力也很大，難免會有人當真。畢竟，在短影片平台上，那些甚至都沒有用AI配音，只是用剪輯的影像配文字字幕的「假靳東」影片，都有不少人上當。

據報導，今年11月，江西一位65歲老人到銀行辦理業務，聲稱要貸款200萬元給男朋友「靳東」拍戲。經調查發現，老人手機里的「靳東」出自AI合成的影片。

今年10月，老牌港星黃百鳴通過社交媒體鄭重聲明，有人盜用其過去影片，利用AI替換聲音，代言一個不知名的藥膏品牌。

科技漩渦認為，技術進步帶來了信息的洪流，我們對於所謂的「名人信息」及吸睛信息，不可「聽風就是雨」，盲目相信、輕易下單購買。AI換臉等新型侵權案件不斷湧現，除了用戶自身提高網絡安全意識，對於AI換臉相關風險的預防與整治，需要從源頭進行監管、司法形成多主體、全鏈條的治理。

科技進步，監管趨嚴

今年9月，國家網信辦已經發佈《人工智能生成合成內容標識辦法(徵求意見稿)》，要求從影片製作和發佈的源頭做好信息管理。其中明確提出兩種人工智能生成合成內容標識的種類，即「顯式標識」與「隱式標識」，還明確了兩類標識所應當適用的場景，將《深度合成規定》第十七條所提出的「顯著標識」與「顯式標識」建立了直接的對應關係。

12月15日，「微信珊瑚安全」微信公眾號發佈關於打擊利用AI仿冒知名人士進行營銷宣傳的公告，已處理532條內容，關閉帳號209個。

今年3月份，抖音安全中心發佈不當利用AI生成虛擬人物的治理公告，指出將嚴格處罰違規使用AI生成虛擬人物發佈違背科學常識、弄虛作假、造謠傳謠的內容。

除去監管部門和平台出台相關規定，AI工具的製作者也需遵守相關法律法規。今年5月，OpenAI在未經美國演員「寡姐」斯嘉麗·莊臣的同意模仿其聲音，已經收到律師函。

而在我國，也已經出現了第一例AI生成聲音人格權侵權案，北京互聯網法院在4月份對全國首例「AI聲音侵權案」進行一審宣判。就此事，我們曾諮詢北京鼎世律師事務所執行主任孫亮律師，他表示：「《民法典》第四編為人格權編，在該編中就涉及自然人的肖像權、名譽權、隱私權、聲音權益等民事權利進行了專門的規定。相關主體在利用AI技術進行創作的過程中，要對此予以重視，避免侵犯自然人的民事權益。」

科技漩渦認為，人工智能技術是一把雙刃劍，張文宏、雷軍、靳東等案例不斷提醒著我們正在直面AI帶來的種種挑戰。只有全社會共同努力，需要企業、學界、立法機構等各方攜手，才能遏製技術飛速發展所帶來的各種問題。

寫在最後

迅猛發展的AI技術需要通過多方努力為其劃定「底線」和「紅線」才能大力降低AI生成的內容所隱藏的種種風險，從而真正享受新興技術帶來的便利，推動人工智能產業的良性健康發展。

本文來自微信公眾號「科技漩渦」，作者：孫浩南，36氪經授權發佈。