多地爆發？有人10分鍾被騙430萬！“迪麗熱巴”“楊冪”直播賣貨？也是假的……

　　5月22日，一起利用人工智能（AI）實施電信詐騙的典型案例衝上熱搜，引發全網關注。

　　警方通報！AI換臉詐騙來了

　　近日，“平安包頭”公眾號發佈一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鍾內被騙430萬元。

　　“平安包頭”的警情通報顯示，4月20日中午，郭先生的好友突然通過微信視頻聯繫他，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基於對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。

　　事後，郭先生撥打好友電話才知道被騙，原來騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。

　　值得注意的是，騙子並沒有使用一個仿真的好友微信添加郭先生為好友，而是直接用好友微信發起視頻聊天，這也是郭先生被騙的原因之一。騙子極有可能通過技術手段盜用了郭先生好友的微信。幸運的是，接到報警後，福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移。

　　據華西都市報此前報導，2022年2月，有位陳先生到浙江溫州市公安局甌海分局仙岩派出所報案稱，自己被“好友”詐騙了近5萬元。經警方核實，詐騙分子利用陳先生好友“阿誠”在社交平台發佈的視頻，截取其面部視頻畫面後再利用“AI換臉”技術合成，製造陳先生與“好友”視頻聊天的假象騙取其信任，從而實施詐騙。

　　浙江溫州公安曾發佈消息，2021年拱宸橋派出所接到報警，受害人小陳稱他在與女網友視頻聊天后被對方敲詐勒索。經警方調查，對方利用AI換臉技術，將小陳視頻中的面部合成到不雅視頻中，借此對其實施勒索。

　　2020年，上海某公司高管因對方使用AI換臉與人工生成的語音技術製作公司領導的面孔，並要該高管轉賬，致使該高管被詐騙150萬元。

　　在AI應用如此廣泛的現在，利用AI詐騙有哪些常用手法？

　　第一種是聲音合成，騙子通過騷擾電話錄音等來提取某人聲音，獲取素材後進行聲音合成，從而可以用偽造的聲音騙過對方。

　　第二種為AI換臉，人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。騙子首先分析公眾發佈在網上的各類信息，根據所要實施的騙術，通過AI技術篩選目標人群。在視頻通話中利用AI換臉，騙取信任。

　　第三種是轉發微信語音騙子在盜取微信號後，便向其好友“借錢”，為取得對方的信任，他們會轉發之前的語音，進而騙取錢款。儘管微信沒有語音轉發功能，但他們通過提取語音文件或安裝非官方版本（插件），實現語音轉發。

　　第四種是通過AI技術篩選受騙人群，騙子不是漫無目的地全面撒網，而是別有用心地鎖定特定對象。他們會根據所要實施的騙術對人群進行篩選，從而選出目標對象。

　　對於AI換臉詐騙，有網友認為太離譜，也有人認為借錢以後得當面談了。

　　“迪麗熱巴”、“楊冪”等明星直播賣貨？

　　AI換臉或涉嫌侵權

　　據中新財經報導，AI實時換臉，正在直播間悄然出現。

　　“點進直播間一看，‘迪麗熱巴’居然在直播賣貨。”近日，有網友點開直播間，卻發現正在賣貨的竟是當紅女星。然而再定睛一看，這些帶貨“明星”很快露出了馬腳——身穿中式服裝，正在賣力帶貨的“明星”們，其實只是使用了AI實時換臉技術的普通主播。

　　楊冪、迪麗熱巴、angelababy等當紅女星，成為了AI換臉的重點對象。目前的AI實時換臉，在直播中已能達到以假亂真的地步，不少人點進直播間以後以為主播只是長得像明星，不過也有一些直播間出現了人身比例失調的違和現象。

　　有網友指出了其中一些破綻：“主播低頭整理頭髮的時候，腦門上全是黑的。”　“現在普通人的臉已經不配直播了。”有網友如此感慨。

　　有視頻換臉研究者表示，實時換臉不存在延遲，也不會有Bug，而直播畫面傳輸的延遲則取決於使用者的網絡配置和進行直播的平台。

　　據一家提供“換臉軟件”的網站客服表示，他們提供的全套模型購買價格為3.5萬元，AI實時換臉可適用於各大直播平台。

　　在一些提供換臉軟件的教程或網站上，提供者均提醒要警惕使用AI換臉進行詐騙或者侵權的行為。

　　那麼，在AI換臉直播中，平台是否負有責任？北京雲嘉律師事務所律師趙占領表示，平台對於平台內商家的侵權行為不承擔直接侵權的責任，而是否構成幫助侵權，主要是看平台對於商家的侵權行為是否屬於明知或應知。

　　但對於如何判定平台對用戶、權利人的投訴是否明知或應知，在一般情況下很難認定。

　　此前百萬粉絲女網紅被曝AI換臉

　　據都市快報報導，此前4月份，一名擁有百萬粉絲的女網紅被曝出了一起“AI換臉”事件。

　　這名女網紅表示，她的視頻評論區突然湧來了很多人說看過她的“視頻”，但她從未發佈過這樣的視頻。

　　該女網紅髮現，在境外社交平台上有人冒充她註冊了假賬號。對方先是頂著她的名義搬運她的日常內容，等到粉絲人數差不多的時候，就以會員訂閱的方式販賣視頻。

　　有法律界人士認為：近年來，“AI換臉”走紅網絡，一些“AI換臉”的App使用明星的圖片製作換臉視頻進行推廣，其趣味性背後暗藏不少法律風險和侵權糾紛。

　　4月11日，國家網信辦起草了《生成式人工智能服務管理辦法（徵求意見稿）》，向社會公開徵求意見，意見反饋截止時間為2023年5月10日。