「張文宏」開始深夜帶貨？已售出1266件…緊急提醒→

來源：蘇州新聞

什麼？

「張文宏」開始帶貨了？

最近，有網民詢問

「張文宏是不是帶貨了？」

影片中

「張文宏」在賣一種蛋白棒

家裡的老人信以為真已經下單

還轉發了很多群

記者核實發現

這個帳號名為「般畫234」

在影片中

「張文宏」反復介紹一種產品

口型是他的，聲音也是他的

但稍微懂點AI的小夥伴們

一眼就能分辨

這是AI合成的影片！

（但是老年人哪裡懂甄別啊？）

記者發現

這段影片已在該帳號內不可見

但商品櫥窗內

還保留著蛋白棒售賣的頁面

並顯示已售出1266件

近年來

AI剪輯冒充明星的案例屢見不鮮

也有不少人因此上當

↓↓↓

男演員靳東是不少媽媽輩中老年人的偶像，網絡上「假靳東」騙局，其實持續多年了，但依然還有老人輕信。

今年11月，江西一位老人來到銀行辦理銀行卡，但手續不全又不肯離開，警方到現場後，老人表示要到銀行貸款200萬元給自己的男朋友「靳東」拍戲。

「我是在短影片平台上認識的‘靳東’，‘靳東’向我表白了，並用兩人合照發佈了短影片，現在他拍戲需要200萬元，我要去幫助他。」老人略顯激動的說道。

民警隨即拿起老人的手機進行查看，發現老人所謂的大明星「靳東」是騙子冒充的，其所發佈的影片也是由電腦AI合成，但老人對網絡知之甚少，對於騙子所說所做深信不疑。

隨即，民警向老人進行耐性勸導，但老人對假「靳東」仍然深信不疑，於是民警一邊繼續開展勸解工作，一邊通知老人孫子前來共同勸解。

最終，民警通過向老人展示網絡上一些冒充「靳東」詐騙的新聞和現場利用AI合成照片等方式，老人才幡然醒悟過來，表示不會再相信網絡上的「靳東」，對民警連連道謝，並放棄了開卡貸款的念頭。

今年10月

老牌港星黃百鳴

在社交媒體上發佈聲明

↓↓↓

有人盜用他過去的影片，並利用人工智慧技術替換掉原有聲音，假借自家名義代言一個不知名的藥膏品牌。這種行為純屬欺詐，旨在誤導公眾並從中取利。

今年9月

陳佩斯的父子帳號

曾發佈相關聲明

說要跟某些冒充陳佩斯

發佈煽動言論的違法帳號

硬剛到底！

犯罪團夥通過虛構名人、明星身份，編造的身份除了影視藝人，還包括金融大咖、業界翹楚等，再「邀請」真粉絲加入各種「粉絲團」「應援團」。

那麼

如何辨別

屏幕里的是真人還是AI合成人呢？

學會三招識別AI「換臉換聲」

可以要求對方在影片對話的時候，在臉部面前，通過揮手的方式去識別實時偽造的影片。在揮手的過程中會造成面部的數據干擾，他所偽造的人臉會產生一定的抖動或者閃現，或是一些其他異常的情況。

在點對點的溝通過程中，可以問一些只有對方知道的問題，驗證對方的真實性。

還可以讓對方通過按鼻子按臉的方式，觀察其面部變化，真人的鼻子按下去是會變形，但AI生成的鼻子並不會，同樣臉部也是一樣的。

值得注意的是，以上鑒別方式都是基於現有算法的局限性。未來隨著AI技術的發展，「動起來」「揮手」「比數字」等有可能難不倒新技術，「數字人」同樣能順利完成以上動作，從而更加具備迷惑性。所以，防範AI詐騙，還是要從自己出發，做好信息保護，提高警惕。

例如，不要泄露個人信息，尤其要注意圖像、聲音、指紋等生物信息的保護。「AI換臉」的數據基礎是被模仿人的照片、影片等，個人公開在外的照片、影片越多，意味著AI算法參考的數據越多，生成的「數字人」會更真實。

同時，在涉及資金交易等場景下，需要多留心眼，不輕易相信影片、聲音。很多時候，傳統的識別方式要比技術識別更有效。

再次提醒大家

↓↓↓

一定要擦亮眼睛

要知道網絡上充斥著各種「高仿」

不要遇到喜歡的公眾人物

就盲目相信

謹防詐騙！

來源|新聞坊、儂好上海、大皖新聞等