“AI馬斯克”氾濫:輕鬆騙走82歲老人69萬美元退休金
![](https://n.sinaimg.cn/finance/transform/37/w550h287/20240817/183f-1bdde34586a8abe39ac11094f4128cca.png)
據報導,AI生成的埃隆·馬斯克的形象,已經出現在數千條虛假廣告中,並導致了數十億美元的欺詐損失。德勤預計,AI驅動的“深度偽造”(deepfake)預計每年將造成數十億美元的欺詐損失。
去年年底,82歲的退休老人Steve Beauchamp觀看了一段視頻。視頻中馬斯克支持一個承諾快速回報的激進投資機會,口型與聲音都高度吻合,看起來極為真實。於是,Beauchamp聯繫了這家公司,開設了一個248美元的賬戶。
經過數週的一系列交易,Beauchamp耗盡了他的退休賬戶,最終投資了69多萬美元(約合495萬元)。但令這位老人沒有想到的是,這些錢最終卻消失了,輸送給了那些處於AI驅動的新犯罪前沿的數字騙子。
原因是:騙子對馬斯克的一篇真實採訪進行編輯,利用AI工具,使用複製品代替了他的聲音。如今,AI技術已經足夠先進,可以改變微小的嘴部動作,以匹配他們為數字欺詐而編寫的新劇本。對於一個普通的觀眾來說,這種操縱可能是難以察覺的。
Beauchamp對此表示:“畫面上的人物,的確是他(馬斯克)。現在,我真的不知道是不是AI讓他說出了那番話。但就畫面而言,那就是他。”
近幾個月來,數千個AI驅動的視頻(即“深度偽造”)充斥著互聯網,這些視頻以“虛假的馬斯克言論”欺騙了數十名潛在投資者。據德勤估計,這種由AI驅動的“深度偽造”預計每年將造成數十億美元的欺詐損失。
這些視頻的製作成本只有幾美元,可以在幾分鍾內完成。它們在社交媒體上得到推廣,包括在Facebook的付費廣告中,從而擴大了其影響力。
監控和檢測“深度偽造”的Sensity公司的聯合創始人Francesco Cavalli表示:“這可能是有史以來最大的由‘深度偽造’驅動的騙局。”這些視頻往往栩栩如生,捕捉到了馬斯克標誌性的相對僵硬的節奏和南非口音。
Sensity分析了2000多個“深度偽造”,稱馬斯克是這些視頻中最常見的發言人。Sensity發現,自去年年底以來,馬斯克參與了近1/4的“深度偽造”騙局。而在那些專注於數字加密貨幣的虛假視頻中,馬斯克的參與率更是高達近90%。
此外,著名投資者沃倫·巴菲特和亞馬遜創始人傑夫·貝索斯,也經常出現在這種“深度偽造”廣告中。
對此,馬斯克尚未發表評論。