“AI馬斯克”氾濫：輕鬆騙走82歲老人69萬美元退休金

據報導，AI生成的埃隆·馬斯克的形象，已經出現在數千條虛假廣告中，並導致了數十億美元的欺詐損失。德勤預計，AI驅動的“深度偽造”（deepfake）預計每年將造成數十億美元的欺詐損失。

去年年底，82歲的退休老人Steve Beauchamp觀看了一段視頻。視頻中馬斯克支持一個承諾快速回報的激進投資機會，口型與聲音都高度吻合，看起來極為真實。於是，Beauchamp聯繫了這家公司，開設了一個248美元的賬戶。

經過數週的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69多萬美元（約合495萬元）。但令這位老人沒有想到的是，這些錢最終卻消失了，輸送給了那些處於AI驅動的新犯罪前沿的數字騙子。

原因是：騙子對馬斯克的一篇真實採訪進行編輯，利用AI工具，使用複製品代替了他的聲音。如今，AI技術已經足夠先進，可以改變微小的嘴部動作，以匹配他們為數字欺詐而編寫的新劇本。對於一個普通的觀眾來說，這種操縱可能是難以察覺的。

Beauchamp對此表示：“畫面上的人物，的確是他（馬斯克）。現在，我真的不知道是不是AI讓他說出了那番話。但就畫面而言，那就是他。”

近幾個月來，數千個AI驅動的視頻（即“深度偽造”）充斥著互聯網，這些視頻以“虛假的馬斯克言論”欺騙了數十名潛在投資者。據德勤估計，這種由AI驅動的“深度偽造”預計每年將造成數十億美元的欺詐損失。

這些視頻的製作成本只有幾美元，可以在幾分鍾內完成。它們在社交媒體上得到推廣，包括在Facebook的付費廣告中，從而擴大了其影響力。

監控和檢測“深度偽造”的Sensity公司的聯合創始人Francesco Cavalli表示：“這可能是有史以來最大的由‘深度偽造’驅動的騙局。”這些視頻往往栩栩如生，捕捉到了馬斯克標誌性的相對僵硬的節奏和南非口音。

Sensity分析了2000多個“深度偽造”，稱馬斯克是這些視頻中最常見的發言人。Sensity發現，自去年年底以來，馬斯克參與了近1/4的“深度偽造”騙局。而在那些專注於數字加密貨幣的虛假視頻中，馬斯克的參與率更是高達近90%。

此外，著名投資者沃倫·巴菲特和亞馬遜創始人傑夫·貝索斯，也經常出現在這種“深度偽造”廣告中。

對此，馬斯克尚未發表評論。