詐騙、換臉、面部識別，一位刑警經歷的AI犯罪

劉星辰是東北某市的一名警察。他發現，近兩年來，利用AI技術進行犯罪的案件，已經影響普通民眾的生活。即使遠離一線城市，一些三、四線城市甚至縣城的人們因為對這種科技手段疏於防範，成為了這類犯罪的受害者。受害者從家財萬貫的老闆，到兒女外出打拚的空巢老人，以及被虛假色情圖片勒索盯上的女性，都有出現。

劉星辰說，如今AI犯罪受限於技術水平，目前尚未普遍。但考慮到這一技術發展的日新月異，防範AI技術參與的新型犯罪手法，成了他和同事工作中重點關注的領域之一。

以下是他的講述。

AI詐騙瞄準空巢老人

我叫劉星辰，是東北某市的一名警察。2023年年底，我們就接觸過有AI參與詐騙的事例。

當時，我們反詐部門的同事接警處理了一起和AI有關的詐騙的警情。報警的是我們當地一家銀行的櫃員。

當天，這位銀行櫃員接待了一位心急的老年人。老人特別著急地想要彙款。如今銀行對於大額的彙款都會特別謹慎，於是櫃員留了心眼，問老人發生了什麼事。

老人說，他的孩子生病了，急著用錢，但銀行卡被凍結了，希望老人打3萬元到他發來的銀行卡號里。銀行職員一聽，詢問了老人知道的信息，幫老人查詢了他孩子的銀行卡帳號，發現銀行卡並未被凍結，於是提醒老人，可能是被騙了。

老人將信將疑，給櫃員看了他的「孩子」發來的影片。影片很短，只有10秒鍾左右，看起來像是拿著聊天軟件現場錄製的，一位青年人對著鏡頭說，自己生病了，急著用錢，但銀行卡被凍結了，希望老人打3萬元到他發來的銀行卡號里。

老人說，影片里就是他的孩子本人。因為不會操作網絡銀行，他才著急忙慌地跑到附近的銀行去彙款。

銀行櫃員一看，覺得影片明顯不對勁。裡面的人物面部動作的時候缺乏應有的摺疊，肌肉的拉伸也不正常。於是，櫃員給我們專門的反詐部門打電話，我們派了人去。

看過那則影片的同事回來跟我們說，那個影片，實際上很容易看出來是用AI替換了人臉。

老人一方面可能眼部功能不好，一方面也因為愛子心切，情急之下沒能發現影片的破綻。幸好他不會操作網絡銀行，到銀行求助。一番調查下來，我們確定這是一起詐騙案。

這則短短十秒小成本製作的AI換臉影片，差點騙走了老人家的積蓄。

如今，我們總是在新聞里看到AI科技突飛猛進，看起來這是很高大上的事物，老百姓們會覺得這樣的技術離我們很遠。但是在我們的工作中，這兩年也會發現，和AI相關的犯罪，其實已經在不知不覺中，悄悄滲透到了小城市、小縣城的平民百姓的日常生活之中。

在前面那起遭到及時製止的犯罪里，騙子利用了老人不擅長使用電子產品的特性。老人不會使用微信備註，所以，騙子把微信的頭像和昵稱改成和他孩子一樣之後，就成功假冒了老人孩子，老人並沒有注意到這點。

我們去追溯，老人是什麼時候，通過什麼樣的方式添加了犯罪分子的微信。結果發現，對方很可能是一個連鎖的犯罪產業鏈。平時，這些組織的上遊可能會以組織老人開會學習養生知識等名義，發點雞蛋、米面糧油為藉口籠絡老人，然後組織他們去泡溫泉、去玩之類的。上課的時候，有些組織會給老人們發二維碼，讓老人掃碼進群後，有一個所謂的客服，會在群裡挨個添加老人的微信。說實話，他們如果通過群聊而非面對面、掃一掃添加好友，也會給後續偵辦案件增加難度。

這些犯罪分子，應該也是先通過聊天等手段得知老人的各種信息後，做的這麼一個東西。影片也不是那種特別複雜的AI換臉，只是把一小段影片把人的臉換了一個面部，人物稍微動作，也就露出破綻了。

在小城市或者縣城，空巢老人很容易成為這類AI犯罪的受害人。AI參與對老人的詐騙，我們目前知道的很多是已經被攔截下來的。老人被騙錢有兩種情況。一種是被及時發現、攔截，結果還算好的。有的案子當時沒有攔截下來，至少老人知道是騙局了，後續不會再賺錢造成進一步損失。

另外，也有的老人發現自己被騙後不會去報警，我們知道的時候，是因為其它案件中，我們做資金穿透，發現犯罪分子還對其他受害者進行詐騙，或者外省市發現電信詐騙後反饋給我們，我們才發現的。

有時候，我們找上門去，老人都不承認。再上火，再後悔，有的老人也不會往外說、不會尋求幫助。

這些年，針對各類人群的詐騙確實挺厲害的。去年，我們這邊全市發生了5、6期這種模擬人臉的詐騙犯罪。我們分析，犯罪分子能使用AI影像去詐騙，是因為他們的行業現在比較卷，所以他們有的人覺得需要向新的套路。

其實現在詐騙主流還是最簡單的方法——投資返利。肯定會有魚上鉤。一天打1000個電話，1萬個電話，有一個人上當他們就夠了。

這兩年詐騙的案件很多，用AI詐騙在裡面算技術含量比較高的，更多犯罪分子還是會使用以往打電話的詐騙方式。比例上來說，目前遇到AI參與其中的詐騙案不算多，還沒變成主流，但是其苗頭也應該引起注意。

我們也十分警惕，因為也許就下個月，下週或者明天，犯罪分子就發展出了用AI犯罪的高明手法。

發生相關詐騙之後，對應的社區也專門做了宣傳，主要就是提醒老人家們，現在已經有這種事情發生了。這樣，如果老人家們遇到類似的事情，知道它是有犯罪可能的，就增加了防範於未然的可能性。

利用AI技術闖過面部識別

隨著AI技術的發展，AI技術幫助犯罪的能力肯定會不斷增強。你比如說，人臉識別。

雖然目前人臉識別咱們看有它拙劣的一面。但是細想一下，拿著這個東西對著手機，人臉識別，眨眨眼睛，張張嘴，它就能解開手機，打開手機銀行操作資金。一旦能做到這點，對受害人來說就是無法挽回的損失。

相關的案例，其實已經有了。

去年警校同學聚會，有一個江浙地區的同學就跟我們說了一個他遇到的案子。當時，他們那一位老闆晚上在KTV玩耍過後，發現手機丟失了。

一開始，老闆沒當回事。結果沒過一會兒，他就發現有人開始動他銀行卡里的資金。犯罪分子把他的錢轉走後，就把手機丟掉了。

同學說，這個犯罪過程中，犯罪分子就是利用AI技術，躲過了手機銀行人臉識別這一關。銀行卡識別的流程方便快捷，用戶眨眨眼睛，張張嘴，左右轉頭，通過識別後，就過關了。犯罪分子需要提前用AI製作一份可以用於完成人臉識別的影片，然後偷走目標手機，而後通過面部識別解鎖手機，進行銀行轉賬。

這種犯罪實施起來好像很簡單，但是另一方面，我們警方也很好鎖定犯罪嫌疑人。因為你要製作受害者的面部識別資料，首先得要準備好多角度、數量足夠多的受害者面部相片。同時，偷走手機也要有接觸受害者的機會。一般來說，滿足相關條件的人選一排查，鎖定的範圍就很小了。一般來說，這類犯罪查到最後很容易發現是熟人作案。

這起案件發生後，警方跟銀行確定情況。銀行方面提供了線索，說賬戶被動前，有人拿手機做了人臉識別。警方一聽，手機不在身邊，還是能做人臉識別，那肯定是通過面部合成技術。

他們請受害人那位老闆回憶，身邊有沒有人有條件接觸相關的東西。老闆想到了他的一個債主。後來警方結合轉賬後手機丟掉前的定位，案發第二天中午，就抓到了犯罪嫌疑人。

聽我同學說，最終犯罪分子定的盜竊罪，送進了監獄。具體的後續，我們當時沒有細問，因為我們之間更關注的，當時是這種新型犯罪的方式本身。聽到同學說，他們發現犯罪分子可以通過AI來解鎖手機和銀行卡，我們就覺得很厲害。犯罪分子是怎麼做的，它能侵權到什麼樣的程度？知道得更多，對於我們日常工作也更有用。

警方調查後發現，它實際上是一件民間資金糾紛導致的犯罪。那個受害者老闆欠錢，對方要不到，才大費周章謀劃了這麼一個局。後續他們能不能把被欠的錢要回來，我們就不得而知了。

人臉識別，包括虹膜識別，我會認為挺危險的，它們都有被解鎖的事例發生。根據我從警這些年的經歷和見聞，指紋是比較穩的，再一個就是物理鎖。物理鎖中最穩的是四面鎖，那種特別奇怪的，在鎖具店可能都配不出來鑰匙的那種，幾乎沒有出現過盜竊的例子。

人臉識別和虹膜識別，都有過被打開的案例。可以說，如果AI把人使用各種精深科技這件事變得更加簡單，犯罪成本就會更低。目前的情況，它還需要再發展發展，還沒達到太多能夠應用於犯罪上的科技。暫時，我感覺它在犯罪領域上還不是特別強，因為它還不能夠大範圍鋪開，不過值得警惕。

AI犯罪潛在的威脅

去年在國際社會上，利用AI Deepfake技術合成色情影像侵權的案件鬧得人心惶惶。我的新書里，我寫過一篇描述犯罪分子用AI合成色情影像，用來勒索錢財的案例。

在那起案件中，犯罪分子潛藏在受害女性的工作生活中，通過偷拍的方式獲得了用AI製造虛假情色影片所需的相片。而後，犯罪分子把受害女性的面貌用AI技術製作成了情色影片，借此勒索女受害人。最終在事情敗露後被抓獲。

其實，利用影像合成色情圖片拿去敲詐勒索，最早10年前就有這種案例。

這種詐騙即便是發展到現在，合成的條件再怎麼逼真，套路也是一樣的。

在這些案件中，受害者被「架」了上去。有的照片技術不高，一眼假，受害人也知道是假的。但是犯罪分子就是為了噁心受害人，用這種方式達到威懾力。他們要的錢財也不多，對受害人來說不傷筋動骨，讓你花錢消災。

我們的理解，AI本身有很強的學習功能。這樣的特性，可以讓很多騙子輕而易舉地進入一些知識門檻比較高的領域。你比如說合約詐騙。進行詐騙的人，要對特定的行業有一定的瞭解，包括這個行業的報價和行業均價對比什麼的，一些合約的細枝末節，不瞭解的人也很容易露出馬腳。所以，一個騙子可以詐騙的範圍特別窄，特定行業里詐騙的人也比較有限。

以往，可能犯罪分子會找顧問來做詐騙，甚至為了一次詐騙包裝出一家皮包公司，這樣的情況，無論是成功或者被識破，行業里出現合約詐騙的消息，也會立刻傳開。前期付出的成本很高，所以這種詐騙者過去一直沒有怎麼流行起來。

那麼未來，有沒有可能一旦AI流行起來，它可能會取代原來犯罪集團里顧問的角色，又或者犯罪分子可以利用AI技術來進行合約造假？這是我們需要防範的。