劉星辰是東北某市的一名警察。他發(fā)現(xiàn)，近兩年來，利用AI技術(shù)進(jìn)行犯罪的案件，已經(jīng)影響普通民眾的生活。即使遠(yuǎn)離一線城市，一些三、四線城市甚至縣城的人們因為對這種科技手段疏于防范，成為了這類犯罪的受害者。受害者從家財萬貫的老板，到兒女外出打拼的空巢老人，以及被虛假色情圖片勒索盯上的女性，都有出現(xiàn)。
劉星辰說，如今AI犯罪受限于技術(shù)水平，目前尚未普遍。但考慮到這一技術(shù)發(fā)展的日新月異，防范AI技術(shù)參與的新型犯罪手法，成了他和同事工作中重點關(guān)注的領(lǐng)域之一。
以下是他的講述。
AI詐騙瞄準(zhǔn)空巢老人
我叫劉星辰，是東北某市的一名警察。2023年年底，我們就接觸過有AI參與詐騙的事例。
當(dāng)時，我們反詐部門的同事接警處理了一起和AI有關(guān)的詐騙的警情。報警的是我們當(dāng)?shù)匾患毅y行的柜員。
當(dāng)天，這位銀行柜員接待了一位心急的老年人。老人特別著急地想要匯款。如今銀行對于大額的匯款都會特別謹(jǐn)慎，于是柜員留了心眼，問老人發(fā)生了什么事。
老人說，他的孩子生病了，急著用錢，但銀行卡被凍結(jié)了，希望老人打3萬元到他發(fā)來的銀行卡號里。銀行職員一聽，詢問了老人知道的信息，幫老人查詢了他孩子的銀行卡賬號，發(fā)現(xiàn)銀行卡并未被凍結(jié)，于是提醒老人，可能是被騙了。
老人將信將疑，給柜員看了他的“孩子”發(fā)來的視頻。視頻很短，只有10秒鐘左右，看起來像是拿著聊天軟件現(xiàn)場錄制的，一位青年人對著鏡頭說，自己生病了，急著用錢，但銀行卡被凍結(jié)了，希望老人打3萬元到他發(fā)來的銀行卡號里。
老人說，視頻里就是他的孩子本人。因為不會操作網(wǎng)絡(luò)銀行，他才著急忙慌地跑到附近的銀行去匯款。
銀行柜員一看，覺得視頻明顯不對勁。里面的人物面部動作的時候缺乏應(yīng)有的折疊，肌肉的拉伸也不正常。于是，柜員給我們專門的反詐部門打電話，我們派了人去。
看過那則視頻的同事回來跟我們說，那個視頻，實際上很容易看出來是用AI替換了人臉。
老人一方面可能眼部功能不好，一方面也因為愛子心切，情急之下沒能發(fā)現(xiàn)視頻的破綻。幸好他不會操作網(wǎng)絡(luò)銀行，到銀行求助。一番調(diào)查下來，我們確定這是一起詐騙案。
這則短短十秒小成本制作的AI換臉視頻，差點騙走了老人家的積蓄。
如今，我們總是在新聞里看到AI科技突飛猛進(jìn)，看起來這是很高大上的事物，老百姓們會覺得這樣的技術(shù)離我們很遠(yuǎn)。但是在我們的工作中，這兩年也會發(fā)現(xiàn)，和AI相關(guān)的犯罪，其實已經(jīng)在不知不覺中，悄悄滲透到了小城市、小縣城的平民百姓的日常生活之中。
在前面那起遭到及時制止的犯罪里，騙子利用了老人不擅長使用電子產(chǎn)品的特性。老人不會使用微信備注，所以，騙子把微信的頭像和昵稱改成和他孩子一樣之后，就成功假冒了老人孩子，老人并沒有注意到這點。
我們?nèi)プ匪?，老人是什么時候，通過什么樣的方式添加了犯罪分子的微信。結(jié)果發(fā)現(xiàn)，對方很可能是一個連鎖的犯罪產(chǎn)業(yè)鏈。平時，這些組織的上游可能會以組織老人開會學(xué)習(xí)養(yǎng)生知識等名義，發(fā)點雞蛋、米面糧油為借口籠絡(luò)老人，然后組織他們?nèi)ヅ轀厝?、去玩之類的。上課的時候，有些組織會給老人們發(fā)二維碼，讓老人掃碼進(jìn)群后，有一個所謂的客服，會在群里挨個添加老人的微信。說實話，他們?nèi)绻ㄟ^群聊而非面對面、掃一掃添加好友，也會給后續(xù)偵辦案件增加難度。
這些犯罪分子，應(yīng)該也是先通過聊天等手段得知老人的各種信息后，做的這么一個東西。視頻也不是那種特別復(fù)雜的AI換臉，只是把一小段視頻把人的臉換了一個面部，人物稍微動作，也就露出破綻了。
在小城市或者縣城，空巢老人很容易成為這類AI犯罪的受害人。AI參與對老人的詐騙，我們目前知道的很多是已經(jīng)被攔截下來的。老人被騙錢有兩種情況。一種是被及時發(fā)現(xiàn)、攔截，結(jié)果還算好的。有的案子當(dāng)時沒有攔截下來，至少老人知道是騙局了，后續(xù)不會再賺錢造成進(jìn)一步損失。
另外，也有的老人發(fā)現(xiàn)自己被騙后不會去報警，我們知道的時候，是因為其它案件中，我們做資金穿透，發(fā)現(xiàn)犯罪分子還對其他受害者進(jìn)行詐騙，或者外省市發(fā)現(xiàn)電信詐騙后反饋給我們，我們才發(fā)現(xiàn)的。
有時候，我們找上門去，老人都不承認(rèn)。再上火，再后悔，有的老人也不會往外說、不會尋求幫助。
這些年，針對各類人群的詐騙確實挺厲害的。去年，我們這邊全市發(fā)生了5、6期這種模擬人臉的詐騙犯罪。我們分析，犯罪分子能使用AI影像去詐騙，是因為他們的行業(yè)現(xiàn)在比較卷，所以他們有的人覺得需要向新的套路。
其實現(xiàn)在詐騙主流還是最簡單的方法——投資返利。肯定會有魚上鉤。一天打1000個電話，1萬個電話，有一個人上當(dāng)他們就夠了。
這兩年詐騙的案件很多，用AI詐騙在里面算技術(shù)含量比較高的，更多犯罪分子還是會使用以往打電話的詐騙方式。比例上來說，目前遇到AI參與其中的詐騙案不算多，還沒變成主流，但是其苗頭也應(yīng)該引起注意。
我們也十分警惕，因為也許就下個月，下周或者明天，犯罪分子就發(fā)展出了用AI犯罪的高明手法。
發(fā)生相關(guān)詐騙之后，對應(yīng)的社區(qū)也專門做了宣傳，主要就是提醒老人家們，現(xiàn)在已經(jīng)有這種事情發(fā)生了。這樣，如果老人家們遇到類似的事情，知道它是有犯罪可能的，就增加了防范于未然的可能性。
利用AI技術(shù)闖過面部識別
隨著AI技術(shù)的發(fā)展，AI技術(shù)幫助犯罪的能力肯定會不斷增強(qiáng)。你比如說，人臉識別。
雖然目前人臉識別咱們看有它拙劣的一面。但是細(xì)想一下，拿著這個東西對著手機(jī)，人臉識別，眨眨眼睛，張張嘴，它就能解開手機(jī)，打開手機(jī)銀行操作資金。一旦能做到這點，對受害人來說就是無法挽回的損失。
相關(guān)的案例，其實已經(jīng)有了。
去年警校同學(xué)聚會，有一個江浙地區(qū)的同學(xué)就跟我們說了一個他遇到的案子。當(dāng)時，他們那一位老板晚上在KTV玩耍過后，發(fā)現(xiàn)手機(jī)丟失了。
一開始，老板沒當(dāng)回事。結(jié)果沒過一會兒，他就發(fā)現(xiàn)有人開始動他銀行卡里的資金。犯罪分子把他的錢轉(zhuǎn)走后，就把手機(jī)丟掉了。
同學(xué)說，這個犯罪過程中，犯罪分子就是利用AI技術(shù)，躲過了手機(jī)銀行人臉識別這一關(guān)。銀行卡識別的流程方便快捷，用戶眨眨眼睛，張張嘴，左右轉(zhuǎn)頭，通過識別后，就過關(guān)了。犯罪分子需要提前用AI制作一份可以用于完成人臉識別的視頻，然后偷走目標(biāo)手機(jī)，而后通過面部識別解鎖手機(jī)，進(jìn)行銀行轉(zhuǎn)賬。
這種犯罪實施起來好像很簡單，但是另一方面，我們警方也很好鎖定犯罪嫌疑人。因為你要制作受害者的面部識別資料，首先得要準(zhǔn)備好多角度、數(shù)量足夠多的受害者面部相片。同時，偷走手機(jī)也要有接觸受害者的機(jī)會。一般來說，滿足相關(guān)條件的人選一排查，鎖定的范圍就很小了。一般來說，這類犯罪查到最后很容易發(fā)現(xiàn)是熟人作案。
這起案件發(fā)生后，警方跟銀行確定情況。銀行方面提供了線索，說賬戶被動前，有人拿手機(jī)做了人臉識別。警方一聽，手機(jī)不在身邊，還是能做人臉識別，那肯定是通過面部合成技術(shù)。
他們請受害人那位老板回憶，身邊有沒有人有條件接觸相關(guān)的東西。老板想到了他的一個債主。后來警方結(jié)合轉(zhuǎn)賬后手機(jī)丟掉前的定位，案發(fā)第二天中午，就抓到了犯罪嫌疑人。
聽我同學(xué)說，最終犯罪分子定的盜竊罪，送進(jìn)了監(jiān)獄。具體的后續(xù)，我們當(dāng)時沒有細(xì)問，因為我們之間更關(guān)注的，當(dāng)時是這種新型犯罪的方式本身。聽到同學(xué)說，他們發(fā)現(xiàn)犯罪分子可以通過AI來解鎖手機(jī)和銀行卡，我們就覺得很厲害。犯罪分子是怎么做的，它能侵權(quán)到什么樣的程度？知道得更多，對于我們?nèi)粘９ぷ饕哺杏谩?/p>
警方調(diào)查后發(fā)現(xiàn)，它實際上是一件民間資金糾紛導(dǎo)致的犯罪。那個受害者老板欠錢，對方要不到，才大費周章謀劃了這么一個局。后續(xù)他們能不能把被欠的錢要回來，我們就不得而知了。
人臉識別，包括虹膜識別，我會認(rèn)為挺危險的，它們都有被解鎖的事例發(fā)生。根據(jù)我從警這些年的經(jīng)歷和見聞，指紋是比較穩(wěn)的，再一個就是物理鎖。物理鎖中最穩(wěn)的是四面鎖，那種特別奇怪的，在鎖具店可能都配不出來鑰匙的那種，幾乎沒有出現(xiàn)過盜竊的例子。
人臉識別和虹膜識別，都有過被打開的案例?？梢哉f，如果AI把人使用各種精深科技這件事變得更加簡單，犯罪成本就會更低。目前的情況，它還需要再發(fā)展發(fā)展，還沒達(dá)到太多能夠應(yīng)用于犯罪上的科技。暫時，我感覺它在犯罪領(lǐng)域上還不是特別強(qiáng)，因為它還不能夠大范圍鋪開，不過值得警惕。
AI犯罪潛在的威脅
去年在國際社會上，利用AI Deepfake技術(shù)合成色情影像侵權(quán)的案件鬧得人心惶惶。我的新書里，我寫過一篇描述犯罪分子用AI合成色情影像，用來勒索錢財?shù)陌咐?/p>
在那起案件中，犯罪分子潛藏在受害女性的工作生活中，通過偷拍的方式獲得了用AI制造虛假情色視頻所需的相片。而后，犯罪分子把受害女性的面貌用AI技術(shù)制作成了情色視頻，借此勒索女受害人。最終在事情敗露后被抓獲。
其實，利用影像合成色情圖片拿去敲詐勒索，最早10年前就有這種案例。
這種詐騙即便是發(fā)展到現(xiàn)在，合成的條件再怎么逼真，套路也是一樣的。
在這些案件中，受害者被“架”了上去。有的照片技術(shù)不高，一眼假，受害人也知道是假的。但是犯罪分子就是為了惡心受害人，用這種方式達(dá)到威懾力。他們要的錢財也不多，對受害人來說不傷筋動骨，讓你花錢消災(zāi)。
我們的理解，AI本身有很強(qiáng)的學(xué)習(xí)功能。這樣的特性，可以讓很多騙子輕而易舉地進(jìn)入一些知識門檻比較高的領(lǐng)域。你比如說合同詐騙。進(jìn)行詐騙的人，要對特定的行業(yè)有一定的了解，包括這個行業(yè)的報價和行業(yè)均價對比什么的，一些合同的細(xì)枝末節(jié)，不了解的人也很容易露出馬腳。所以，一個騙子可以詐騙的范圍特別窄，特定行業(yè)里詐騙的人也比較有限。
以往，可能犯罪分子會找顧問來做詐騙，甚至為了一次詐騙包裝出一家皮包公司，這樣的情況，無論是成功或者被識破，行業(yè)里出現(xiàn)合同詐騙的消息，也會立刻傳開。前期付出的成本很高，所以這種詐騙者過去一直沒有怎么流行起來。
那么未來，有沒有可能一旦AI流行起來，它可能會取代原來犯罪集團(tuán)里顧問的角色，又或者犯罪分子可以利用AI技術(shù)來進(jìn)行合同造假？這是我們需要防范的。