拼一次富三代，拼命才能不失敗！電影《孤注一擲》中，安娜被高薪吸引來(lái)到了緬北從事電信網(wǎng)絡(luò)詐騙相關(guān)工作，以為抓住了改變命運(yùn)的機(jī)會(huì)，實(shí)則苦不堪言：失去自由，被毆打、被拘禁，甚至被當(dāng)作貨物轉(zhuǎn)賣。

電信網(wǎng)絡(luò)詐騙對(duì)于公眾而言并不陌生，殺豬盤、冒充公檢法、賭博誘導(dǎo)等。而在AI技術(shù)大熱的今年，電信網(wǎng)絡(luò)詐騙開始利用AI技術(shù)，通過換聲、換臉的形式，冒充普通人身邊親近之人進(jìn)行詐騙。

對(duì)于公眾而言，就像遇到了《西游記》中真假美猴王的選擇難題，傳統(tǒng)的眼見為實(shí)、日常認(rèn)知都已失效。究竟誰(shuí)真誰(shuí)假？對(duì)于AI+電詐，又該如何防范？

出其不意的“AI+電詐”

當(dāng)前，人工智能（AI）發(fā)展如火如荼，借助AI技術(shù)的電信網(wǎng)絡(luò)詐騙也出現(xiàn)了，常見的是通過換臉、換聲完成電信網(wǎng)絡(luò)詐騙。

今年5月，包頭警方通報(bào)一起通過AI換臉而被騙走430萬(wàn)元的案件。在這個(gè)案件中，郭先生的好友通過微信視頻聯(lián)系他，稱在外地投標(biāo)，需要430萬(wàn)元保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走賬。基于視頻聊天信任的前提下，郭先生沒有核實(shí)錢是否到賬便將錢款打到指定賬戶。此后經(jīng)主動(dòng)和好友微信確認(rèn)，才得知上當(dāng)受騙，原來(lái)視頻的對(duì)象并非其好友。原來(lái)和郭先生視頻的“朋友”或許只是網(wǎng)絡(luò)空間的一串代碼。

利用AI換聲進(jìn)行詐騙則更為常見。近日，有媒體報(bào)道稱，六安市金安區(qū)一位老人遭遇了經(jīng)由AI技術(shù)模仿老人外孫聲音的詐騙電話，冒充其外孫稱“犯事”了，急需匯款6萬(wàn)元才能解決。幸運(yùn)的是，老人報(bào)警，警察確認(rèn)此為詐騙。

通過AI換聲、AI換臉進(jìn)行的電信網(wǎng)絡(luò)詐騙離不開人工智能技術(shù)的發(fā)展，尤其是深度合成技術(shù)的進(jìn)步。深度合成技術(shù)的典型代表如生成式對(duì)抗網(wǎng)絡(luò)（GAN）、自動(dòng)編碼器（Autoencoders）等，可通過深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作圖像、音頻、視頻、虛擬場(chǎng)景等信息。相關(guān)技術(shù)已有實(shí)踐，如前些年間的大熱軟件Zao。

欺騙和不信任，是這項(xiàng)AI技術(shù)發(fā)展帶來(lái)的負(fù)面影響。借助換聲、換臉只是電詐分子利用AI詐騙的一個(gè)縮影。

“作為工具的AI，還可在多個(gè)方面幫助電詐分子實(shí)施電信網(wǎng)絡(luò)詐騙。比如說通過AI精準(zhǔn)識(shí)別易受騙的潛在受害群體；又比如針對(duì)電信網(wǎng)絡(luò)詐騙的追溯、追查等，通過AI實(shí)施設(shè)置各種障礙，逃避法律追究。”北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括說道。

不遠(yuǎn)的未來(lái)，AI或許會(huì)和電詐產(chǎn)業(yè)鏈更進(jìn)一步結(jié)合：用虛擬的數(shù)字人代替實(shí)施詐騙的人。廈門市美亞柏科首席科學(xué)家江漢祥告訴記者，未來(lái)隨著數(shù)字人技術(shù)的不斷成熟，數(shù)字人可以像真人一樣，和用戶正常聊天。考慮到當(dāng)前電信網(wǎng)絡(luò)詐騙打擊力度增強(qiáng)，電詐集團(tuán)或許也需要節(jié)約人力成本，或許就會(huì)選擇利用虛擬人代替真人。

如2018年浙江省紹興市公安機(jī)關(guān)破獲一起利用AI技術(shù)實(shí)施的“特大侵犯公民個(gè)人信息案”，涉及一個(gè)名為“快啊”的打碼平臺(tái)。一些平臺(tái)為了防范黑客攻擊設(shè)立了安全門檻，采用了驗(yàn)證碼這一方式。而“快啊”通過深度學(xué)習(xí)自主識(shí)別彈出的驗(yàn)證碼，能夠在毫秒級(jí)別迅速響應(yīng)。此前這項(xiàng)工作需要人工承擔(dān)。 

電詐防范需關(guān)切個(gè)人信息保護(hù)

當(dāng)前電信網(wǎng)絡(luò)詐騙案件的一大特點(diǎn)：精準(zhǔn)，而這離不開伴隨電信網(wǎng)絡(luò)詐騙而生的黑灰產(chǎn)幫助。

黑灰產(chǎn)的上游多是個(gè)人信息泄露。上游根據(jù)電詐分子的需要打造相關(guān)信息，提供性別、職業(yè)等精細(xì)化內(nèi)容，隨后出售給電詐公司。另外，電信網(wǎng)絡(luò)詐騙需要不斷尋找目標(biāo)受眾，而上游則可將不少用戶納入微信朋友圈，然后將出售賬號(hào)給電詐分子，幫助實(shí)現(xiàn)前期引流。

如此一來(lái)，電詐分子根據(jù)獲取到的個(gè)人信息，定制專屬于受害者的電信網(wǎng)絡(luò)詐騙劇本，降低受害者戒心，從而最終實(shí)現(xiàn)詐騙。

即便是泰國(guó)總理，也不可避免受到電信網(wǎng)絡(luò)詐騙的精準(zhǔn)騷擾。據(jù)《曼谷郵報(bào)》（BangkokPost）11月27日?qǐng)?bào)道，泰國(guó)總理斯雷塔·塔維辛 (Srettha Thavisin)本人也遭遇了電信網(wǎng)絡(luò)詐騙。“有些人發(fā)信息給我，另一些人給我打電話，甚至用我的全名向我打招呼，我只是忽略了他們。”據(jù)報(bào)道，泰國(guó)總理已經(jīng)指示泰國(guó)數(shù)字經(jīng)濟(jì)和社會(huì)部加大力度打擊電信網(wǎng)絡(luò)詐騙。

通過AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙，個(gè)人信息泄露是根源之一。以借助換聲、換臉的電信詐騙為例，首先需要一定數(shù)量的數(shù)據(jù)，通過算法進(jìn)行學(xué)習(xí)才能最終生成詐騙樣本。

個(gè)人信息保護(hù)成為電信網(wǎng)絡(luò)詐騙治理的關(guān)鍵環(huán)節(jié)。2022年12月1日正式實(shí)施的《反電信網(wǎng)絡(luò)詐騙法》同樣關(guān)切個(gè)人信息。其第二十五條第一款規(guī)定，任何單位和個(gè)人不得為他人實(shí)施電信網(wǎng)絡(luò)詐騙活動(dòng)提供支持或者幫助：（一）出售、提供個(gè)人信息；第二十九條規(guī)定，個(gè)人信息處理者應(yīng)當(dāng)依照《個(gè)人信息保護(hù)法》等法律規(guī)定，規(guī)范個(gè)人信息處理，加強(qiáng)個(gè)人信息保護(hù)，建立個(gè)人信息被用于電信網(wǎng)絡(luò)詐騙的防范機(jī)制。

可以看到的是，當(dāng)前社會(huì)數(shù)字化程度進(jìn)一步加深，社交網(wǎng)絡(luò)分享日常生活也已成為常態(tài)。一方面是分享，一方面則是相關(guān)個(gè)人數(shù)據(jù)可能在不知情的情況下用于非法用途。公眾又該如何保障自己的個(gè)人信息？

吳沈括建議，一方面，個(gè)人需要提高自我保護(hù)的意識(shí)，減少信息披露范圍。另外，法律需要構(gòu)建各類數(shù)據(jù)良性流轉(zhuǎn)、利用的業(yè)務(wù)規(guī)則，同時(shí)對(duì)于異常的數(shù)據(jù)收集行為進(jìn)行及時(shí)識(shí)別和必要干預(yù)。此外，對(duì)于違法乃至犯罪行為要進(jìn)行及時(shí)、高效的法律責(zé)任追究。

“當(dāng)前生活很多時(shí)候都需要用到個(gè)人信息，每個(gè)環(huán)節(jié)都有個(gè)人信息泄露的可能。是否可以考慮從國(guó)家層面構(gòu)建一個(gè)防護(hù)網(wǎng)，每個(gè)上網(wǎng)的人通過公安機(jī)關(guān)認(rèn)證，得到特定網(wǎng)號(hào)可用于網(wǎng)絡(luò)活動(dòng)，日常生活中需要身份信息，一般情況顯示脫敏的信息，只有在非常特定的情況下才能調(diào)用明文信息。這樣通過整體方案有助于解決個(gè)人信息泄露問題。”江漢祥說道。

以反制技術(shù)對(duì)抗電詐發(fā)展

AI技術(shù)快速發(fā)展，人們期待AI能讓生活變得更好，能夠?yàn)槭澜鐜?lái)更大想象力。作為工具的AI，如何使用則取決于人。

江漢祥表示，技術(shù)可以分為兩類，一類是純粹的通用技術(shù)，可用于多個(gè)行業(yè)和場(chǎng)景，對(duì)于通用技術(shù)引發(fā)的電信網(wǎng)絡(luò)詐騙較難預(yù)防；另一種則是定制化的技術(shù)，適用特定場(chǎng)景，甚至為違法犯罪定制，如軟件類的木馬、病毒等，裝備類的卡池（Simbank，配合GOIP網(wǎng)關(guān)使用）等，這部分技術(shù)則借助管理予以規(guī)制。

針對(duì)新技術(shù)的發(fā)展，我國(guó)已先后出臺(tái)多項(xiàng)法律法規(guī)。如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，為深度合成服務(wù)劃定了“底線”和“紅線”，強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng)，要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任。又如《生成式人工智能服務(wù)管理暫行辦法》劃定底線，推動(dòng)生成式人工智能向上向善，提出不得生成違法內(nèi)容；同時(shí)明確提供者的義務(wù)與責(zé)任，降低風(fēng)險(xiǎn)。

“對(duì)于技術(shù)提供者，一方面應(yīng)承擔(dān)信息網(wǎng)絡(luò)安全管理義務(wù)，當(dāng)技術(shù)被用于違法犯罪活動(dòng)時(shí)，應(yīng)當(dāng)及時(shí)識(shí)別并做出有效干預(yù)。如果故意或者放任不管，應(yīng)當(dāng)承擔(dān)相應(yīng)的共同違法乃至共同犯罪責(zé)任。”吳沈括說道。

“根據(jù)刑法第二百八十七條規(guī)定，對(duì)于為‘AI換臉’實(shí)施詐騙行為提供技術(shù)支持、幫助的，可能會(huì)以幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪追究刑事責(zé)任。此外，還可能涉及侵犯公民個(gè)人信息罪，非法侵入、控制計(jì)算機(jī)信息系統(tǒng)罪等罪名。”北京市盈科律師事務(wù)所合伙人律師袁椿暉說道。

電信網(wǎng)絡(luò)詐騙的發(fā)展離不開技術(shù)，技術(shù)反制或?qū)⒊蔀殡娦啪W(wǎng)絡(luò)詐騙防范的有力武器。也就是“用技術(shù)來(lái)對(duì)抗技術(shù)”。

“無(wú)論是AI換臉還是AI換聲，都需要通過技術(shù)研發(fā)對(duì)信息內(nèi)容準(zhǔn)確甄別真?zhèn)?/strong>。這是通過技術(shù)對(duì)抗技術(shù)的治理方式，也是目前備受關(guān)注的一種治理手段。”在他看來(lái)，結(jié)合信息內(nèi)容傳播規(guī)律，可引入信息標(biāo)簽、信息水印等技術(shù)。同時(shí)需要構(gòu)建關(guān)于信息數(shù)據(jù)標(biāo)識(shí)、信息數(shù)據(jù)水印的完整生態(tài)，這樣內(nèi)容的真實(shí)程度和比例會(huì)有一個(gè)顯著提高，也能夠進(jìn)一步壓縮通過AI制造虛假信息、實(shí)施電信網(wǎng)絡(luò)詐騙的幾率。

來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道 作者： 鄭雪