擬音、換臉，AI詐騙新套路不斷！“眼見不一定為實(shí)”如何防范？

日前，小米集團(tuán)董事長雷軍的AI語音包刷屏了。一些網(wǎng)友用AI克隆雷軍的聲音，或是吐槽不文明行為，或是表達(dá)對他人的不滿，言辭尖銳，十分逼真，再次引發(fā)公眾對于技術(shù)加速迭代的深層次思考。

近年來，人工智能技術(shù)加快發(fā)展，在帶來創(chuàng)新和便利之際，也一并帶來了侵權(quán)、詐騙等違法行為的可能。如何防范AI技術(shù)被濫用？AI詐騙上當(dāng)后怎么辦？近日，記者對此進(jìn)行了相關(guān)采訪。

用10秒就能克隆任何人的聲音

雷軍的聲音是如何被克隆的？近日，記者在某微信公眾號上發(fā)現(xiàn)一文章標(biāo)題，“僅用10秒，用AI克隆任何人的聲音”。順著文章指引，記者注冊了某款A(yù)I音頻軟件，發(fā)現(xiàn)軟件上有上百種真人聲音模板，其中不少都是公眾人物，部分模板使用次數(shù)高達(dá)近29萬人次，直接轉(zhuǎn)發(fā)2500多次。

這類“擬音”軟件使用門檻很低。記者隨機(jī)選擇了其中一款公眾人物的聲音模板，輸入文本，幾秒鐘內(nèi)，與文本相對應(yīng)的聲音內(nèi)容就被成功克隆出來了，語氣、音色都十分逼真，還能直接下載、轉(zhuǎn)發(fā)。網(wǎng)絡(luò)上類似的AI聲音軟件并不少見，不僅如此，還有各類AI換臉軟件和教程層出不窮，覆蓋圖片、視頻等，在手機(jī)上就可以操作。

工信部信息顯示，伴隨著人工智能快速發(fā)展，合成技術(shù)門檻持續(xù)降低，逐漸向低算力、小樣本學(xué)習(xí)方向演進(jìn)，利用手機(jī)終端即可完成，對算力和數(shù)據(jù)的要求下降明顯。同時，隨著AI大模型的技術(shù)加持，正逐步由面部合成向全身、3D合成發(fā)展，效果更加逼真。

去年4月，通過微信上的智能AI換臉技術(shù)，電信詐騙分子佯裝成福州市某科技公司法人代表郭先生的好友，在10分鐘內(nèi)騙取郭先生430萬元。最終通過警銀聯(lián)動，成功緊急止付涉嫌電信詐騙資金330多萬元。郭先生表示，當(dāng)時騙子給他打視頻，在視頻中他也確認(rèn)了面孔和聲音，才放松了戒備。

業(yè)內(nèi)人士表示，如今AI技術(shù)正加速向網(wǎng)絡(luò)詐騙、虛假信息等領(lǐng)域滲透。如在一些網(wǎng)絡(luò)平臺上假冒明星、公眾人物生成視頻圖像，吸引網(wǎng)民。此外，AI技術(shù)也可能被用來規(guī)?；貙?shí)施違法犯罪，如批量、自動維護(hù)網(wǎng)絡(luò)賬號，發(fā)送虛假信息，模擬人工在線聊天等。

“用科技打敗科技”

今年4月，北京互聯(lián)網(wǎng)法院宣判全國首例“AI聲音侵權(quán)案”，原告獲賠25萬元。法院表示希望通過此類案件裁判，為新業(yè)態(tài)新技術(shù)劃定應(yīng)用邊界，并亮明兼顧保護(hù)人格權(quán)益與引導(dǎo)技術(shù)向善的司法態(tài)度。

目前，我國法律法規(guī)也對AI深度偽造作出了一定規(guī)制。2022年12月施行的反電信網(wǎng)絡(luò)詐騙法加強(qiáng)預(yù)防性法律制度構(gòu)建，加大對違法犯罪人員的處罰，對尚不構(gòu)成犯罪的人員也要從嚴(yán)處罰，沒收違法所得，處違法所得1~10倍罰款或者10萬元以下罰款，由公安機(jī)關(guān)拘留。

2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確，“提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨(dú)同意”“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識”等。

眼下，福州也正試圖“用科技打敗科技”。10月6日，劉某通過一網(wǎng)絡(luò)社交平臺接收兼職任務(wù)，利用QQ視頻通話和手機(jī)號碼對提供兼職者進(jìn)行詐騙，福州移動AI外呼智能化系統(tǒng)智能篩選出劉某的作案號碼，精準(zhǔn)識別GOIP設(shè)備，協(xié)助公安部門迅速追蹤并精準(zhǔn)抓獲嫌疑人。

福州移動相關(guān)負(fù)責(zé)人介紹，AI外呼通過試點(diǎn)提升反詐回呼模型稽核能力，制定回訪研判機(jī)制和規(guī)則，研判存在詐騙誘導(dǎo)的電話號碼、電子郵件及短信，識別GOIP設(shè)備，向警方推送線索，進(jìn)而助力詐騙窩點(diǎn)精準(zhǔn)打擊。截至目前，系統(tǒng)已協(xié)助公安機(jī)關(guān)完成181個重要線索核查，打擊人數(shù)170余人次，繳獲設(shè)備70余臺。

此外，依托e體+智慧賦能警務(wù)實(shí)戰(zhàn)平臺，福州公安部門打通刑偵、經(jīng)偵、網(wǎng)安、合成偵查中心等警種資源共享，建成應(yīng)用網(wǎng)絡(luò)信息攔截系統(tǒng)和警銀聯(lián)動預(yù)警平臺，對于新型網(wǎng)絡(luò)詐騙實(shí)行快速響應(yīng)、快速研判，以及推進(jìn)快偵、快破、快抓逃、快追贓、快挽損。

牢記“三不一多”謹(jǐn)防受騙

“近年來，電信網(wǎng)絡(luò)詐騙類型層出不窮，詐騙手段不斷更新，讓人防不勝防，成為一個極其復(fù)雜的社會治理問題，需要社會各界通力合作、齊抓共管、綜合治理。”市公安局臺江分局相關(guān)負(fù)責(zé)人說。

成立福州大數(shù)據(jù)反詐聯(lián)合專班，研發(fā)福州市互聯(lián)網(wǎng)詐騙防范攔截系統(tǒng)，加大電信網(wǎng)絡(luò)詐騙犯罪案件辦案懲治力度，建立不良信用通信用戶名單庫和違法失信懲戒聯(lián)動機(jī)制……近年來，新型網(wǎng)絡(luò)詐騙已引起公檢法及電信、金融監(jiān)管等多部門的關(guān)注，打擊網(wǎng)絡(luò)詐騙多元共治的治理模式正在逐步形成。

要扼制AI仿造技術(shù)的濫用影響，細(xì)致完善的法律規(guī)范配套措施必不可少。北京市盈科（福州）律師事務(wù)所律師羅錦斌認(rèn)為，AI仿造技術(shù)不僅可能涉嫌侵害他人肖像權(quán)和名譽(yù)權(quán)，甚至可能涉嫌犯罪。民事侵權(quán)案件中受害方難以舉證證明其損害結(jié)果、侵權(quán)行為與損害結(jié)果的因果關(guān)系等，這種情況下，網(wǎng)絡(luò)服務(wù)提供者的責(zé)任又該如何監(jiān)管和加強(qiáng)是需要考量的。因此，需要細(xì)化法律條款，完善配套措施，才能讓法律條款落到實(shí)地。

針對性的反詐宣傳也必不可少，尤其是針對一些老年人、學(xué)生等群體。羅錦斌認(rèn)為，未來AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無比接近真實(shí)的“真實(shí)”，“要通過持續(xù)的宣傳教育改變大眾觀念，讓人知道眼見不一定為實(shí)，有圖不一定有真相，提升對網(wǎng)絡(luò)信息的辨別力”。

公安部門也再次提醒廣大公眾，各類電信網(wǎng)絡(luò)詐騙手法雖然形式多變，但萬變不離其宗，公眾要牢記“三不一多”原則：未知鏈接不點(diǎn)擊，陌生來電不輕信，個人信息不透漏，轉(zhuǎn)賬匯款多核實(shí)。一旦遇到詐騙分子，要及時報警，防止財產(chǎn)損失。（記者 沐方婷）