近期,，各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領(lǐng)導(dǎo)干部行騙,，值得引起高度警惕
一些領(lǐng)導(dǎo)干部由于工作原因出鏡率相對(duì)較高,，這為騙子提供了豐富的面部識(shí)別素材；在電視,、廣播新聞中也可以找到一些領(lǐng)導(dǎo)干部的大段同期聲,，這令“偽造成本”更低
隨著人工智能技術(shù)的普及應(yīng)用，不法分子實(shí)施詐騙的精準(zhǔn)性、迷惑性,、隱蔽性增強(qiáng),，公安、檢察等政法機(jī)關(guān)辦案將面臨偵查破案難,、電子證據(jù)調(diào)取難,、認(rèn)定處理難等現(xiàn)實(shí)困難
近日，北方某地警方發(fā)布了一起利用“AI換臉”對(duì)當(dāng)事人實(shí)施詐騙的案件,。詐騙分子運(yùn)用人工智能技術(shù),，通過(guò)微信視頻通話與受害人進(jìn)行了十多分鐘交流，受害人轉(zhuǎn)賬數(shù)百萬(wàn)元,。
引人關(guān)注的是,，該案不僅是一起新型網(wǎng)絡(luò)詐騙，更是一起涉政詐騙案件,。
不法分子模擬偽造的,，是受害人認(rèn)識(shí)的一名領(lǐng)導(dǎo)干部。在微信視頻聊天中,，“換臉”后的騙子提出,，其朋友有一筆工程保證金需要借用受害人公司的對(duì)公賬戶走賬。在視頻畫面中,，騙子“換臉”后面部表情自然,，聲音逼真，受害人便放松了警惕,，轉(zhuǎn)賬后打電話確認(rèn),，才知道被騙。
“AI換臉”“AI擬聲”,、虛擬場(chǎng)景構(gòu)建……隨著設(shè)備性能提升和技術(shù)軟件優(yōu)化,，利用“AI換臉”技術(shù)實(shí)施詐騙，已成為一種新型網(wǎng)絡(luò)詐騙,。近期,，各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領(lǐng)導(dǎo)干部行騙,，值得引起高度警惕,。
由于工作原因，一些領(lǐng)導(dǎo)干部的面部,、聲音等生物特征信息更易被獲取,，被人工智能學(xué)習(xí)利用后造成的潛在危害性也更大。接受《瞭望》新聞周刊采訪的業(yè)內(nèi)人士表示,，社會(huì)各界都應(yīng)提高識(shí)騙防騙意識(shí),，有關(guān)部門應(yīng)依法加大對(duì)人工智能“輔助”詐騙案件的執(zhí)法力度,，嚴(yán)肅追究相關(guān)人員法律責(zé)任。
朱慧卿圖/本刊
眼見不一定為實(shí)
近日,，華北某地一名地方干部正為一件事犯愁,。有人冒用他的名義，與他的親朋好友大范圍添加微信好友,。
“和我的親戚朋友加完好友后,，騙子還給他們打了視頻電話。通話時(shí)間只有幾秒鐘,，朋友們感覺(jué)聲音,、畫面都有點(diǎn)兒像?！边@名干部說(shuō)，直到許多朋友打電話詢問(wèn)具體情況,，他才知道此事,。
“估計(jì)下一步就要開始騙錢了。所以,，最近幾天我連續(xù)發(fā)了好幾條朋友圈提醒大家,。”這名干部說(shuō),。
受訪業(yè)內(nèi)人士表示,，只要有足夠的圖像、音頻素材,，不法分子就可以通過(guò)人工智能“換臉”軟件,、合成聲音軟件偽造虛擬形象，實(shí)施詐騙,?！爸恍杼崛∽钌?0個(gè)字、最多32個(gè)字,，就可以合成其聲音,。”國(guó)網(wǎng)信息通信產(chǎn)業(yè)集團(tuán)安全科研專家趙明明告訴記者,。
一些領(lǐng)導(dǎo)干部由于工作原因出鏡率相對(duì)較高,，這為騙子提供了豐富的面部識(shí)別素材；在電視,、廣播新聞中也可以找到一些領(lǐng)導(dǎo)干部的大段同期聲,，這令“偽造成本”更低。
在一些案件中,，不法分子通過(guò)“AI換臉”合成視頻等方式,，偽造與領(lǐng)導(dǎo)干部見面,、合影等內(nèi)容實(shí)施詐騙，增加了涉政類詐騙的欺騙性和危害性,。
AI詐騙四大趨勢(shì)
中國(guó)信息通信研究院相關(guān)負(fù)責(zé)人表示,，當(dāng)前，人工智能“輔助”詐騙存在四大趨勢(shì),。隨著人工智能技術(shù)的普及應(yīng)用,，不法分子實(shí)施詐騙的精準(zhǔn)性、迷惑性,、隱蔽性增強(qiáng),，公安、檢察等政法機(jī)關(guān)辦案將面臨偵查破案難,、電子證據(jù)調(diào)取難,、認(rèn)定處理難等現(xiàn)實(shí)困難。
——技術(shù)成本由高向低轉(zhuǎn)變,。騰訊安全玄武實(shí)驗(yàn)室負(fù)責(zé)人于旸告訴記者,，隨著技術(shù)發(fā)展，人工智能“深度偽造”“深度合成”已成為一種可以低成本實(shí)現(xiàn)的技術(shù),。
——技術(shù)應(yīng)用由單一向多元轉(zhuǎn)變,。騰訊互聯(lián)網(wǎng)安全專家楊建表示，實(shí)施人工智能“輔助”詐騙一般要滿足多個(gè)要素,，包括非法獲取信息,、構(gòu)建熟人賬號(hào)、“換臉換聲”,、破解手機(jī)攝像頭權(quán)限等,，涉及多項(xiàng)技術(shù)手段。
——偽造身份從模糊向具體轉(zhuǎn)變,。傳統(tǒng)電信詐騙往往只能以“某派出所工作人員”“某網(wǎng)站客服”等模糊虛指人設(shè)實(shí)施,。但在人工智能“輔助”詐騙中，騙子可以以具體的人物形象出現(xiàn),。
——作案模式從“廣撒網(wǎng)”向精準(zhǔn)施騙轉(zhuǎn)變,。社交媒體平臺(tái)往往設(shè)有視頻驗(yàn)證環(huán)節(jié)，這在客觀上增加了冒充熟人,、領(lǐng)導(dǎo)干部等詐騙的“可信度”,。受訪專家分析，隨著技術(shù)發(fā)展,，精準(zhǔn)盜號(hào),、分析關(guān)系網(wǎng)等有指向性的網(wǎng)絡(luò)詐騙案件占比可能有所上升。
多層面約束規(guī)范
奇安信安全專家裴智勇表示,，目前,，專業(yè)級(jí)別的人工智能“深度偽造”仍需通過(guò)較強(qiáng)的硬件在實(shí)驗(yàn)室環(huán)境實(shí)現(xiàn),。這意味著，近期“AI換臉”詐騙形成系統(tǒng)性風(fēng)險(xiǎn)的可能性不大,，但仍需未雨綢繆,、預(yù)防打擊。
在源頭端,，需要進(jìn)一步加強(qiáng)公民個(gè)人信息保護(hù),。楊建等專家建議，加強(qiáng)公民信息尤其是生物特征等隱私信息的技術(shù),、司法保護(hù)力度,。針對(duì)冒充領(lǐng)導(dǎo)干部等涉政詐騙風(fēng)險(xiǎn)，可通過(guò)規(guī)范領(lǐng)導(dǎo)干部個(gè)人社交賬號(hào)管理,，普及提升賬號(hào)安全意識(shí)等方式進(jìn)行規(guī)避,。
在技術(shù)層面，數(shù)字水印鑒偽等技術(shù)有待進(jìn)一步普及利用,。趙明明表示,，數(shù)字水印能將特定的信息嵌入音頻、圖片或是視頻等數(shù)字信號(hào)中,，進(jìn)行版權(quán)保護(hù),，以防止未經(jīng)授權(quán)的復(fù)制和拷貝,。他建議,，加強(qiáng)打入數(shù)字水印、開發(fā)真?zhèn)舞b別等技術(shù)治理手段,，使其為數(shù)字內(nèi)容生產(chǎn)商以及用戶端等提供廣泛服務(wù),，以科技手段制約不法分子利用人工智能技術(shù)實(shí)施犯罪。
瑞萊智慧高級(jí)產(chǎn)品經(jīng)理張旭東建議,，對(duì)涉及政務(wù),、安防、金融,、消費(fèi)等重要應(yīng)用的人臉識(shí)別技術(shù)漏洞進(jìn)行完善和升級(jí),，防范不法分子通過(guò)后臺(tái)劫持手機(jī)攝像頭權(quán)限。
“尤其是涉眾,、涉密,、涉及公共利益的相關(guān)平臺(tái)和技術(shù)服務(wù)提供商，需優(yōu)先完成技術(shù)加固,，對(duì)手機(jī)模擬器做好防范,。同時(shí)，鼓勵(lì)和引導(dǎo)更多手機(jī)廠商在系統(tǒng)升級(jí)時(shí)支持3D人臉識(shí)別技術(shù),?！睆埿駯|說(shuō),。
從法律制度方面看，反電信網(wǎng)絡(luò)詐騙法,、刑法等法律為打擊治理各類網(wǎng)絡(luò)詐騙活動(dòng)提供了法律支撐,。趙明明建議，進(jìn)一步完善人工智能等領(lǐng)域相關(guān)法律,，通過(guò)案例等指引,，建立人工智能侵權(quán)糾紛法律框架、訴訟程序和賠償標(biāo)準(zhǔn)等,。
此外,，還需通過(guò)完善相關(guān)制度進(jìn)一步落實(shí)平臺(tái)責(zé)任。新華三集團(tuán)安全專家曹亮表示,，對(duì)核心領(lǐng)域使用人臉識(shí)別技術(shù)的產(chǎn)品,，監(jiān)管部門應(yīng)建立分級(jí)別、多層次的國(guó)家安全標(biāo)準(zhǔn)及行業(yè)安全標(biāo)準(zhǔn),；壓實(shí)平臺(tái),、企業(yè)主體責(zé)任，督促相關(guān)應(yīng)用開發(fā)企業(yè)履行源頭審查責(zé)任,；建立健全用戶注冊(cè),、算法機(jī)制機(jī)理審核、數(shù)據(jù)安全個(gè)人信息保護(hù),、反電信網(wǎng)絡(luò)詐騙,、應(yīng)急處置等管理制度。（記者 吳帥帥 劉懿德 蘭天鳴 ?《瞭望》2023年第27期）
