接到“弟弟”的借錢電話后轉(zhuǎn)賬數(shù)萬元，被屏幕對面的“好友”騙走數(shù)百萬元，“多人視頻會議”中竟然只有自己是真人……近期，全國各地接連曝光多起電信詐騙案件，其共同特點是詐騙分子利用AI合成技術(shù)“換臉”“換聲”，這種深度偽造導(dǎo)致受害者“耳聽為虛”“眼見也非實”。

當(dāng)前，詐騙分子得以構(gòu)建復(fù)雜的虛擬場景，通過合成視頻、音頻增加詐騙的可信度，呈現(xiàn)出AI技術(shù)普及、應(yīng)用多元、身份偽造具體化以及作案模式精準(zhǔn)化等特點。

今年某地警方披露的一起案件令人瞠目結(jié)舌。一家跨國公司地方分部的職員受邀參加總部首席財務(wù)官發(fā)起的“多人視頻會議”，并按要求先后轉(zhuǎn)賬多次，將2億港元分15次轉(zhuǎn)到5個賬戶內(nèi)。實際上，那場會議中，除了他自己以外，其余與會人員全部是詐騙團隊通過“AI換臉”和“AI換聲”偽造的。

近年來，通過AI實現(xiàn)的聲音和畫面深度偽造技術(shù)門檻不斷降低，過去諸如影視大片中才能出現(xiàn)的場景，如今只需要在互聯(lián)網(wǎng)上花費數(shù)元購買一個軟件就能一鍵生成。但如果用“放大鏡”仔細觀察一些AI詐騙案件，則會發(fā)現(xiàn)“變聲換臉”的AI技術(shù)應(yīng)用，往往只是電信詐騙的最后一環(huán)。

隱私信息泄露往往是前置條件。為了獲取某個人的聲音，不法分子甚至通過撥打騷擾電話進行采集，而后僅通過通話錄音，就能偽造出對方的聲音。個人在社交平臺上展示的影像資料，也讓不法分子可以輕松獲取個人肖像信息。

盡管電信詐騙工具一直在變，但防范仍是不變的第一要務(wù)，防范優(yōu)于打擊。詐騙得手，往往是利用了人性的弱點。詐騙者會利用受害者的恐懼心理、應(yīng)急狀態(tài)，冒充領(lǐng)導(dǎo)、公檢法人員、親友等，讓被騙者亂了分寸。對普通人來說，應(yīng)當(dāng)樹立“耳聽和眼見不一定為實”的意識，提升破解“障眼法”的能力，一旦遇到“掏腰包”的關(guān)鍵環(huán)節(jié)就要高度警惕。

在增強個人防范能力的同時，技術(shù)防范也同樣重要。針對科技手法花樣翻新的AI電詐，需要用科技應(yīng)對科技，用“魔法打敗魔法”。

一方面，互聯(lián)網(wǎng)平臺等需要保障公民個人信息尤其是生物特征等敏感信息的安全。另一方面，可以推廣數(shù)字水印等鑒偽技術(shù)，使其幫助檢測和揭露被AI篡改的內(nèi)容。對于重要應(yīng)用場景中的人臉識別技術(shù)，應(yīng)修補漏洞，防范手機攝像頭權(quán)限被惡意利用，以技術(shù)反制不法行為，將群眾與電詐風(fēng)險進行“無感”隔離。（董雪）