AI已成為過去一年的網(wǎng)絡(luò)熱點(diǎn),，伴隨其廣泛應(yīng)用，AI詐騙現(xiàn)象日益引起關(guān)注,，尤其是運(yùn)用AI換臉技術(shù)實(shí)施的詐騙案件屢見報(bào)端,。近期，香港警方通報(bào)一起案例：某跨國公司香港分公司財(cái)務(wù)人員在一場內(nèi)部視頻會(huì)議中被騙走近2億港元，除受害人本人外,，其余“參會(huì)同事”均為AI換臉技術(shù)偽裝,。類似事件在2023年央視315晚會(huì)上亦有曝光。

Deepfake,，即深度偽造技術(shù),，是AI換臉的核心手段。它基于深度學(xué)習(xí)算法,，通過處理大量視頻和圖像數(shù)據(jù),，創(chuàng)造出高度逼真的面部動(dòng)畫和語音。該技術(shù)首次進(jìn)入公眾視野是在2017年,，一名Reddit用戶將一部成人電影主角的臉替換為《神奇女俠》演員蓋爾·加朵,，引發(fā)廣泛關(guān)注。此后,，Deepfake在中國也頗受歡迎,，網(wǎng)絡(luò)上充斥著AI換臉教程、素材庫及輔助工具,，如2019年B站UP主“換臉哥”將朱茵飾演的黃蓉?fù)Q臉為楊冪,，一度引發(fā)熱議。

隨著Deepfake技術(shù)的開源以及生成式AI如ChatGPT和Sora的普及,，AI換臉門檻顯著降低，制作難以辨識(shí)的換臉視頻愈發(fā)容易,。然而,，技術(shù)濫用導(dǎo)致的AI詐騙事件頻發(fā)，成功率高企,，嚴(yán)重侵犯公眾財(cái)產(chǎn)與隱私權(quán)益,，相關(guān)話題多次沖上熱搜榜。

面對“AI變臉”欺詐,，識(shí)別真?zhèn)纬蔀闊嶙h焦點(diǎn),。有專家提出讓對方按壓鼻子或臉部以觀察變形情況，以此判斷是否為真人,。盡管此法有一定參考價(jià)值,，但并非萬無一失。螞蟻集團(tuán)天璣實(shí)驗(yàn)室安全算法專家朱凱指出,，部分先進(jìn)算法已能在局部遮擋下生成逼真畫面,，單純按壓鼻子或臉部可能無法識(shí)破。他建議結(jié)合左右搖頭動(dòng)作,，因許多AI換臉基于平面照片,，動(dòng)態(tài)變化下易暴露破綻。此外,，也有專家建議對方在視頻通話中揮手,，或提問只有對方知道的問題,，以增加識(shí)別準(zhǔn)確性。

面對深度偽造技術(shù)的挑戰(zhàn),，業(yè)內(nèi)正積極探索以AI對抗AI的解決方案,。百度、阿里,、騰訊,、字節(jié)跳動(dòng)、螞蟻集團(tuán),、科大訊飛等企業(yè)紛紛研發(fā)高級(jí)AI算法與工具,，提升對深度偽造內(nèi)容的識(shí)別能力。以螞蟻數(shù)科為例,，其旗下ZOLOZ品牌推出Deeper產(chǎn)品,，專用于攔截刷臉過程中的AI換臉風(fēng)險(xiǎn)，已在身份安全領(lǐng)域?qū)崿F(xiàn)Deepfake風(fēng)險(xiǎn)“0漏過”,。ZOLOZ還設(shè)立百萬獎(jiǎng)金池,，鼓勵(lì)安全極客挖掘產(chǎn)品漏洞，共同提升安全防護(hù)水平,。

對于普通用戶而言,，除掌握一些識(shí)別AI換臉詐騙的技巧外，更重要的是加強(qiáng)個(gè)人信息保護(hù),，特別是圖像,、聲音等生物信息。今年8月起,，《生成式人工智能服務(wù)管理暫行辦法》正式實(shí)施,，明確禁止侵犯他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益。中國信通院人工智能研究中心安全與元宇宙部主任石霖建議：選擇信譽(yù)良好,、監(jiān)管合規(guī)的大廠產(chǎn)品,；減少在APP中上傳個(gè)人照片，尤其是社交平臺(tái),；必要時(shí)提供虛假聯(lián)系方式以降低信息泄露風(fēng)險(xiǎn),；在涉及資金交易時(shí)，務(wù)必通過多種渠道核實(shí)對方身份,，未經(jīng)確認(rèn)切勿轉(zhuǎn)賬,。