AI已成為過(guò)去一年的網(wǎng)絡(luò)熱點(diǎn)，伴隨其廣泛應(yīng)用,，AI詐騙現(xiàn)象日益引起關(guān)注,，尤其是運(yùn)用AI換臉技術(shù)實(shí)施的詐騙案件屢見(jiàn)報(bào)端。近期,，香港警方通報(bào)一起案例：某跨國(guó)公司香港分公司財(cái)務(wù)人員在一場(chǎng)內(nèi)部視頻會(huì)議中被騙走近2億港元,，除受害人本人外，其余“參會(huì)同事”均為AI換臉技術(shù)偽裝,。類似事件在2023年央視315晚會(huì)上亦有曝光,。

Deepfake，即深度偽造技術(shù),，是AI換臉的核心手段,。它基于深度學(xué)習(xí)算法，通過(guò)處理大量視頻和圖像數(shù)據(jù),，創(chuàng)造出高度逼真的面部動(dòng)畫(huà)和語(yǔ)音,。該技術(shù)首次進(jìn)入公眾視野是在2017年，一名Reddit用戶將一部成人電影主角的臉替換為《神奇女俠》演員蓋爾·加朵,，引發(fā)廣泛關(guān)注,。此后，Deepfake在中國(guó)也頗受歡迎,，網(wǎng)絡(luò)上充斥著AI換臉教程,、素材庫(kù)及輔助工具，如2019年B站UP主“換臉哥”將朱茵飾演的黃蓉?fù)Q臉為楊冪，一度引發(fā)熱議,。

隨著Deepfake技術(shù)的開(kāi)源以及生成式AI如ChatGPT和Sora的普及,，AI換臉門檻顯著降低，制作難以辨識(shí)的換臉視頻愈發(fā)容易,。然而,，技術(shù)濫用導(dǎo)致的AI詐騙事件頻發(fā)，成功率高企,，嚴(yán)重侵犯公眾財(cái)產(chǎn)與隱私權(quán)益,，相關(guān)話題多次沖上熱搜榜。

面對(duì)“AI變臉”欺詐,，識(shí)別真?zhèn)纬蔀闊嶙h焦點(diǎn),。有專家提出讓對(duì)方按壓鼻子或臉部以觀察變形情況，以此判斷是否為真人,。盡管此法有一定參考價(jià)值,，但并非萬(wàn)無(wú)一失。螞蟻集團(tuán)天璣實(shí)驗(yàn)室安全算法專家朱凱指出,，部分先進(jìn)算法已能在局部遮擋下生成逼真畫(huà)面,，單純按壓鼻子或臉部可能無(wú)法識(shí)破。他建議結(jié)合左右搖頭動(dòng)作,，因許多AI換臉基于平面照片,，動(dòng)態(tài)變化下易暴露破綻。此外,，也有專家建議對(duì)方在視頻通話中揮手,，或提問(wèn)只有對(duì)方知道的問(wèn)題，以增加識(shí)別準(zhǔn)確性,。

面對(duì)深度偽造技術(shù)的挑戰(zhàn)，業(yè)內(nèi)正積極探索以AI對(duì)抗AI的解決方案,。百度,、阿里、騰訊,、字節(jié)跳動(dòng),、螞蟻集團(tuán)、科大訊飛等企業(yè)紛紛研發(fā)高級(jí)AI算法與工具,，提升對(duì)深度偽造內(nèi)容的識(shí)別能力,。以螞蟻數(shù)科為例，其旗下ZOLOZ品牌推出Deeper產(chǎn)品,，專用于攔截刷臉過(guò)程中的AI換臉風(fēng)險(xiǎn),，已在身份安全領(lǐng)域?qū)崿F(xiàn)Deepfake風(fēng)險(xiǎn)“0漏過(guò)”。ZOLOZ還設(shè)立百萬(wàn)獎(jiǎng)金池，鼓勵(lì)安全極客挖掘產(chǎn)品漏洞,，共同提升安全防護(hù)水平,。

對(duì)于普通用戶而言，除掌握一些識(shí)別AI換臉詐騙的技巧外,，更重要的是加強(qiáng)個(gè)人信息保護(hù),，特別是圖像、聲音等生物信息,。今年8月起,，《生成式人工智能服務(wù)管理暫行辦法》正式實(shí)施，明確禁止侵犯他人肖像權(quán),、名譽(yù)權(quán),、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益,。中國(guó)信通院人工智能研究中心安全與元宇宙部主任石霖建議：選擇信譽(yù)良好,、監(jiān)管合規(guī)的大廠產(chǎn)品；減少在APP中上傳個(gè)人照片,，尤其是社交平臺(tái),；必要時(shí)提供虛假聯(lián)系方式以降低信息泄露風(fēng)險(xiǎn)；在涉及資金交易時(shí),，務(wù)必通過(guò)多種渠道核實(shí)對(duì)方身份,，未經(jīng)確認(rèn)切勿轉(zhuǎn)賬。