“張文宏是不是帶貨了？”最近,，有網(wǎng)友稱(chēng)在網(wǎng)絡(luò)賣(mài)貨視頻中看到知名醫(yī)生張文宏在售賣(mài)一種蛋白棒產(chǎn)品,。不過(guò)，經(jīng)常刷短視頻的朋友很快就能分辨出這是AI合成的視頻,，并非本人,。

隨著人工智能技術(shù)的迅猛發(fā)展，AI換臉已經(jīng)能夠做到以假亂真,。當(dāng)AI技術(shù)被不當(dāng)使用,，用戶(hù)該如何識(shí)破騙局？監(jiān)管如何跟上技術(shù)發(fā)展,？

張文宏回應(yīng)“被AI帶貨”：已多次投訴但違規(guī)賬號(hào)屢禁不止

在帶貨視頻中,，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽(tīng)起來(lái)很像張文宏本人,。一些老人信以為真,，不僅下了單，還呼朋引伴來(lái)購(gòu)買(mǎi)。對(duì)此,，張文宏回應(yīng)稱(chēng),，這樣的賣(mài)貨賬號(hào)不止一個(gè)，而且一直在變,，他多次向平臺(tái)投訴但屢禁不絕,。

目前，用語(yǔ)音合成來(lái)模仿他人聲音,，生成視頻的技術(shù)已經(jīng)非常成熟,，甚至僅用一張照片就能生成此類(lèi)視頻。

工信部信息通信經(jīng)濟(jì)專(zhuān)家委員會(huì)委員盤(pán)和林表示：“AI技術(shù)冒充名人帶貨,、詐騙越來(lái)越多,，這里的關(guān)鍵不在AI，而是要及時(shí)處理利用AI冒充他人的內(nèi)容發(fā)布者,。冒名頂替,、虛假宣傳、破壞名人肖像權(quán),、利用名人的公信力來(lái)牟利,，這些行為會(huì)給名人帶來(lái)風(fēng)險(xiǎn),，也會(huì)成為詐騙分子的溫床?！?/p>

工信部反詐工作專(zhuān)班專(zhuān)家李坤介紹,，在網(wǎng)上,，耳聽(tīng)眼見(jiàn)不一定為實(shí),?！皵M聲”“換臉”等合成技術(shù)的一大特點(diǎn)是以假亂真,，不法分子可以利用此類(lèi)技術(shù)輕易偽裝成他人，并通過(guò)快速篩選目標(biāo)人群、精準(zhǔn)制定詐騙腳本,。

“不法分子通過(guò)各種公開(kāi)渠道獲取受害人的個(gè)人肖像或視頻,，然后利用AI技術(shù)對(duì)受害人面容特征進(jìn)行學(xué)習(xí),，模仿眨眼,、搖頭等動(dòng)作,，實(shí)現(xiàn)以假亂真的效果,?！崩罾ふf(shuō),。

雖然目前AI“換臉”和“仿聲”有一定的技術(shù)門(mén)檻和較高的實(shí)現(xiàn)成本,，但如果被不法分子掌握,，就可能在即時(shí)通信或者社交軟件上偽裝他人，開(kāi)展詐騙活動(dòng),。

如何識(shí)別AI換臉換聲？

據(jù)了解,，AI換臉主要使用深度合成技術(shù)。在我國(guó),，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出,，要求深度合成服務(wù)提供者對(duì)深度合成的內(nèi)容添加顯式或隱式水印。

中國(guó)信通院人工智能所安全與元宇宙部專(zhuān)家陳文弢介紹,，水印的本質(zhì)就是提示公眾這個(gè)內(nèi)容是由AI合成的,，另一方面也是為了追溯來(lái)源,。

專(zhuān)家提醒，用戶(hù)可以學(xué)習(xí)一些小訣竅,，來(lái)辨別AI換臉詐騙。比如,，在進(jìn)行視頻對(duì)話(huà)時(shí),，可以要求對(duì)方在臉部前面，通過(guò)揮手的方式識(shí)別實(shí)時(shí)偽造的視頻,。這是因?yàn)樵趽]手的過(guò)程中會(huì)造成面部的數(shù)據(jù)干擾,，如果是偽造的人臉，會(huì)產(chǎn)生一定的抖動(dòng)或閃現(xiàn),。

在點(diǎn)對(duì)點(diǎn)的溝通過(guò)程中，可以問(wèn)一些只有對(duì)方知道的問(wèn)題，以此來(lái)驗(yàn)證對(duì)方的真實(shí)性,。

但值得注意的是,，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來(lái)隨著AI技術(shù)的發(fā)展，這類(lèi)AI變臉技術(shù)有可能更具迷惑性,。

監(jiān)管如何跟上技術(shù)發(fā)展,？

快速發(fā)展的AI技術(shù)帶來(lái)了相關(guān)信息的爆炸式增長(zhǎng),，造成了AI信息甄別困難。因此,，治理也應(yīng)當(dāng)提速，跟上技術(shù)發(fā)展的步伐,。

工信部信息通信經(jīng)濟(jì)專(zhuān)家委員會(huì)委員盤(pán)和林稱(chēng),，目前受害人維權(quán)困難，一方面是由于缺少簡(jiǎn)化訴訟的渠道,，另一方面是平臺(tái)在處理此類(lèi)維權(quán)問(wèn)題時(shí),，不配合、不積極,。“下一步,，既要疏通當(dāng)事人維權(quán)渠道，也應(yīng)要求平臺(tái)完善算法，及時(shí)發(fā)現(xiàn)問(wèn)題視頻，增加平臺(tái)監(jiān)管內(nèi)容的責(zé)任義務(wù),。”

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括表示：“從治理角度來(lái)講,，需要考慮整體的技術(shù)準(zhǔn)入,，包括良性技術(shù)解決方案的設(shè)計(jì)研發(fā)和選用,。從社會(huì)組織管理角度來(lái)說(shuō)，這對(duì)我們優(yōu)化社會(huì)治理提出了新要求,，在這個(gè)過(guò)程中,，各種可信任的驗(yàn)證機(jī)制建設(shè)成為非常緊迫的話(huà)題,。”

此外,，吳沈括認(rèn)為每一個(gè)人都應(yīng)該提高警惕,，從自身出發(fā)，在日常生活中做好防范,。

“用戶(hù)要提升辨別能力,，比如視頻中某位公眾人物發(fā)表跟他的身份不相關(guān)，甚至完全偏離的言論內(nèi)容時(shí),，就存在比較大的風(fēng)險(xiǎn),。同時(shí)，平臺(tái)可以發(fā)布一些風(fēng)險(xiǎn)警示,，讓用戶(hù)尤其是老年人群體,，更及時(shí)地警惕可能存在的違法行為?！眳巧蚶ㄕf(shuō),。