張文宏“被AI帶貨”,，監(jiān)管如何跟上技術(shù)發(fā)展,？

2024-12-14 15:05:49 來源：央視新聞客戶端 A+A-

“張文宏是不是帶貨了？”最近，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品,。不過，經(jīng)常刷短視頻的朋友很快就能分辨出這是AI合成的視頻,，并非本人,。

隨著人工智能技術(shù)的迅猛發(fā)展，AI換臉已經(jīng)能夠做到以假亂真,。當(dāng)AI技術(shù)被不當(dāng)使用,，用戶該如何識破騙局？監(jiān)管如何跟上技術(shù)發(fā)展,？

張文宏回應(yīng)“被AI帶貨”：已多次投訴但違規(guī)賬號屢禁不止

在帶貨視頻中,，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來很像張文宏本人,。一些老人信以為真,，不僅下了單，還呼朋引伴來購買,。對此,，張文宏回應(yīng)稱，這樣的賣貨賬號不止一個,，而且一直在變,，他多次向平臺投訴但屢禁不絕。

目前,，用語音合成來模仿他人聲音,，生成視頻的技術(shù)已經(jīng)非常成熟，甚至僅用一張照片就能生成此類視頻,。

工信部信息通信經(jīng)濟(jì)專家委員會委員盤和林表示：“AI技術(shù)冒充名人帶貨,、詐騙越來越多，這里的關(guān)鍵不在AI,，而是要及時處理利用AI冒充他人的內(nèi)容發(fā)布者,。冒名頂替、虛假宣傳,、破壞名人肖像權(quán),、利用名人的公信力來牟利，這些行為會給名人帶來風(fēng)險,，也會成為詐騙分子的溫床,。”

工信部反詐工作專班專家李坤介紹，在網(wǎng)上,，耳聽眼見不一定為實(shí),。“擬聲”“換臉”等合成技術(shù)的一大特點(diǎn)是以假亂真,，不法分子可以利用此類技術(shù)輕易偽裝成他人,，并通過快速篩選目標(biāo)人群、精準(zhǔn)制定詐騙腳本,。

“不法分子通過各種公開渠道獲取受害人的個人肖像或視頻,，然后利用AI技術(shù)對受害人面容特征進(jìn)行學(xué)習(xí)，模仿眨眼,、搖頭等動作,，實(shí)現(xiàn)以假亂真的效果?！崩罾ふf。

雖然目前AI“換臉”和“仿聲”有一定的技術(shù)門檻和較高的實(shí)現(xiàn)成本,，但如果被不法分子掌握,，就可能在即時通信或者社交軟件上偽裝他人，開展詐騙活動,。

如何識別AI換臉換聲,？

據(jù)了解，AI換臉主要使用深度合成技術(shù),。在我國,，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出，要求深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印,。

中國信通院人工智能所安全與元宇宙部專家陳文弢介紹,，水印的本質(zhì)就是提示公眾這個內(nèi)容是由AI合成的，另一方面也是為了追溯來源,。

專家提醒,，用戶可以學(xué)習(xí)一些小訣竅，來辨別AI換臉詐騙,。比如,，在進(jìn)行視頻對話時，可以要求對方在臉部前面,，通過揮手的方式識別實(shí)時偽造的視頻,。這是因?yàn)樵趽]手的過程中會造成面部的數(shù)據(jù)干擾，如果是偽造的人臉,，會產(chǎn)生一定的抖動或閃現(xiàn),。

在點(diǎn)對點(diǎn)的溝通過程中，可以問一些只有對方知道的問題，以此來驗(yàn)證對方的真實(shí)性,。

但值得注意的是,，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來隨著AI技術(shù)的發(fā)展,，這類AI變臉技術(shù)有可能更具迷惑性,。

監(jiān)管如何跟上技術(shù)發(fā)展？

快速發(fā)展的AI技術(shù)帶來了相關(guān)信息的爆炸式增長,，造成了AI信息甄別困難,。因此，治理也應(yīng)當(dāng)提速,，跟上技術(shù)發(fā)展的步伐,。

工信部信息通信經(jīng)濟(jì)專家委員會委員盤和林稱，目前受害人維權(quán)困難,，一方面是由于缺少簡化訴訟的渠道,，另一方面是平臺在處理此類維權(quán)問題時，不配合,、不積極,。“下一步，既要疏通當(dāng)事人維權(quán)渠道,，也應(yīng)要求平臺完善算法,，及時發(fā)現(xiàn)問題視頻，增加平臺監(jiān)管內(nèi)容的責(zé)任義務(wù),。”

中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括表示：“從治理角度來講,，需要考慮整體的技術(shù)準(zhǔn)入，包括良性技術(shù)解決方案的設(shè)計研發(fā)和選用,。從社會組織管理角度來說,，這對我們優(yōu)化社會治理提出了新要求，在這個過程中,，各種可信任的驗(yàn)證機(jī)制建設(shè)成為非常緊迫的話題,。”

此外,，吳沈括認(rèn)為每一個人都應(yīng)該提高警惕,，從自身出發(fā)，在日常生活中做好防范,。

“用戶要提升辨別能力,，比如視頻中某位公眾人物發(fā)表跟他的身份不相關(guān)，甚至完全偏離的言論內(nèi)容時,，就存在比較大的風(fēng)險,。同時,，平臺可以發(fā)布一些風(fēng)險警示，讓用戶尤其是老年人群體,，更及時地警惕可能存在的違法行為,。”吳沈括說,。

(責(zé)任編輯：0342)