張文宏“被AI帶貨”,，監(jiān)管如何跟上技術(shù)發(fā)展,？

2024-12-14 15:05:49 來(lái)源：央視新聞客戶端 A+A-

“張文宏是不是帶貨了,？”最近，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品,。不過(guò)，經(jīng)常刷短視頻的朋友很快就能分辨出這是AI合成的視頻,，并非本人,。

隨著人工智能技術(shù)的迅猛發(fā)展，AI換臉已經(jīng)能夠做到以假亂真,。當(dāng)AI技術(shù)被不當(dāng)使用,，用戶該如何識(shí)破騙局？監(jiān)管如何跟上技術(shù)發(fā)展,？

張文宏回應(yīng)“被AI帶貨”：已多次投訴但違規(guī)賬號(hào)屢禁不止

在帶貨視頻中,，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來(lái)很像張文宏本人,。一些老人信以為真,，不僅下了單，還呼朋引伴來(lái)購(gòu)買,。對(duì)此,，張文宏回應(yīng)稱，這樣的賣貨賬號(hào)不止一個(gè),，而且一直在變,，他多次向平臺(tái)投訴但屢禁不絕。

目前,，用語(yǔ)音合成來(lái)模仿他人聲音,，生成視頻的技術(shù)已經(jīng)非常成熟，甚至僅用一張照片就能生成此類視頻,。

工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林表示：“AI技術(shù)冒充名人帶貨、詐騙越來(lái)越多,，這里的關(guān)鍵不在AI,，而是要及時(shí)處理利用AI冒充他人的內(nèi)容發(fā)布者。冒名頂替,、虛假宣傳,、破壞名人肖像權(quán)、利用名人的公信力來(lái)牟利,，這些行為會(huì)給名人帶來(lái)風(fēng)險(xiǎn),，也會(huì)成為詐騙分子的溫床?！?/p>

工信部反詐工作專班專家李坤介紹,，在網(wǎng)上，耳聽眼見不一定為實(shí)?！皵M聲”“換臉”等合成技術(shù)的一大特點(diǎn)是以假亂真,，不法分子可以利用此類技術(shù)輕易偽裝成他人，并通過(guò)快速篩選目標(biāo)人群,、精準(zhǔn)制定詐騙腳本,。

“不法分子通過(guò)各種公開渠道獲取受害人的個(gè)人肖像或視頻，然后利用AI技術(shù)對(duì)受害人面容特征進(jìn)行學(xué)習(xí),，模仿眨眼,、搖頭等動(dòng)作，實(shí)現(xiàn)以假亂真的效果,?！崩罾ふf(shuō)。

12 3 全文共 3 頁(yè)下一頁(yè)