最近,有網(wǎng)友向媒體反映,,家中老人在網(wǎng)絡(luò)賣貨視頻中看到“張文宏醫(yī)生”在推銷一種蛋白類產(chǎn)品,。老人信以為真,不僅下了單還轉(zhuǎn)發(fā)給了很多群,。經(jīng)過(guò)核實(shí),該視頻并非張文宏醫(yī)生本人,,而是利用AI技術(shù)合成的,。張文宏醫(yī)生表示,這種賣貨賬號(hào)不止一個(gè),,并且一直在變化,,他已經(jīng)多次向平臺(tái)投訴。
在這段視頻中,,被合成的人像反復(fù)介紹一種產(chǎn)品,,聲音聽起來(lái)也很像張文宏本人。商品櫥窗內(nèi)的某蛋白棒售賣鏈接顯示已售出1200多件,。目前,,該賬號(hào)已無(wú)法搜索到,。張文宏指出,這種情況已經(jīng)持續(xù)了幾個(gè)星期,,尤其是對(duì)AI不太熟悉的老年人很容易上當(dāng)受騙,。這種行為侵占了消費(fèi)者的利益,他認(rèn)為應(yīng)該有相關(guān)部門來(lái)處理這個(gè)問(wèn)題,。
目前,,利用語(yǔ)音合成模仿他人聲音并對(duì)上口型生成視頻的技術(shù)已經(jīng)非常成熟,甚至僅用一張照片就能生成此類視頻,。今年9月,,國(guó)家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》,要求從視頻制作和發(fā)布的源頭做好信息管理,。
上海人工智能研究院數(shù)字化治理中心主任彭嘉昊認(rèn)為,,面對(duì)每天產(chǎn)出的大量視頻,監(jiān)控和管理難度較大,,約束這些服務(wù)的提供商才是綜合治理這類事件的核心,。
最近,,有網(wǎng)友發(fā)消息稱,“張文宏是不是帶貨了,?”視頻中,,張文宏在賣一種蛋白棒,讓不少老人信以為真,,瘋狂跟單,。
2024-12-15 14:32:56“張文宏”帶貨?多人受騙,!這種套路要警惕