最近,,有網(wǎng)友向媒體反映,,家中老人在網(wǎng)絡(luò)賣貨視頻中看到“張文宏醫(yī)生”在推銷一種蛋白類產(chǎn)品。老人信以為真,,不僅下了單還轉(zhuǎn)發(fā)給了很多群,。經(jīng)過核實(shí),,該視頻并非張文宏醫(yī)生本人,而是利用AI技術(shù)合成的,。張文宏醫(yī)生表示,,這種賣貨賬號(hào)不止一個(gè),并且一直在變化,,他已經(jīng)多次向平臺(tái)投訴,。
在這段視頻中,被合成的人像反復(fù)介紹一種產(chǎn)品,,聲音聽起來也很像張文宏本人,。商品櫥窗內(nèi)的某蛋白棒售賣鏈接顯示已售出1200多件,。目前,該賬號(hào)已無法搜索到,。張文宏指出,,這種情況已經(jīng)持續(xù)了幾個(gè)星期,尤其是對(duì)AI不太熟悉的老年人很容易上當(dāng)受騙,。這種行為侵占了消費(fèi)者的利益,,他認(rèn)為應(yīng)該有相關(guān)部門來處理這個(gè)問題。
目前,,利用語音合成模仿他人聲音并對(duì)上口型生成視頻的技術(shù)已經(jīng)非常成熟,,甚至僅用一張照片就能生成此類視頻。今年9月,,國(guó)家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》,,要求從視頻制作和發(fā)布的源頭做好信息管理。
上海人工智能研究院數(shù)字化治理中心主任彭嘉昊認(rèn)為,,面對(duì)每天產(chǎn)出的大量視頻,,監(jiān)控和管理難度較大,約束這些服務(wù)的提供商才是綜合治理這類事件的核心,。
張文宏帶貨了,?最近,,有網(wǎng)友發(fā)來一段視頻詢問:張文宏是不是在推銷一種蛋白棒。家里的老人信以為真,,已經(jīng)轉(zhuǎn)發(fā)了很多群,,還自己下單購買了
2024-12-13 09:02:31張文宏被AI合成帶貨視頻最近,,有網(wǎng)友發(fā)消息稱,“張文宏是不是帶貨了,?”視頻中,,張文宏在賣一種蛋白棒,讓不少老人信以為真,,瘋狂跟單,。
2024-12-15 14:32:56“張文宏”帶貨?多人受騙,!這種套路要警惕