最近,,有網(wǎng)友向媒體反映,,家中老人在網(wǎng)絡(luò)賣貨視頻中看到“張文宏醫(yī)生”在推銷一種蛋白類產(chǎn)品,。老人信以為真,,不僅下了單還轉(zhuǎn)發(fā)給了很多群。經(jīng)過核實,,該視頻并非張文宏醫(yī)生本人,,而是利用AI技術(shù)合成的。張文宏醫(yī)生表示,,這種賣貨賬號不止一個,,并且一直在變化,他已經(jīng)多次向平臺投訴,。
在這段視頻中,,被合成的人像反復介紹一種產(chǎn)品,聲音聽起來也很像張文宏本人,。商品櫥窗內(nèi)的某蛋白棒售賣鏈接顯示已售出1200多件,。目前,該賬號已無法搜索到,。張文宏指出,,這種情況已經(jīng)持續(xù)了幾個星期,尤其是對AI不太熟悉的老年人很容易上當受騙,。這種行為侵占了消費者的利益,,他認為應(yīng)該有相關(guān)部門來處理這個問題。
目前,,利用語音合成模仿他人聲音并對上口型生成視頻的技術(shù)已經(jīng)非常成熟,甚至僅用一張照片就能生成此類視頻。今年9月,,國家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》,,要求從視頻制作和發(fā)布的源頭做好信息管理。
上海人工智能研究院數(shù)字化治理中心主任彭嘉昊認為,,面對每天產(chǎn)出的大量視頻,,監(jiān)控和管理難度較大,約束這些服務(wù)的提供商才是綜合治理這類事件的核心,。
張文宏帶貨了,?最近,有網(wǎng)友發(fā)來一段視頻詢問:張文宏是不是在推銷一種蛋白棒。家里的老人信以為真,,已經(jīng)轉(zhuǎn)發(fā)了很多群,,還自己下單購買了
2024-12-13 09:02:31張文宏被AI合成帶貨視頻最近,,有網(wǎng)友發(fā)消息稱,,“張文宏是不是帶貨了?”視頻中,,張文宏在賣一種蛋白棒,,讓不少老人信以為真,瘋狂跟單,。
2024-12-15 14:32:56“張文宏”帶貨,?多人受騙!這種套路要警惕