換臉擬聲合成視頻的現(xiàn)象引發(fā)了廣泛關(guān)注。全國人大代表雷軍提到,,網(wǎng)上出現(xiàn)了大量使用他的聲音和人臉制作的內(nèi)容,起初他覺得這是網(wǎng)民的娛樂行為,,但當(dāng)內(nèi)容變得低劣且數(shù)量龐大時,,情況變得難以控制,。
除了雷軍,,AI技術(shù)也被用來偽造其他名人的形象進行虛假宣傳,,例如劉德華,、張文宏醫(yī)生和工程院院士張伯禮甚至被用于帶貨直播,。中國政法大學(xué)副教授朱巍指出,根據(jù)民法典的規(guī)定,,未經(jīng)允許使用他人的人臉信息和聲音信息進行深度合成是違法的,,這些都屬于個人的人格權(quán)利。
針對濫用AI技術(shù)偽造名人形象開展帶貨營銷的問題,,網(wǎng)信部門持續(xù)督促各網(wǎng)站平臺進行巡查處置,。近一個月內(nèi),重點網(wǎng)站平臺累計處置了797個違法違規(guī)賬號和店鋪,。
AI換臉和語音合成技術(shù)還被用于詐騙,。內(nèi)蒙古警方破獲的一起案件中,福建某科技公司老板郭先生在視頻通話中看到“好友”的面容,,在10分鐘內(nèi)被騙轉(zhuǎn)賬430萬元,,事后發(fā)現(xiàn)對方竟是AI換臉與擬聲技術(shù)合成的“數(shù)字替身”。在上海,,劉先生因網(wǎng)絡(luò)交友被騙取20萬元,,調(diào)查發(fā)現(xiàn)該團伙使用AI生成虛假照片實施婚戀詐騙,涉案金額超過200萬元,。
“AI換臉擬聲”亂象頻現(xiàn),引發(fā)社會廣泛關(guān)注,。一些不法分子利用這一技術(shù)實施詐騙,,讓演藝界人士、專家學(xué)者,、知名企業(yè)家等公眾人物深受其擾
2025-03-12 10:41:12AI換臉擬聲風(fēng)險怎么應(yīng)對