記者實(shí)測AI換臉搭配聲音合成,。近年來,AI深度偽造技術(shù)被頻繁用于假冒名人進(jìn)行直播帶貨和其他活動。例如,,有人利用這項(xiàng)技術(shù)偽造了張文宏醫(yī)生的臉部和聲音進(jìn)行直播帶貨,,售賣的蛋白棒產(chǎn)品已經(jīng)售出1200多件。此外,,還有人使用企業(yè)家雷軍的聲音和頭像制作惡搞視頻,,以及用劉德華的聲音為自己增加流量。
專家指出,,當(dāng)前AI模仿技術(shù)已經(jīng)相當(dāng)成熟,可以輕松克隆臉部特征和聲音,。這種行為不僅可能誤導(dǎo)消費(fèi)者,,還涉嫌違法。如果消費(fèi)者因相信這些虛假信息而購買商品,,有權(quán)要求商家退一賠三,。未經(jīng)授權(quán)使用他人形象的行為均屬違法行為。短視頻平臺也應(yīng)承擔(dān)相應(yīng)責(zé)任,,防止這類視頻在其平臺上廣泛傳播,。