數(shù)字人市場(chǎng)存在亂象,,部分公司利用AI技術(shù)進(jìn)行深度偽造欺詐,。對(duì)此,,抖音等平臺(tái)已出臺(tái)相關(guān)規(guī)范,,嚴(yán)厲打擊利用AI生成虛擬人物進(jìn)行虛假宣傳、造謠傳謠等行為,。抖音要求虛擬主播形象和內(nèi)容須提前備案,,直播過(guò)程中需顯著標(biāo)識(shí)虛擬身份,以區(qū)分虛擬與現(xiàn)實(shí),。對(duì)于違規(guī)使用AI生成虛擬人物從事犯罪活動(dòng)的黑產(chǎn)團(tuán)伙,,平臺(tái)將配合警方進(jìn)行打擊。
面對(duì)數(shù)字人直播這一新興業(yè)態(tài),,各方看法不一,。一方面,合規(guī)數(shù)字人產(chǎn)品被認(rèn)為具有較大商用潛力,,眾多互聯(lián)網(wǎng)巨頭已展開(kāi)相關(guān)研發(fā),;另一方面,行業(yè)中的欺詐行為引發(fā)關(guān)注,,亟待加強(qiáng)監(jiān)管與規(guī)范,。公眾對(duì)數(shù)字人直播的態(tài)度各異,,有人期待其創(chuàng)新價(jià)值,,有人擔(dān)憂技術(shù)濫用帶來(lái)的風(fēng)險(xiǎn),。