央視記者也指出,這類AI合成服務(wù)正在快速普及,,成為不少“短視頻帶貨”商家的“隱形工具”,。許多店鋪甚至將AI主播打造成全天候不間斷直播的人設(shè),,通過循環(huán)播放錄制好的AI視頻,節(jié)省了高昂的人工成本,,同時(shí)還能“量產(chǎn)”帶貨內(nèi)容,。
真假難辨,法律風(fēng)險(xiǎn)令人擔(dān)憂
AI合成視頻之所以引發(fā)擔(dān)憂,,除了技術(shù)本身的突破,,更關(guān)鍵在于其對真實(shí)身份與內(nèi)容的混淆所帶來的潛在風(fēng)險(xiǎn)。一旦被用于非法用途,,如詐騙,、誹謗、輿論操控等后果,,將非常嚴(yán)重,。
一位法律人士指出,AI換臉換聲一旦未經(jīng)本人授權(quán)使用,,不僅涉嫌侵犯肖像權(quán),、姓名權(quán),還可能觸犯《民法典》中對人格權(quán)保護(hù)的相關(guān)條款,。尤其在商業(yè)場景下,,擅自使用他人面容與聲音牟利,構(gòu)成侵權(quán)的風(fēng)險(xiǎn)極高,。
目前我國尚未形成針對AI合成視頻的系統(tǒng)性立法,,但有關(guān)部門已多次發(fā)出警示信號(hào)。例如,,2023年出臺(tái)的“生成式人工智能服務(wù)管理暫行辦法”中,,就明確規(guī)定不得利用AI技術(shù)制作虛假信息、誤導(dǎo)公眾,,更不得損害他人合法權(quán)益,。
然而,面對技術(shù)的迅猛發(fā)展,,現(xiàn)有法律框架仍顯滯后,。AI換臉、換聲的泛濫,,給個(gè)人信息安全,、輿論生態(tài)乃至公共秩序都帶來了新的挑戰(zhàn)。
誰在用?誰在賣,?灰色市場悄然成型
這類服務(wù)的提供者主要分為兩類:一類是以小型技術(shù)工作室為主,,通過接單盈利,服務(wù)內(nèi)容包括AI換聲,、換臉,、合成廣告等;另一類則是一些“平臺(tái)型商家”,,在多個(gè)電商平臺(tái)開設(shè)店鋪,,承接各類“定制視頻”業(yè)務(wù),甚至形成標(biāo)準(zhǔn)報(bào)價(jià)和服務(wù)模板,。