盡管專家指出,,目前多數(shù)AI換臉,、換聲類軟件仍屬于半專業(yè)工具,操作復(fù)雜程度并非人人能掌握,。但事實(shí)表明,,經(jīng)過“包裝”后的服務(wù),已經(jīng)讓門外漢也能簡單上手,。尤其是在商家的“模板化操作”下,,只需提交素材,其余的由技術(shù)方一鍵生成,,完全不需要使用者具備任何技術(shù)背景,。
央視記者也指出,這類AI合成服務(wù)正在快速普及,,成為不少“短視頻帶貨”商家的“隱形工具”,。許多店鋪甚至將AI主播打造成全天候不間斷直播的人設(shè),通過循環(huán)播放錄制好的AI視頻,,節(jié)省了高昂的人工成本,,同時(shí)還能“量產(chǎn)”帶貨內(nèi)容。
真假難辨,,法律風(fēng)險(xiǎn)令人擔(dān)憂
AI合成視頻之所以引發(fā)擔(dān)憂,,除了技術(shù)本身的突破,,更關(guān)鍵在于其對真實(shí)身份與內(nèi)容的混淆所帶來的潛在風(fēng)險(xiǎn)。一旦被用于非法用途,,如詐騙,、誹謗、輿論操控等后果,,將非常嚴(yán)重,。
一位法律人士指出,AI換臉換聲一旦未經(jīng)本人授權(quán)使用,,不僅涉嫌侵犯肖像權(quán),、姓名權(quán),還可能觸犯《民法典》中對人格權(quán)保護(hù)的相關(guān)條款,。尤其在商業(yè)場景下,,擅自使用他人面容與聲音牟利,構(gòu)成侵權(quán)的風(fēng)險(xiǎn)極高,。
目前我國尚未形成針對AI合成視頻的系統(tǒng)性立法,,但有關(guān)部門已多次發(fā)出警示信號。例如,,2023年出臺的“生成式人工智能服務(wù)管理暫行辦法”中,,就明確規(guī)定不得利用AI技術(shù)制作虛假信息、誤導(dǎo)公眾,,更不得損害他人合法權(quán)益,。
然而,面對技術(shù)的迅猛發(fā)展,,現(xiàn)有法律框架仍顯滯后,。AI換臉、換聲的泛濫,,給個(gè)人信息安全,、輿論生態(tài)乃至公共秩序都帶來了新的挑戰(zhàn)。