近日，央視曝光了一則引發(fā)廣泛關(guān)注的新聞——在多個購物平臺上,，花費幾十元就能輕松定制一段“AI合成帶貨視頻”,。這種技術(shù)看似高端復(fù)雜，實際上早已悄然流入普通市場,，甚至形成了一條灰色產(chǎn)業(yè)鏈,。

花58元就能買到AI合成帶貨視頻 央視起底購物平臺定制AI合成視頻，帶貨視頻可“定制”

聲音,、臉部皆可合成,，58元“定制”視頻成現(xiàn)實

據(jù)央視記者調(diào)查，在一些購物平臺上,，只需搜索關(guān)鍵詞如“聲音克隆”“AI合成”等,，就會彈出大量提供相關(guān)服務(wù)的商家,。這些商家公開叫賣AI換聲、換臉服務(wù),，價格從幾十元起步,，門檻極低，令人震驚,。

一位記者親自下單體驗,，僅花了58元，便在某網(wǎng)店定制了一段“記者本人”出鏡的帶貨短視頻,。整段視頻中,，記者的面容和聲音都與本人極為相似，甚至連語氣和神態(tài)都十分逼真,，若非當(dāng)事人知情,，很難分辨真假。

商家表示,，只需客戶提供一小段語音樣本（大約一分鐘左右）,、一張照片或者一段視頻素材,，AI技術(shù)便可模擬其聲線及面部動作,，將任意臺詞“嫁接”到客戶提供的人物形象上。聲音合成的價格通常按照字?jǐn)?shù)計費,，每百字20元到50元不等,，而整合成完整視頻則另算價格。

專家：普通人已能“輕松偽造”個人視頻形象

盡管專家指出,，目前多數(shù)AI換臉,、換聲類軟件仍屬于半專業(yè)工具，操作復(fù)雜程度并非人人能掌握,。但事實表明,，經(jīng)過“包裝”后的服務(wù)，已經(jīng)讓門外漢也能簡單上手,。尤其是在商家的“模板化操作”下,，只需提交素材，其余的由技術(shù)方一鍵生成,，完全不需要使用者具備任何技術(shù)背景,。

央視記者也指出，這類AI合成服務(wù)正在快速普及,，成為不少“短視頻帶貨”商家的“隱形工具”,。許多店鋪甚至將AI主播打造成全天候不間斷直播的人設(shè)，通過循環(huán)播放錄制好的AI視頻,，節(jié)省了高昂的人工成本,，同時還能“量產(chǎn)”帶貨內(nèi)容,。

真假難辨，法律風(fēng)險令人擔(dān)憂

AI合成視頻之所以引發(fā)擔(dān)憂,，除了技術(shù)本身的突破,，更關(guān)鍵在于其對真實身份與內(nèi)容的混淆所帶來的潛在風(fēng)險。一旦被用于非法用途,，如詐騙,、誹謗、輿論操控等后果,，將非常嚴(yán)重,。

一位法律人士指出，AI換臉換聲一旦未經(jīng)本人授權(quán)使用,，不僅涉嫌侵犯肖像權(quán),、姓名權(quán)，還可能觸犯《民法典》中對人格權(quán)保護(hù)的相關(guān)條款,。尤其在商業(yè)場景下,，擅自使用他人面容與聲音牟利，構(gòu)成侵權(quán)的風(fēng)險極高,。

目前我國尚未形成針對AI合成視頻的系統(tǒng)性立法,，但有關(guān)部門已多次發(fā)出警示信號。例如,，2023年出臺的“生成式人工智能服務(wù)管理暫行辦法”中,，就明確規(guī)定不得利用AI技術(shù)制作虛假信息、誤導(dǎo)公眾,，更不得損害他人合法權(quán)益,。

然而，面對技術(shù)的迅猛發(fā)展,，現(xiàn)有法律框架仍顯滯后,。AI換臉、換聲的泛濫,，給個人信息安全,、輿論生態(tài)乃至公共秩序都帶來了新的挑戰(zhàn)。

誰在用,？誰在賣,？灰色市場悄然成型

這類服務(wù)的提供者主要分為兩類：一類是以小型技術(shù)工作室為主，通過接單盈利,，服務(wù)內(nèi)容包括AI換聲,、換臉、合成廣告等,；另一類則是一些“平臺型商家”,，在多個電商平臺開設(shè)店鋪,，承接各類“定制視頻”業(yè)務(wù)，甚至形成標(biāo)準(zhǔn)報價和服務(wù)模板,。

而下單者也多種多樣,。有自媒體從業(yè)者、短視頻內(nèi)容生產(chǎn)者,，也有電商平臺賣家,，甚至不乏有人用于私人娛樂或“惡搞”他人。由于行業(yè)缺乏有效監(jiān)管,，部分商家甚至明示“可仿任意明星,、主播形象”，在暗地里挑戰(zhàn)法律紅線,。

一位業(yè)內(nèi)人士坦言,，部分AI合成技術(shù)已經(jīng)達(dá)到了“真假難辨”的地步，如果被別有用心者利用,，很容易制造混亂甚至引發(fā)刑事案件,。“你能看到的樣子,、聽到的聲音,，都可能是假的?！彼f,。

從便利工具到輿論風(fēng)險,，AI視頻的“雙刃劍”效應(yīng)

AI技術(shù)本身并非原罪,。從某種角度看，它的出現(xiàn)確實極大提高了內(nèi)容生產(chǎn)效率,，特別是在短視頻,、在線客服、虛擬主播等領(lǐng)域,，已具備廣泛應(yīng)用價值,。然而，當(dāng)它被用來模仿,、篡改甚至偽造真人形象時,，風(fēng)險也隨之暴露。

尤其是在直播電商領(lǐng)域,，消費者原本信任的“主播”是否真的存在,？推薦產(chǎn)品的“意見領(lǐng)袖”是否真實體驗過商品？AI的介入模糊了界限,，也削弱了信任,。

專家指出,，在技術(shù)與商業(yè)的交匯點上，迫切需要監(jiān)管跟上速度,，建立起完善的規(guī)則體系,，既鼓勵創(chuàng)新，又防范濫用,。同時,，平臺方、服務(wù)商和使用者也應(yīng)自覺守法,，不越“紅線”,。

看似玩笑，實則隱患重重

從58元就能定制一個“虛擬自己”的視頻,，到廣泛存在的聲音克隆與AI換臉業(yè)務(wù),，一場新的信息安全挑戰(zhàn)正在悄然展開。這不僅是技術(shù)的炫技,，更是對社會倫理,、個人隱私和法律邊界的深度考驗。

在AI不斷滲透進(jìn)日常生活的今天,，每個人都可能在不知情的情況下,，被“復(fù)制”成另一個自己。如何在便利與風(fēng)險之間找準(zhǔn)平衡點,，將是技術(shù)發(fā)展過程中必須面對的一道現(xiàn)實難題,。