近日，央視曝光了一則引發(fā)廣泛關注的新聞——在多個購物平臺上，花費幾十元就能輕松定制一段“AI合成帶貨視頻”,。這種技術看似高端復雜,，實際上早已悄然流入普通市場,，甚至形成了一條灰色產(chǎn)業(yè)鏈,。

花58元就能買到AI合成帶貨視頻 央視起底購物平臺定制AI合成視頻,，帶貨視頻可“定制”

聲音,、臉部皆可合成，58元“定制”視頻成現(xiàn)實

據(jù)央視記者調(diào)查,，在一些購物平臺上,，只需搜索關鍵詞如“聲音克隆”“AI合成”等，就會彈出大量提供相關服務的商家,。這些商家公開叫賣AI換聲,、換臉服務,，價格從幾十元起步，門檻極低,，令人震驚,。

一位記者親自下單體驗，僅花了58元,，便在某網(wǎng)店定制了一段“記者本人”出鏡的帶貨短視頻,。整段視頻中，記者的面容和聲音都與本人極為相似,，甚至連語氣和神態(tài)都十分逼真,，若非當事人知情，很難分辨真假,。

商家表示,，只需客戶提供一小段語音樣本（大約一分鐘左右）、一張照片或者一段視頻素材,，AI技術便可模擬其聲線及面部動作,，將任意臺詞“嫁接”到客戶提供的人物形象上。聲音合成的價格通常按照字數(shù)計費,，每百字20元到50元不等,，而整合成完整視頻則另算價格。

專家：普通人已能“輕松偽造”個人視頻形象

盡管專家指出,，目前多數(shù)AI換臉、換聲類軟件仍屬于半專業(yè)工具,，操作復雜程度并非人人能掌握,。但事實表明，經(jīng)過“包裝”后的服務,，已經(jīng)讓門外漢也能簡單上手,。尤其是在商家的“模板化操作”下，只需提交素材,，其余的由技術方一鍵生成,，完全不需要使用者具備任何技術背景。

央視記者也指出,，這類AI合成服務正在快速普及,，成為不少“短視頻帶貨”商家的“隱形工具”。許多店鋪甚至將AI主播打造成全天候不間斷直播的人設,，通過循環(huán)播放錄制好的AI視頻,，節(jié)省了高昂的人工成本，同時還能“量產(chǎn)”帶貨內(nèi)容,。

真假難辨,，法律風險令人擔憂

AI合成視頻之所以引發(fā)擔憂，除了技術本身的突破，更關鍵在于其對真實身份與內(nèi)容的混淆所帶來的潛在風險,。一旦被用于非法用途,，如詐騙、誹謗,、輿論操控等后果,，將非常嚴重。

一位法律人士指出,，AI換臉換聲一旦未經(jīng)本人授權使用,，不僅涉嫌侵犯肖像權、姓名權,，還可能觸犯《民法典》中對人格權保護的相關條款,。尤其在商業(yè)場景下，擅自使用他人面容與聲音牟利,，構成侵權的風險極高,。

目前我國尚未形成針對AI合成視頻的系統(tǒng)性立法，但有關部門已多次發(fā)出警示信號,。例如,，2023年出臺的“生成式人工智能服務管理暫行辦法”中，就明確規(guī)定不得利用AI技術制作虛假信息,、誤導公眾,，更不得損害他人合法權益。

然而,，面對技術的迅猛發(fā)展,，現(xiàn)有法律框架仍顯滯后。AI換臉,、換聲的泛濫,，給個人信息安全、輿論生態(tài)乃至公共秩序都帶來了新的挑戰(zhàn),。

誰在用,？誰在賣？灰色市場悄然成型

這類服務的提供者主要分為兩類：一類是以小型技術工作室為主,，通過接單盈利,，服務內(nèi)容包括AI換聲、換臉,、合成廣告等,；另一類則是一些“平臺型商家”，在多個電商平臺開設店鋪,，承接各類“定制視頻”業(yè)務,，甚至形成標準報價和服務模板,。

而下單者也多種多樣。有自媒體從業(yè)者,、短視頻內(nèi)容生產(chǎn)者,，也有電商平臺賣家，甚至不乏有人用于私人娛樂或“惡搞”他人,。由于行業(yè)缺乏有效監(jiān)管,，部分商家甚至明示“可仿任意明星、主播形象”,，在暗地里挑戰(zhàn)法律紅線,。

一位業(yè)內(nèi)人士坦言，部分AI合成技術已經(jīng)達到了“真假難辨”的地步,，如果被別有用心者利用,，很容易制造混亂甚至引發(fā)刑事案件?！澳隳芸吹降臉幼?、聽到的聲音，都可能是假的,?！彼f。

從便利工具到輿論風險,，AI視頻的“雙刃劍”效應

AI技術本身并非原罪,。從某種角度看，它的出現(xiàn)確實極大提高了內(nèi)容生產(chǎn)效率,，特別是在短視頻,、在線客服、虛擬主播等領域,，已具備廣泛應用價值。然而,，當它被用來模仿,、篡改甚至偽造真人形象時，風險也隨之暴露,。

尤其是在直播電商領域,，消費者原本信任的“主播”是否真的存在？推薦產(chǎn)品的“意見領袖”是否真實體驗過商品,？AI的介入模糊了界限,，也削弱了信任。

專家指出,，在技術與商業(yè)的交匯點上,，迫切需要監(jiān)管跟上速度,，建立起完善的規(guī)則體系，既鼓勵創(chuàng)新,，又防范濫用,。同時，平臺方,、服務商和使用者也應自覺守法,，不越“紅線”。

看似玩笑,，實則隱患重重

從58元就能定制一個“虛擬自己”的視頻,，到廣泛存在的聲音克隆與AI換臉業(yè)務，一場新的信息安全挑戰(zhàn)正在悄然展開,。這不僅是技術的炫技,，更是對社會倫理、個人隱私和法律邊界的深度考驗,。

在AI不斷滲透進日常生活的今天,，每個人都可能在不知情的情況下，被“復制”成另一個自己,。如何在便利與風險之間找準平衡點,，將是技術發(fā)展過程中必須面對的一道現(xiàn)實難題。