近日,，央視曝光了一則引發(fā)廣泛關(guān)注的新聞——在多個(gè)購物平臺(tái)上,，花費(fèi)幾十元就能輕松定制一段“AI合成帶貨視頻”。這種技術(shù)看似高端復(fù)雜,，實(shí)際上早已悄然流入普通市場(chǎng)，甚至形成了一條灰色產(chǎn)業(yè)鏈,。

花58元就能買到AI合成帶貨視頻 央視起底購物平臺(tái)定制AI合成視頻,，帶貨視頻可“定制”

聲音、臉部皆可合成,，58元“定制”視頻成現(xiàn)實(shí)

據(jù)央視記者調(diào)查,，在一些購物平臺(tái)上，只需搜索關(guān)鍵詞如“聲音克隆”“AI合成”等,，就會(huì)彈出大量提供相關(guān)服務(wù)的商家,。這些商家公開叫賣AI換聲,、換臉服務(wù)，價(jià)格從幾十元起步,，門檻極低,，令人震驚。

一位記者親自下單體驗(yàn),，僅花了58元,，便在某網(wǎng)店定制了一段“記者本人”出鏡的帶貨短視頻。整段視頻中,，記者的面容和聲音都與本人極為相似,，甚至連語氣和神態(tài)都十分逼真，若非當(dāng)事人知情,，很難分辨真假,。

商家表示，只需客戶提供一小段語音樣本（大約一分鐘左右）,、一張照片或者一段視頻素材,，AI技術(shù)便可模擬其聲線及面部動(dòng)作，將任意臺(tái)詞“嫁接”到客戶提供的人物形象上,。聲音合成的價(jià)格通常按照字?jǐn)?shù)計(jì)費(fèi),，每百字20元到50元不等，而整合成完整視頻則另算價(jià)格,。

專家：普通人已能“輕松偽造”個(gè)人視頻形象

盡管專家指出,，目前多數(shù)AI換臉、換聲類軟件仍屬于半專業(yè)工具,，操作復(fù)雜程度并非人人能掌握,。但事實(shí)表明，經(jīng)過“包裝”后的服務(wù),，已經(jīng)讓門外漢也能簡(jiǎn)單上手,。尤其是在商家的“模板化操作”下，只需提交素材,，其余的由技術(shù)方一鍵生成,，完全不需要使用者具備任何技術(shù)背景。

央視記者也指出,，這類AI合成服務(wù)正在快速普及,，成為不少“短視頻帶貨”商家的“隱形工具”。許多店鋪甚至將AI主播打造成全天候不間斷直播的人設(shè),，通過循環(huán)播放錄制好的AI視頻,，節(jié)省了高昂的人工成本，同時(shí)還能“量產(chǎn)”帶貨內(nèi)容。

真假難辨,，法律風(fēng)險(xiǎn)令人擔(dān)憂

AI合成視頻之所以引發(fā)擔(dān)憂,，除了技術(shù)本身的突破，更關(guān)鍵在于其對(duì)真實(shí)身份與內(nèi)容的混淆所帶來的潛在風(fēng)險(xiǎn),。一旦被用于非法用途,，如詐騙、誹謗,、輿論操控等后果,，將非常嚴(yán)重。

一位法律人士指出,，AI換臉換聲一旦未經(jīng)本人授權(quán)使用,，不僅涉嫌侵犯肖像權(quán)、姓名權(quán),，還可能觸犯《民法典》中對(duì)人格權(quán)保護(hù)的相關(guān)條款,。尤其在商業(yè)場(chǎng)景下，擅自使用他人面容與聲音牟利,，構(gòu)成侵權(quán)的風(fēng)險(xiǎn)極高,。

目前我國(guó)尚未形成針對(duì)AI合成視頻的系統(tǒng)性立法，但有關(guān)部門已多次發(fā)出警示信號(hào),。例如,，2023年出臺(tái)的“生成式人工智能服務(wù)管理暫行辦法”中，就明確規(guī)定不得利用AI技術(shù)制作虛假信息,、誤導(dǎo)公眾,，更不得損害他人合法權(quán)益。

然而,，面對(duì)技術(shù)的迅猛發(fā)展,，現(xiàn)有法律框架仍顯滯后。AI換臉,、換聲的泛濫,，給個(gè)人信息安全、輿論生態(tài)乃至公共秩序都帶來了新的挑戰(zhàn),。

誰在用,？誰在賣？灰色市場(chǎng)悄然成型

這類服務(wù)的提供者主要分為兩類：一類是以小型技術(shù)工作室為主,，通過接單盈利,，服務(wù)內(nèi)容包括AI換聲、換臉,、合成廣告等；另一類則是一些“平臺(tái)型商家”，在多個(gè)電商平臺(tái)開設(shè)店鋪,，承接各類“定制視頻”業(yè)務(wù),，甚至形成標(biāo)準(zhǔn)報(bào)價(jià)和服務(wù)模板。

而下單者也多種多樣,。有自媒體從業(yè)者,、短視頻內(nèi)容生產(chǎn)者，也有電商平臺(tái)賣家,，甚至不乏有人用于私人娛樂或“惡搞”他人,。由于行業(yè)缺乏有效監(jiān)管，部分商家甚至明示“可仿任意明星,、主播形象”,，在暗地里挑戰(zhàn)法律紅線。

一位業(yè)內(nèi)人士坦言,，部分AI合成技術(shù)已經(jīng)達(dá)到了“真假難辨”的地步,，如果被別有用心者利用，很容易制造混亂甚至引發(fā)刑事案件,?！澳隳芸吹降臉幼印⒙牭降穆曇?，都可能是假的,。”他說,。

從便利工具到輿論風(fēng)險(xiǎn),，AI視頻的“雙刃劍”效應(yīng)

AI技術(shù)本身并非原罪。從某種角度看,，它的出現(xiàn)確實(shí)極大提高了內(nèi)容生產(chǎn)效率,，特別是在短視頻、在線客服,、虛擬主播等領(lǐng)域,，已具備廣泛應(yīng)用價(jià)值。然而,，當(dāng)它被用來模仿,、篡改甚至偽造真人形象時(shí)，風(fēng)險(xiǎn)也隨之暴露,。

尤其是在直播電商領(lǐng)域,，消費(fèi)者原本信任的“主播”是否真的存在？推薦產(chǎn)品的“意見領(lǐng)袖”是否真實(shí)體驗(yàn)過商品,？AI的介入模糊了界限,，也削弱了信任,。

專家指出，在技術(shù)與商業(yè)的交匯點(diǎn)上,，迫切需要監(jiān)管跟上速度,，建立起完善的規(guī)則體系，既鼓勵(lì)創(chuàng)新,，又防范濫用,。同時(shí)，平臺(tái)方,、服務(wù)商和使用者也應(yīng)自覺守法,，不越“紅線”。

看似玩笑,，實(shí)則隱患重重

從58元就能定制一個(gè)“虛擬自己”的視頻,，到廣泛存在的聲音克隆與AI換臉業(yè)務(wù)，一場(chǎng)新的信息安全挑戰(zhàn)正在悄然展開,。這不僅是技術(shù)的炫技,，更是對(duì)社會(huì)倫理、個(gè)人隱私和法律邊界的深度考驗(yàn),。

在AI不斷滲透進(jìn)日常生活的今天,，每個(gè)人都可能在不知情的情況下，被“復(fù)制”成另一個(gè)自己,。如何在便利與風(fēng)險(xiǎn)之間找準(zhǔn)平衡點(diǎn),，將是技術(shù)發(fā)展過程中必須面對(duì)的一道現(xiàn)實(shí)難題。