從“一眼假”到“真假難辨”再到“深度偽造”,，生成一條音頻只需20秒,。濫用公眾人物聲音惡搞，AI技術(shù)應(yīng)用“玩過界”被質(zhì)疑。

近日,，一些短視頻平臺出現(xiàn)了大量某知名企業(yè)家吐槽的視頻,。在這些視頻中,，該企業(yè)家對堵車,、調(diào)休、游戲等熱門話題進(jìn)行了調(diào)侃和銳評,，甚至夾雜不雅詞匯,，引發(fā)網(wǎng)友熱議。事實上,，這些吐槽視頻并非該企業(yè)家本人發(fā)聲,，而是由網(wǎng)友利用AI軟件采集其原音生成的配音，逼真的效果讓不少人信以為真,。

AI的發(fā)展為生活帶來便利的同時,，也引發(fā)了質(zhì)疑。以AI語音合成技術(shù)為例,，只需要打開軟件,、動動手指，一條以假亂真的配音視頻就能新鮮出爐,。然而,，有的視頻越過了開玩笑的邊界，“偷走”他人聲音進(jìn)行惡搞,、造謠,，帶來了惡劣的社會影響。

記者在社交軟件上檢索發(fā)現(xiàn)，不少用戶發(fā)布了AI配音的相關(guān)視頻生成教程,。其中大部分配音都源于某擬真語音大模型應(yīng)用,。在該應(yīng)用網(wǎng)站上，創(chuàng)作者上傳任意人物的一段音頻作為訓(xùn)練素材,，隨后AI通過學(xué)習(xí)可克隆出一個聲音角色,。其他用戶只需輸入文本，便可以使用該聲音生成內(nèi)容,。記者按照指引添加了上述知名企業(yè)家的聲音角色,，輸入一段100字的文本后點擊“開始生成”，約20秒就生成了一條與該企業(yè)家聲音相似度極高的AI音頻,。截至目前,，該聲音角色已被使用79.9萬次，生成字符數(shù)達(dá)4455.5萬個,。

被“偷走”聲音的公眾人物還有不少。今年9月底,，一段據(jù)稱是某直播平臺老板盧某某的酒后錄音在網(wǎng)絡(luò)上流傳,，整體呈現(xiàn)出盧某某對于消費者的傲慢態(tài)度，以及對相關(guān)人士的不尊重表達(dá),，為該平臺招致不小的爭議,。后經(jīng)警方調(diào)查，音頻內(nèi)容不實,，系大模型偽造而成,。一位業(yè)內(nèi)人士表示，通過模仿音頻樣本的語調(diào),、語速,、情感、口音,、發(fā)聲方式等特征,，AI技術(shù)已經(jīng)能夠高度還原音頻樣本的聲音，達(dá)到人耳和其他鑒定方式難以區(qū)分的程度,。

中國社會科學(xué)院大學(xué)法學(xué)院副教授劉曉春表示,，在未經(jīng)過授權(quán)、未進(jìn)行標(biāo)注的情況下,，用他人聲音制作AI語音產(chǎn)品,，尤其是“借用”公眾人物的聲音，很容易引起誤解,，這不僅會侵害個人信息安全,，還可能擾亂網(wǎng)絡(luò)空間生態(tài)秩序。

當(dāng)前，不少網(wǎng)友在合成他人的AI音頻時,，僅抱著娛樂心態(tài),，并沒有意識到背后隱藏的法律風(fēng)險。北京盈善律師事務(wù)所律師張清鑫分析稱,，自然人的聲音具有唯一性,、獨特性，是自然人人格的重要組成部分,，聲音權(quán)益是人格權(quán)的一種,。制作并上傳他人AI音頻的行為，無論是出于商業(yè)目的還是娛樂目的,，都已構(gòu)成對其人格權(quán)的侵犯,。如果配音內(nèi)容違法或違反公序良俗，可能侵犯他人的名譽權(quán),。

今年4月,，北京互聯(lián)網(wǎng)法院一審開庭宣判了全國首例AI生成聲音人格權(quán)侵權(quán)案。該案中,，配音師因認(rèn)為自身作品被短視頻平臺利用AI生成語音產(chǎn)品,，嚴(yán)重侵犯了自己的聲音權(quán)益，將短視頻平臺及制作方等5家公司訴至法院,，最終原告獲賠經(jīng)濟(jì)損失25萬元,。法院認(rèn)為，AI聲音與原告聲音具有高度一致性,，能夠引起一般人產(chǎn)生與原告有關(guān)的思想或感情活動,，能夠?qū)⒃撀曇袈?lián)系到原告本人。在具備可識別性的前提下,，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音,。

清華大學(xué)新聞與傳播學(xué)院新媒體研究中心發(fā)布的研究報告顯示，近一年來,，經(jīng)濟(jì)與企業(yè)類AI謠言量增長顯著,。受訪專家表示，法律法規(guī)和治理手段要跟上科技發(fā)展的步伐,，對AI技術(shù)的應(yīng)用進(jìn)行明確約束,，引導(dǎo)科技向善。張清鑫認(rèn)為,，AI語音應(yīng)用工具提供方要把好第一道關(guān),，強(qiáng)化對源頭素材的把控和對生成內(nèi)容的監(jiān)管，完善運營規(guī)則,，并在出現(xiàn)問題時積極配合有關(guān)部門追溯違法音頻的生成源頭,。

國家網(wǎng)信辦發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》提出，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施規(guī)范生成合成內(nèi)容傳播活動。包括提供必要的標(biāo)識功能,，并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容等,。劉曉春建議，除了提示用戶進(jìn)行標(biāo)識以外,，平臺也應(yīng)對AI生成內(nèi)容建立甄別和追蹤機(jī)制,。如果發(fā)現(xiàn)涉嫌偽造的內(nèi)容或者接到相關(guān)投訴，應(yīng)當(dāng)要求內(nèi)容發(fā)布者及時對偽造內(nèi)容進(jìn)行標(biāo)識,，在不標(biāo)識的情況之下,，可以根據(jù)平臺規(guī)則刪除內(nèi)容，造成嚴(yán)重后果的可以進(jìn)行禁言,、封號等處理,。