三只羊“財色錄音”是假的，但背后技術(shù)是真的恐怖 AI偽造聲音引法律爭議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-09-29 20:14:01 東方財富網(wǎng)

直播帶貨公司“三只羊”近期遭遇風(fēng)波,，一段據(jù)稱是其創(chuàng)始人盧文慶在醉酒狀態(tài)下錄制的音頻在網(wǎng)上流傳,，內(nèi)容關(guān)乎客服投訴、競爭者以及與三位女主播的關(guān)系,，迅速成為熱議焦點,。9月26日，安徽合肥警方介入調(diào)查后宣布,，該音頻實為AI偽造,，并已拘捕一名25歲男性嫌疑人，從其設(shè)備及使用的AI音頻制作網(wǎng)站中找到了犯罪證據(jù),。次日,，深圳言域科技有限公司承認(rèn)，涉事音頻采用其“Reecho睿聲”技術(shù)基于盧文慶的直播片段生成,，公司隨即強化了安全控制措施,。

此事引發(fā)了對AI聲音克隆技術(shù)真實度的廣泛討論，尤其是該技術(shù)能夠復(fù)制包括地方口音在內(nèi)的復(fù)雜特征,，令人難以分辨真假,。深圳言域科技,，一家成立不久的公司，憑借其能快速克隆人聲的技術(shù)產(chǎn)品吸引了關(guān)注,，其客戶名單中不乏知名公司,。其C端產(chǎn)品操作簡便，用戶僅需上傳音頻樣本,，AI即可學(xué)習(xí)并生成對應(yīng)聲音念出任意文本,，甚至提供“瞬時克隆”和“專業(yè)克隆”選項，價格親民,。

然而,，該技術(shù)的普及性和易獲取性引起了對隱私權(quán)、版權(quán)及法律邊界的擔(dān)憂,。有AI專家指出,，雖然目前的聲音克隆技術(shù)在短時間內(nèi)生成的聲音可能在長篇幅時顯得不自然，但通過分段生成和后期編輯,，仍能制作出高度仿真的音頻,。深圳言域的產(chǎn)品因允許用戶自由上傳音頻文件進(jìn)行克隆，而不局限于本人聲音,，被認(rèn)為存在風(fēng)險,。市場上雖有其他公司如深聲科技等也在研發(fā)類似技術(shù)，但多針對企業(yè)客戶,，且在使用權(quán)限上更為謹(jǐn)慎,。

法律專家強調(diào)，未經(jīng)許可使用他人聲音可能構(gòu)成民事侵權(quán),，隨著AI技術(shù)的進(jìn)步,，深度偽造內(nèi)容的制作與傳播門檻降低，對互聯(lián)網(wǎng)信息的真實性構(gòu)成了挑戰(zhàn),。當(dāng)前,，監(jiān)管政策正在逐步完善，要求深度合成服務(wù)提供商承擔(dān)起信息安全責(zé)任,，包括事前預(yù)防,、內(nèi)容審核及事后應(yīng)對措施,。深圳言域科技雖已采取一定措施,，如實施實名認(rèn)證，但在聲音克隆的范圍約束及用戶提醒方面仍有不足,，且未發(fā)現(xiàn)其完成相關(guān)算法系統(tǒng)的備案,。

此次事件凸顯了AI聲音克隆技術(shù)的雙刃劍特性，既展現(xiàn)了技術(shù)的創(chuàng)新潛力,，也暴露了伴隨而來的法律與倫理挑戰(zhàn),，促使社會各界思考如何在推動技術(shù)進(jìn)步的同時,，有效防范潛在風(fēng)險。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

三只羊“財色錄音”是假的，但背后技術(shù)是真的恐怖 AI偽造聲音引法律爭議

相關(guān)新聞

今日熱點

頻道熱點