三只羊“財色錄音”是假的,，但背后技術(shù)是真的恐怖 AI偽造聲音引法律爭議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-09-29 20:14:01 東方財富網(wǎng)

直播帶貨公司“三只羊”近期遭遇風波，一段據(jù)稱是其創(chuàng)始人盧文慶在醉酒狀態(tài)下錄制的音頻在網(wǎng)上流傳,，內(nèi)容關(guān)乎客服投訴,、競爭者以及與三位女主播的關(guān)系，迅速成為熱議焦點,。9月26日,，安徽合肥警方介入調(diào)查后宣布，該音頻實為AI偽造,，并已拘捕一名25歲男性嫌疑人,，從其設(shè)備及使用的AI音頻制作網(wǎng)站中找到了犯罪證據(jù)。次日,，深圳言域科技有限公司承認,，涉事音頻采用其“Reecho睿聲”技術(shù)基于盧文慶的直播片段生成，公司隨即強化了安全控制措施,。

此事引發(fā)了對AI聲音克隆技術(shù)真實度的廣泛討論,，尤其是該技術(shù)能夠復(fù)制包括地方口音在內(nèi)的復(fù)雜特征，令人難以分辨真假,。深圳言域科技,，一家成立不久的公司，憑借其能快速克隆人聲的技術(shù)產(chǎn)品吸引了關(guān)注,，其客戶名單中不乏知名公司,。其C端產(chǎn)品操作簡便，用戶僅需上傳音頻樣本,，AI即可學習并生成對應(yīng)聲音念出任意文本,，甚至提供“瞬時克隆”和“專業(yè)克隆”選項，價格親民,。

然而,，該技術(shù)的普及性和易獲取性引起了對隱私權(quán)、版權(quán)及法律邊界的擔憂,。有AI專家指出,，雖然目前的聲音克隆技術(shù)在短時間內(nèi)生成的聲音可能在長篇幅時顯得不自然，但通過分段生成和后期編輯,，仍能制作出高度仿真的音頻,。深圳言域的產(chǎn)品因允許用戶自由上傳音頻文件進行克隆,，而不局限于本人聲音，被認為存在風險,。市場上雖有其他公司如深聲科技等也在研發(fā)類似技術(shù),，但多針對企業(yè)客戶，且在使用權(quán)限上更為謹慎,。

法律專家強調(diào),，未經(jīng)許可使用他人聲音可能構(gòu)成民事侵權(quán)，隨著AI技術(shù)的進步,，深度偽造內(nèi)容的制作與傳播門檻降低,，對互聯(lián)網(wǎng)信息的真實性構(gòu)成了挑戰(zhàn)。當前,，監(jiān)管政策正在逐步完善,，要求深度合成服務(wù)提供商承擔起信息安全責任,，包括事前預(yù)防,、內(nèi)容審核及事后應(yīng)對措施。深圳言域科技雖已采取一定措施,，如實施實名認證,，但在聲音克隆的范圍約束及用戶提醒方面仍有不足，且未發(fā)現(xiàn)其完成相關(guān)算法系統(tǒng)的備案,。

此次事件凸顯了AI聲音克隆技術(shù)的雙刃劍特性,，既展現(xiàn)了技術(shù)的創(chuàng)新潛力，也暴露了伴隨而來的法律與倫理挑戰(zhàn),，促使社會各界思考如何在推動技術(shù)進步的同時,，有效防范潛在風險。

(責任編輯：張小花 TT1000)

關(guān)閉

三只羊“財色錄音”是假的,，但背后技術(shù)是真的恐怖 AI偽造聲音引法律爭議

相關(guān)新聞

今日熱點

頻道熱點