花十元就能讓照片開口說話 AI技術(shù)濫用引爭議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-06-15 12:32:43 齊魯壹點

隨著人工智能技術(shù)的不斷進步,，網(wǎng)絡(luò)上利用AI技術(shù)“克隆”他人容貌、聲音的現(xiàn)象日益普遍,，由此引發(fā)的糾紛也日漸增多,。北京互聯(lián)網(wǎng)法院近期審理了一起全國首例AI生成聲音的侵權(quán)案件，判決中明確指出,，在AI生成的聲音能被識別為特定自然人的情況下,，該聲音權(quán)益的保護將延伸至AI生成的內(nèi)容，判定標(biāo)準(zhǔn)則基于普通聽眾能否辨認,。

專家們在接受訪問時強調(diào)，AI技術(shù)的發(fā)展和應(yīng)用必須建立在保護個人權(quán)益的基礎(chǔ)之上,。這要求提高技術(shù)的安全性與可靠性,，防止聲音等個人特征被非法濫用；同時,，行業(yè)內(nèi)部應(yīng)加強自律,，并構(gòu)建嚴格的監(jiān)管體系，確保AI技術(shù)的健康發(fā)展,，遵循以人為本的原則,。

當(dāng)前,，AI技術(shù)能夠高度逼真地合成聲音、圖像乃至視頻,，這種“以假亂真”的能力被不法分子利用,，實施如電信詐騙等犯罪活動。例如,，有人假冒他人聲音要求轉(zhuǎn)賬,，對受害者造成財產(chǎn)損失。法律專家指出,，聲音作為人格權(quán)的一部分受到法律保護,，未經(jīng)允許模仿或利用他人聲音謀利均構(gòu)成侵權(quán)。

AI技術(shù)還被用于“復(fù)活”已故人士,，這一做法引發(fā)了廣泛的倫理爭議,。電商平臺上的服務(wù)宣稱能基于AI技術(shù)使逝者的影像“開口說話”，價格依據(jù)復(fù)雜度而定,，最高可達萬元級別,，且生成內(nèi)容的相似度極高。法律專家表示,，此類行為若未經(jīng)權(quán)利人同意,，即便出于悼念也可能觸犯法律，特別是當(dāng)涉及商業(yè)盈利或其他違法目的時,。

為應(yīng)對AI語音合成技術(shù)帶來的侵權(quán)風(fēng)險,，國家網(wǎng)信辦等部門已出臺一系列管理規(guī)定和暫行辦法，要求服務(wù)提供者合法獲取訓(xùn)練數(shù)據(jù),，不得侵犯知識產(chǎn)權(quán)和個人信息,，并對生成內(nèi)容進行顯著標(biāo)識以避免混淆。同時,，科技部等機構(gòu)發(fā)布了科技倫理審查辦法,，涵蓋AI算法模型等相關(guān)領(lǐng)域的倫理審查。網(wǎng)絡(luò)平臺如抖音也發(fā)布了針對AI生成內(nèi)容的規(guī)范,，對違規(guī)行為實施嚴懲,。

專家建議，未來應(yīng)繼續(xù)完善AI領(lǐng)域的法律法規(guī),，細化聲音權(quán)益保護的界定,，規(guī)范技術(shù)應(yīng)用，加強技術(shù)倫理建設(shè),，提高公眾認知,，并在司法實踐中明確侵權(quán)責(zé)任，共同維護一個健康,、安全的AI技術(shù)環(huán)境,。

(責(zé)任編輯：張蕾)

關(guān)閉

花十元就能讓照片開口說話 AI技術(shù)濫用引爭議

相關(guān)新聞

今日熱點

頻道熱點