AI換臉擬聲風(fēng)險怎么應(yīng)對治理挑戰(zhàn)與對策

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-12 10:41:12 臺海網(wǎng)

AI換臉擬聲風(fēng)險怎么應(yīng)對治理挑戰(zhàn)與對策,！“AI換臉擬聲”亂象頻現(xiàn)，引發(fā)社會廣泛關(guān)注。一些不法分子利用這一技術(shù)實施詐騙,，讓演藝界人士,、專家學(xué)者,、知名企業(yè)家等公眾人物深受其擾,。

AI換臉擬聲風(fēng)險怎么應(yīng)對

全國政協(xié)委員、中國煤礦文工團團長靳東在政協(xié)小組討論上表示,，AI換臉視頻給喜歡他作品的觀眾帶來了很大困擾,，希望建立更好的規(guī)則來應(yīng)對這種犯罪行為。同樣,，全國人大代表,、小米集團創(chuàng)始人雷軍也提到自己是“AI換臉擬聲”的受害者。去年國慶長假期間,，短視頻平臺上出現(xiàn)了大量“雷軍AI配音”的惡搞視頻,，不少網(wǎng)友因此感到困惑。雷軍指出,，“AI換臉擬聲”濫用導(dǎo)致侵犯肖像權(quán),、個人信息罪及詐騙等犯罪行為頻發(fā)，甚至造成大規(guī)模形象和聲譽損害,。他建議加快單行法立法進程,，強化行業(yè)自律共治，并加大普法宣傳力度,。

全國人大代表,、TCL創(chuàng)始人李東生建議加快出臺人工智能深度合成內(nèi)容標識管理規(guī)章制度，明確懲罰制度,，并加強國際合作,，有效監(jiān)管人工智能生成、合成內(nèi)容,。

隨著AI技術(shù)的發(fā)展,，“AI換臉擬聲”操作變得愈發(fā)簡單。只需獲取照片和聲音等個人信息,，就能以假亂真,。記者嘗試使用某款A(yù)I換臉軟件后發(fā)現(xiàn)，短短幾分鐘內(nèi)便能生成一段具有較高相似度的換臉視頻,。類似地,，聲音合成功能也能快速生成模仿目標人物的聲音。這些技術(shù)被不法分子利用,，在網(wǎng)絡(luò)上制造出各種違法亂象,，從假冒名人誘導(dǎo)中老年人轉(zhuǎn)賬到偽裝單位領(lǐng)導(dǎo)要求匯款，甚至有線上游戲平臺利用AI技術(shù)制作帶有賭博性質(zhì)的代言宣傳片,。

福州大學(xué)計算機與大數(shù)據(jù)學(xué)院博士生肖博懷表示,，GitHub等開源平臺上存在大量AI換臉、語音合成的開源代碼與工具,，大大降低了技術(shù)使用門檻,。盡管這些資源方便了合法創(chuàng)新探索，但也使得惡意利用技術(shù)變得輕而易舉。此外,，用戶在網(wǎng)絡(luò)注冊時風(fēng)險意識薄弱,，隨意填寫真實姓名,、身份證號等關(guān)鍵信息,，進一步加劇了問題的嚴重性。

近年來,，我國已頒布實施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī),，并完成《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》的社會意見征集。然而,，治理規(guī)則仍需不斷完善,。福建三山律師事務(wù)所主任洪必景認為，當前治理規(guī)則不夠完善,，導(dǎo)致利用人工智能侵權(quán)的違法成本極低,，受害者的維權(quán)成本極高。通過立法明確倫理規(guī)范和治理規(guī)則顯得十分迫切,。福建融成律師事務(wù)所合伙人齊海緒建議,，應(yīng)加快制定相關(guān)法律法規(guī)，明確技術(shù)應(yīng)用邊界與違法后果,，建立AI生成內(nèi)容強制標識制度,，增強信息透明度，同時強化互聯(lián)網(wǎng)平臺審核責(zé)任,，推動建立AI內(nèi)容追蹤溯源體系,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

AI換臉擬聲風(fēng)險怎么應(yīng)對 治理挑戰(zhàn)與對策

相關(guān)新聞

今日熱點

頻道熱點

AI換臉擬聲風(fēng)險怎么應(yīng)對治理挑戰(zhàn)與對策