AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機(jī)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-08-31 13:14:08 新京報(bào)

韓國再次面臨“N號(hào)房”類型的丑聞,，這一次與“深度偽造犯罪”緊密相連,。這種犯罪形式利用先進(jìn)的人工智能技術(shù)創(chuàng)造出高度逼真的虛假內(nèi)容，導(dǎo)致女性受害者數(shù)目激增,，相關(guān)色情材料的傳播范圍和影響力遠(yuǎn)超以往。受害者們不得不跨越國界,，在包括中國微博在內(nèi)的多個(gè)社交平臺(tái)上發(fā)聲,，尋求更廣泛的關(guān)注與幫助。

深度偽造技術(shù)核心在于生成對(duì)抗網(wǎng)絡(luò)（GANs）和深度學(xué)習(xí),，通過算法的不斷迭代,，使生成的虛假內(nèi)容幾乎可以亂真,。這一技術(shù)不僅限于視頻和圖像，聲紋偽造同樣成為可能,。隨著AI技術(shù)的發(fā)展,，一些旨在創(chuàng)造真實(shí)圖像的模型意外地促進(jìn)了AI換臉和AI生成不當(dāng)內(nèi)容的現(xiàn)象，盡管部分功能已被調(diào)整,，但技術(shù)的開源性讓這類濫用難以徹底遏制,。

在黑灰產(chǎn)領(lǐng)域，這些技術(shù)被用來謀取利益,，如在Telegram平臺(tái)上,，存在大量以AI色情為誘餌的群組。一個(gè)公開可加入的群聊,，專注于利用AI技術(shù)偽造知名網(wǎng)絡(luò)紅人的色情圖片,，成員規(guī)模竟達(dá)1.5萬人，而通過付費(fèi),，用戶還能進(jìn)入更為私密,、內(nèi)容更為露骨的群組。Telegram的加密特性和特定功能為這些非法活動(dòng)提供了隱蔽空間,，虛擬貨幣的使用進(jìn)一步增加了監(jiān)管難度,。

韓國成為深度偽造犯罪重災(zāi)區(qū)，部分原因在于法律執(zhí)行可能存在不足,，但更深層次的問題在于性別歧視文化,。盡管韓國已有相關(guān)法律應(yīng)對(duì)，如《Telegram“N號(hào)房”事件防治法》,，并計(jì)劃加大對(duì)深度偽造性犯罪的懲處力度,，但社會(huì)對(duì)女性的性物化態(tài)度不改，使得問題持續(xù)發(fā)酵,。尤其令人擔(dān)憂的是,，這種技術(shù)在年輕群體中被當(dāng)作娛樂工具般濫用，反映出社會(huì)價(jià)值觀的扭曲,。

針對(duì)防范和監(jiān)管,，專家建議從控制技術(shù)擴(kuò)散著手，比如AI平臺(tái)應(yīng)加強(qiáng)對(duì)使用者的審核,，打擊提供黑產(chǎn)技術(shù)支持的工具和網(wǎng)站,。同時(shí)，探索推廣數(shù)字水印等防偽技術(shù),，確保內(nèi)容的真實(shí)可追溯性,，內(nèi)容平臺(tái)也應(yīng)增強(qiáng)對(duì)深度偽造內(nèi)容的識(shí)別能力。盡管完全阻止技術(shù)濫用不切實(shí)際,，但通過這些措施可以在一定程度上減少其負(fù)面影響,。

(責(zé)任編輯：張蕾)

關(guān)閉

AI換臉為什么韓國最泛濫 性別歧視與技術(shù)濫用下的危機(jī)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機(jī)