AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機(jī)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-08-31 13:14:08 新京報(bào)

韓國再次面臨“N號(hào)房”類型的丑聞，這一次與“深度偽造犯罪”緊密相連,。這種犯罪形式利用先進(jìn)的人工智能技術(shù)創(chuàng)造出高度逼真的虛假內(nèi)容，導(dǎo)致女性受害者數(shù)目激增,，相關(guān)色情材料的傳播范圍和影響力遠(yuǎn)超以往。受害者們不得不跨越國界,，在包括中國微博在內(nèi)的多個(gè)社交平臺(tái)上發(fā)聲,，尋求更廣泛的關(guān)注與幫助。

深度偽造技術(shù)核心在于生成對抗網(wǎng)絡(luò)（GANs）和深度學(xué)習(xí),，通過算法的不斷迭代,，使生成的虛假內(nèi)容幾乎可以亂真。這一技術(shù)不僅限于視頻和圖像,，聲紋偽造同樣成為可能,。隨著AI技術(shù)的發(fā)展，一些旨在創(chuàng)造真實(shí)圖像的模型意外地促進(jìn)了AI換臉和AI生成不當(dāng)內(nèi)容的現(xiàn)象,，盡管部分功能已被調(diào)整,，但技術(shù)的開源性讓這類濫用難以徹底遏制。

在黑灰產(chǎn)領(lǐng)域,，這些技術(shù)被用來謀取利益,，如在Telegram平臺(tái)上，存在大量以AI色情為誘餌的群組,。一個(gè)公開可加入的群聊,，專注于利用AI技術(shù)偽造知名網(wǎng)絡(luò)紅人的色情圖片，成員規(guī)模竟達(dá)1.5萬人,，而通過付費(fèi),，用戶還能進(jìn)入更為私密、內(nèi)容更為露骨的群組,。Telegram的加密特性和特定功能為這些非法活動(dòng)提供了隱蔽空間,，虛擬貨幣的使用進(jìn)一步增加了監(jiān)管難度。

韓國成為深度偽造犯罪重災(zāi)區(qū),，部分原因在于法律執(zhí)行可能存在不足,，但更深層次的問題在于性別歧視文化。盡管韓國已有相關(guān)法律應(yīng)對,，如《Telegram“N號(hào)房”事件防治法》,，并計(jì)劃加大對深度偽造性犯罪的懲處力度，但社會(huì)對女性的性物化態(tài)度不改,，使得問題持續(xù)發(fā)酵,。尤其令人擔(dān)憂的是，這種技術(shù)在年輕群體中被當(dāng)作娛樂工具般濫用,，反映出社會(huì)價(jià)值觀的扭曲,。

針對防范和監(jiān)管，專家建議從控制技術(shù)擴(kuò)散著手,，比如AI平臺(tái)應(yīng)加強(qiáng)對使用者的審核,，打擊提供黑產(chǎn)技術(shù)支持的工具和網(wǎng)站。同時(shí),，探索推廣數(shù)字水印等防偽技術(shù),，確保內(nèi)容的真實(shí)可追溯性，內(nèi)容平臺(tái)也應(yīng)增強(qiáng)對深度偽造內(nèi)容的識(shí)別能力,。盡管完全阻止技術(shù)濫用不切實(shí)際,，但通過這些措施可以在一定程度上減少其負(fù)面影響。

(責(zé)任編輯：張蕾)

關(guān)閉

AI換臉為什么韓國最泛濫 性別歧視與技術(shù)濫用下的危機(jī)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機(jī)