近期,,韓國發(fā)生多起利用深度偽造技術(shù)(deepfake)制作并傳播淫穢影像的案件,去年的時候俄羅斯進(jìn)攻烏克蘭后的第三周,,烏克蘭官網(wǎng)發(fā)布了一段烏克蘭總統(tǒng)澤連斯基的視頻,。在視頻中,,澤連斯基穿著他標(biāo)志性的綠色T恤,神情略顯僵硬地呼吁烏克蘭軍隊放下武器,,向俄羅斯投降,。這一視頻迅速引發(fā)了公眾的強烈反應(yīng),但很快人們發(fā)現(xiàn),,這其實是一個經(jīng)過篡改的假視頻,。
事實上,,這段視頻是黑客利用深度偽造技術(shù)制造的虛假內(nèi)容。深度偽造技術(shù),,也稱為Deepfake,,最早出現(xiàn)在一個名為“Reddit”的社交平臺上。在這個平臺的一個社區(qū)中,,用戶分享和傳播了大量女明星的虛假色情視頻,。這個社區(qū)不僅僅是分享這些虛假視頻,還提供了AI換臉軟件,,能夠自動將視頻中的人臉替換成另一個人,。盡管Reddit后來關(guān)閉了這個社區(qū),但這項技術(shù)已經(jīng)廣為人知,,并逐漸被應(yīng)用于政治人物和演員的視頻中,。
那么,什么是深度偽造技術(shù)呢,?
Deepfake一詞由“深度機器學(xué)習(xí)”(Deep Machine Learning)和“假照片”(Fake Photo)兩個詞組合而成,。它通過人工智能技術(shù)中的深度學(xué)習(xí)模型,將圖片或視頻疊加到原始內(nèi)容上,。借助神經(jīng)網(wǎng)絡(luò)技術(shù),,經(jīng)過對大量數(shù)據(jù)的學(xué)習(xí),將人的聲音,、面部表情及身體動作合成為非常逼真的虛假內(nèi)容,。深度偽造技術(shù)最常見的應(yīng)用是AI換臉,此外還包括語音模擬,、人臉合成和視頻生成等技術(shù),。
2018年,美國導(dǎo)演兼演員喬丹·皮爾(Jordan Peele)發(fā)布了一段視頻,,在這段視頻中,,奧巴馬的形象和口吻被用來發(fā)表一句“特朗普是一個笨蛋”的言論。這類視頻的制作需要大量的奧巴馬視頻或照片數(shù)據(jù),,這些數(shù)據(jù)被輸入到神經(jīng)網(wǎng)絡(luò)的軟件系統(tǒng)中,,系統(tǒng)會在仿造的形象與奧巴馬的真實形象之間建立統(tǒng)計關(guān)聯(lián)。如果你想讓仿造的奧巴馬說出他從未說過的話,,軟件需要學(xué)習(xí)特定單詞與奧巴馬嘴型之間的關(guān)聯(lián),。同樣的,如果需要進(jìn)行換臉操作,,軟件還需學(xué)習(xí)臉部與身體之間的關(guān)聯(lián),。
近期,,韓國面臨一項新興技術(shù)濫用的問題——深度偽造技術(shù)(Deepfake)被用于制作并傳播非法淫穢影像,引起了社會廣泛恐慌
2024-08-30 10:17:261分鐘科普什么是deepfake視頻?Deepfake技術(shù)的可怕之處主要體現(xiàn)在其對個人隱私,、社會信任以及法律倫理的挑戰(zhàn)上,。?
2024-08-29 16:10:23Deepfake韓國正面臨由深度偽造技術(shù)(Deepfake)驅(qū)動的性犯罪浪潮,,這些犯罪行為在Telegram群組中悄然蔓延
2024-08-29 18:31:49韓國新型性暴力產(chǎn)品層出不窮