近期,韓國發(fā)生多起利用深度偽造技術(shù)(deepfake)制作并傳播淫穢影像的案件,,去年的時(shí)候俄羅斯進(jìn)攻烏克蘭后的第三周,,烏克蘭官網(wǎng)發(fā)布了一段烏克蘭總統(tǒng)澤連斯基的視頻。在視頻中,,澤連斯基穿著他標(biāo)志性的綠色T恤,,神情略顯僵硬地呼吁烏克蘭軍隊(duì)放下武器,向俄羅斯投降,。這一視頻迅速引發(fā)了公眾的強(qiáng)烈反應(yīng),,但很快人們發(fā)現(xiàn),這其實(shí)是一個(gè)經(jīng)過篡改的假視頻。
事實(shí)上,,這段視頻是黑客利用深度偽造技術(shù)制造的虛假內(nèi)容,。深度偽造技術(shù),也稱為Deepfake,,最早出現(xiàn)在一個(gè)名為“Reddit”的社交平臺(tái)上,。在這個(gè)平臺(tái)的一個(gè)社區(qū)中,用戶分享和傳播了大量女明星的虛假色情視頻,。這個(gè)社區(qū)不僅僅是分享這些虛假視頻,,還提供了AI換臉軟件,能夠自動(dòng)將視頻中的人臉替換成另一個(gè)人,。盡管Reddit后來關(guān)閉了這個(gè)社區(qū),,但這項(xiàng)技術(shù)已經(jīng)廣為人知,并逐漸被應(yīng)用于政治人物和演員的視頻中,。
那么,,什么是深度偽造技術(shù)呢?
Deepfake一詞由“深度機(jī)器學(xué)習(xí)”(Deep Machine Learning)和“假照片”(Fake Photo)兩個(gè)詞組合而成,。它通過人工智能技術(shù)中的深度學(xué)習(xí)模型,,將圖片或視頻疊加到原始內(nèi)容上。借助神經(jīng)網(wǎng)絡(luò)技術(shù),,經(jīng)過對大量數(shù)據(jù)的學(xué)習(xí),,將人的聲音、面部表情及身體動(dòng)作合成為非常逼真的虛假內(nèi)容,。深度偽造技術(shù)最常見的應(yīng)用是AI換臉,,此外還包括語音模擬、人臉合成和視頻生成等技術(shù),。
2018年,,美國導(dǎo)演兼演員喬丹·皮爾(Jordan Peele)發(fā)布了一段視頻,在這段視頻中,,奧巴馬的形象和口吻被用來發(fā)表一句“特朗普是一個(gè)笨蛋”的言論,。這類視頻的制作需要大量的奧巴馬視頻或照片數(shù)據(jù),這些數(shù)據(jù)被輸入到神經(jīng)網(wǎng)絡(luò)的軟件系統(tǒng)中,,系統(tǒng)會(huì)在仿造的形象與奧巴馬的真實(shí)形象之間建立統(tǒng)計(jì)關(guān)聯(lián),。如果你想讓仿造的奧巴馬說出他從未說過的話,軟件需要學(xué)習(xí)特定單詞與奧巴馬嘴型之間的關(guān)聯(lián),。同樣的,,如果需要進(jìn)行換臉操作,軟件還需學(xué)習(xí)臉部與身體之間的關(guān)聯(lián),。
近期,,韓國面臨一項(xiàng)新興技術(shù)濫用的問題——深度偽造技術(shù)(Deepfake)被用于制作并傳播非法淫穢影像,引起了社會(huì)廣泛恐慌
2024-08-30 10:17:261分鐘科普什么是deepfake視頻?Deepfake技術(shù)的可怕之處主要體現(xiàn)在其對個(gè)人隱私,、社會(huì)信任以及法律倫理的挑戰(zhàn)上,。?
2024-08-29 16:10:23Deepfake韓國正面臨由深度偽造技術(shù)(Deepfake)驅(qū)動(dòng)的性犯罪浪潮,,這些犯罪行為在Telegram群組中悄然蔓延
2024-08-29 18:31:49韓國新型性暴力產(chǎn)品層出不窮