近期,,韓國發(fā)生多起利用深度偽造技術(deepfake)制作并傳播淫穢影像的案件,,去年的時候俄羅斯進攻烏克蘭后的第三周,,烏克蘭官網發(fā)布了一段烏克蘭總統(tǒng)澤連斯基的視頻,。在視頻中,,澤連斯基穿著他標志性的綠色T恤,,神情略顯僵硬地呼吁烏克蘭軍隊放下武器,,向俄羅斯投降,。這一視頻迅速引發(fā)了公眾的強烈反應,,但很快人們發(fā)現(xiàn),這其實是一個經過篡改的假視頻,。
事實上,,這段視頻是黑客利用深度偽造技術制造的虛假內容。深度偽造技術,,也稱為Deepfake,,最早出現(xiàn)在一個名為“Reddit”的社交平臺上。在這個平臺的一個社區(qū)中,用戶分享和傳播了大量女明星的虛假色情視頻,。這個社區(qū)不僅僅是分享這些虛假視頻,,還提供了AI換臉軟件,能夠自動將視頻中的人臉替換成另一個人,。盡管Reddit后來關閉了這個社區(qū),,但這項技術已經廣為人知,并逐漸被應用于政治人物和演員的視頻中,。
那么,,什么是深度偽造技術呢?
Deepfake一詞由“深度機器學習”(Deep Machine Learning)和“假照片”(Fake Photo)兩個詞組合而成,。它通過人工智能技術中的深度學習模型,,將圖片或視頻疊加到原始內容上。借助神經網絡技術,,經過對大量數據的學習,,將人的聲音、面部表情及身體動作合成為非常逼真的虛假內容,。深度偽造技術最常見的應用是AI換臉,,此外還包括語音模擬、人臉合成和視頻生成等技術,。
2018年,,美國導演兼演員喬丹·皮爾(Jordan Peele)發(fā)布了一段視頻,在這段視頻中,,奧巴馬的形象和口吻被用來發(fā)表一句“特朗普是一個笨蛋”的言論,。這類視頻的制作需要大量的奧巴馬視頻或照片數據,這些數據被輸入到神經網絡的軟件系統(tǒng)中,,系統(tǒng)會在仿造的形象與奧巴馬的真實形象之間建立統(tǒng)計關聯(lián),。如果你想讓仿造的奧巴馬說出他從未說過的話,軟件需要學習特定單詞與奧巴馬嘴型之間的關聯(lián),。同樣的,,如果需要進行換臉操作,軟件還需學習臉部與身體之間的關聯(lián),。
近期,,韓國面臨一項新興技術濫用的問題——深度偽造技術(Deepfake)被用于制作并傳播非法淫穢影像,,引起了社會廣泛恐慌
2024-08-30 10:17:261分鐘科普什么是deepfake視頻?Deepfake技術的可怕之處主要體現(xiàn)在其對個人隱私,、社會信任以及法律倫理的挑戰(zhàn)上,。?
2024-08-29 16:10:23Deepfake近期,網絡上流傳著一名自稱為“住在韓國的少女”的求助信息,,她指出韓國存在廣泛且嚴重的“deep fake”現(xiàn)象,,即有人利用熟人的社交媒體照片和頭像制作虛假圖像,以此來戲弄和欺騙女性
2024-08-30 11:28:41韓國deepfake韓國正面臨由深度偽造技術(Deepfake)驅動的性犯罪浪潮,,這些犯罪行為在Telegram群組中悄然蔓延
2024-08-29 18:31:49韓國新型性暴力產品層出不窮