他們給AI投幣1美元,，百萬女性被拖入地獄(6)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-09-14 10:49:03 網(wǎng)易

事情走向失控，大致在2019年,。

2019年,，一款號稱“30秒就能一鍵脫衣”的應(yīng)用DeepNude誕生了——諷刺的是，這款軟件用了一萬張女性裸體照片訓練而成,，當用戶輸入一張男性照片，他無法脫下男性的衣物,，只會為其添加一個女性的陰部,。

DeepNude的背后，是幾年間性能飛速提高的GAN技術(shù),，以及讓使用難度大幅下降的開源生態(tài),。這讓一名匿名的男性程序員Alberto（化名），基于加州大學伯克利分校的開源GAN架構(gòu),，快速開發(fā)出了DeepNude,。

一邊，是迅猛發(fā)展的AI技術(shù),，和逐漸繁榮的開源生態(tài),；另一邊，又是野蠻生長的Deepfake,，和沒有做好準備的社會意識和監(jiān)管體系,。

DeepNude讓非自愿裸照的制作,，變得像點擊按鈕一樣簡單。迫于輿論壓力,，DeepNude發(fā)布兩周后,，就選擇了自主下架。Alberto（化名）在采訪中解釋,，這款軟件的開發(fā)完全出于“有意思”和“好奇心”：“我不是偷窺狂,。我是技術(shù)的愛好者?！?/p>

DeepNude下架了,，但千萬個“DeepNude”，以更隱秘的姿態(tài),、更低的操作門檻,、更逼真的生成質(zhì)量，開始在互聯(lián)網(wǎng)泛濫,。

Deepfake與色情產(chǎn)業(yè)的相關(guān)數(shù)據(jù)制圖：智能涌現(xiàn)

在論壇Discord上,，DeepNude的安裝包以20美元的價格出售。匿名賣家在主頁中表示,，他們提高了DeepNude的穩(wěn)定性,，與此同時，還刪除了正版DeepNude給生成圖片添加的水印——這一切,，都讓Deepfake裸照,，看上去更加逼真。

下架不到三周,，DeepNude又被開發(fā)出了更易上手的模式,，成了嵌了Telegram上的一鍵脫衣Bot。

此后,，事件的走向,，和如今的韓國“N號房2.0”十分類似。Bot的使用者,，自發(fā)在Telegram上建立了社群,，超過10萬名成員，成了“N號房”的初代居民,。

最早監(jiān)測到這款Bot的網(wǎng)絡(luò)安全公司Sensity發(fā)現(xiàn),，上線不到一年，這款Bot已經(jīng)產(chǎn)生了68萬多名女性的虛假裸照,，約104852張女性照片被公開發(fā)布在這款應(yīng)用上,。

關(guān)閉

今日熱點