他們給AI投幣1美元，百萬女性被拖入地獄

那張照片,，會(huì)跟著我一輩子嗎？”

一年多前,，伍華在韓國(guó)旅游，途中在社交媒體上發(fā)布了一張帶有韓國(guó)定位的照片,。回國(guó)不到三天,，朋友發(fā)給她一張截圖，是一個(gè)和她的頭像,、網(wǎng)名幾乎一樣的賬號(hào)。不同的地方是,，賬號(hào)里的文字被替換成韓語，個(gè)人簡(jiǎn)介里,，還出現(xiàn)了一個(gè)陌生網(wǎng)址。

令伍華震驚的是,，點(diǎn)開高仿賬戶里的網(wǎng)址,，會(huì)導(dǎo)向一個(gè)色情頻道，污穢不堪的付費(fèi)視頻陳列其中——主角,，全都被AI換成了她的臉。

直到今年8月末,，關(guān)注到韓國(guó)Deepfake事件時(shí)，“我被一陣巨大的后怕席卷,。”伍華告訴《智能涌現(xiàn)》,，“太惡心、太難受了,?！?/p>

回想起點(diǎn)開這些AI視頻的的第一感受,，伍華依舊語帶哽咽。盡管高仿賬號(hào)已經(jīng)被她舉報(bào)刪除，但她不確定自己的臉,，還有沒有被用在其他地方,。

Deepfake（專指基于AI的人體圖像合成技術(shù)）技術(shù)催生出的“N號(hào)房2.0事件”,，正在讓隔海相鄰的韓國(guó)陷入巨大漩渦,。不計(jì)其數(shù)的女性,，成為了男性用AI捕獲的“獵物”,。

仁荷大學(xué)的一位男學(xué)生，組建起了一個(gè)超過1200成員的聊天室,。他們利用Deepfake技術(shù),，將學(xué)校中的女生的臉龐,，安放到到各種黃色影像上，群聊中還公開分享她們的聯(lián)系方式,。他們給AI投幣1美元,，百萬女性被拖入地獄！

從仁荷大學(xué)開始,，一場(chǎng)巨大的合謀被迅速揭開,，Deepfake也因此被稱為“N號(hào)房2.0事件”。從8月20日開始,，韓國(guó)媒體,、警方陸續(xù)揪出了大量與學(xué)校,、醫(yī)院、軍隊(duì)體系中的類似聊天室,。

22萬,，這是韓國(guó)披露的人數(shù)最多的Deepfake聊天室成員人數(shù)。而韓國(guó)范圍內(nèi),，幾乎每一個(gè)中學(xué),、大學(xué)都有這樣的“凌辱房”。

在群聊中,，男性以自己生活中熟識(shí)的女性為羞辱對(duì)象,，用各種Deepfake工具，將女性的臉換到各種淫穢不堪的圖像,、視頻中,。而后，群內(nèi)的男性會(huì)開始共同進(jìn)行言語羞辱,，甚至發(fā)展到線下威脅,、騷擾。

規(guī)模較大的羞辱房,，甚至還會(huì)細(xì)分成不同的小房間,，比如家屬羞辱房。男性甚至偷拍自己的媽媽,、姐姐,、妹妹的照片傳到群聊中。

△聊天室中,，有男性將親妹妹的照片上傳其中（照片已被紅色馬賽克遮擋）,，配文為翻譯成中文的聊天記錄。

2019年,，震驚全球的N號(hào)房事件發(fā)生時(shí),，就有網(wǎng)友語帶諷刺：“全韓國(guó)的出租車總數(shù)只有26萬臺(tái)，這意味著,，你在街上碰見N號(hào)房會(huì)員的概率,，和碰見出租車一樣?！?/p>

這句話,，不僅能用在今日的Deepfake聊天室上，真實(shí)的情況更加觸目驚心,。

N號(hào)房1.0基本以真實(shí)的盜攝內(nèi)容為主,，這意味著犯罪者還需要自行拍攝，獲取素材,。但Deepfake技術(shù)越來越成熟后,，Deepfake房的犯罪成本降至極低——AI生成的圖像,、視頻，內(nèi)容逼真到讓人恍惚,。

今年5月,，一位40歲的首爾大學(xué)畢業(yè)生樸某被逮捕，他用48名女性受害者的照片,，制作了1852份性剝削內(nèi)容,，受害者都是他在生活中認(rèn)識(shí)的女性。

一位在首爾的老師,，發(fā)現(xiàn)自己也成為了“熟人凌辱房”的主角,，始作俑者是她執(zhí)教班級(jí)的學(xué)生，但她無法得知是哪一位,。

“那張照片會(huì)跟著我一輩子嗎,？”她崩潰地向媒體訴說。

Deepfake事件爆出后,，志愿者根據(jù)媒體報(bào)道,、匿名投稿核實(shí)，制作了一張涉及Deepfake加害者地圖,。紅色標(biāo)記密密麻麻,，幾乎要將韓國(guó)中心地帶淹沒。

△志愿者整理的“加害者學(xué)校地圖”,，紅點(diǎn)幾乎要將韓國(guó)中心地帶的地圖淹沒來源：https://deepfakemap.kr

根據(jù)網(wǎng)絡(luò)安全監(jiān)測(cè)機(jī)構(gòu)SecurityHero的統(tǒng)計(jì),，2023年韓國(guó)的Deepfake色性產(chǎn)業(yè)，就占到了全球的53%——與之相對(duì)的,，韓國(guó)2023年的GDP,，還不到全球的2%。

△2023年全球Deepfake色情產(chǎn)業(yè)分布制圖：智能涌現(xiàn)

被絕望和憤怒沖擊的韓國(guó)女性,，不得不在壓抑的輿論中四處奔走。

“我的生活不是你的色情片,！”“女性沒有國(guó)家,！”她們憤怒地在社交媒體高呼。

沉默中的圍剿戰(zhàn)

沒人知道確切的女性受害者數(shù)字是多少,。大學(xué)生智英每日灌下大杯大杯的咖啡,，只為了保持清醒狀態(tài)?！拔液ε洛e(cuò)過受害者的任何一條投稿,。”

智英不敢停下,。自8月下旬開始,，她幾乎失去了睡眠,。

一場(chǎng)圍剿戰(zhàn)正在進(jìn)行中。

在推特上,，智英與韓國(guó)男性不停周旋,。她的推特賬號(hào)早已實(shí)時(shí)被男性們監(jiān)控，剛上傳的,、呼吁大家舉報(bào)的厭女內(nèi)容網(wǎng)址,，下一分鐘網(wǎng)址就被修改了。這意味著,，厭女者們一直在盯著智英的推文,。

在和我們的交流中，她還嘗試使用變聲器——所有在推特上為這次事件活躍的女性博主,，都是韓男“開盒”（人肉搜索）的頭號(hào)目標(biāo),，她無法透露自己的任何信息。

在女性地位低下的韓國(guó)社會(huì),，女權(quán)主義者早已是個(gè)危險(xiǎn)的標(biāo)簽,。韓國(guó)最大的女權(quán)主義推特Queens Archive就因?yàn)樽钕扰禗eepfake聊天室事件，被韓國(guó)男性舉報(bào)至炸號(hào),。

“有時(shí)候我們根本不洗澡,、不睡覺，一直熬到凌晨三四點(diǎn),?！敝怯?duì)《智能涌現(xiàn)》表示。她和推特上的“戰(zhàn)友”,，急切地將所有Deepfake相關(guān)信息,、受害者保護(hù)指南、女性主義科普翻譯成英語,，在推特上不間斷傳播,。

Deepfake事件涉及的加害者、受害者雙方,，其年齡范圍比起N號(hào)房1.0都要更小,。2024年1月至7月，韓國(guó)立案?jìng)刹榱?97起深度偽造性剝削犯罪,，共計(jì)抓獲178名嫌疑人,，其中131人是十幾歲的青少年，占比73.6%,。

不少人將其比作“N號(hào)房2.0事件”,，但與之相比，現(xiàn)在的輿論熱度,，根本不能同日而語,。在不少女性眼中,，韓國(guó)政府和警方的態(tài)度，可以用“消極”來形容,。

用AI制作的性羞辱內(nèi)容,，由于“并不是真實(shí)的”，一開始甚至沒有進(jìn)入到警方,、政府的視野,。

“當(dāng)年的N號(hào)房事件，政府就沒有進(jìn)行正當(dāng)?shù)奶幚?。所以,，現(xiàn)在Deepfake事件中的男性，很多都是未成年,，受害者中也有很多是未成年人,，加害者更不會(huì)覺得有什么后果，也不會(huì)坐牢,?！敝怯?duì)《智能涌現(xiàn)》說。

在本次Deepfake事件中,，目前韓國(guó)警方只逮捕了15個(gè)人左右,，有的加害者直接跑到海外，以移民的方式逃避刑罰,。

“Deepfake事件,，加上此前的N號(hào)房、Soranet等數(shù)字性犯罪案例,，受害者預(yù)計(jì)有超過100萬人之多,，沒有人知道確切的數(shù)字?！爸怯⒏械竭z憾,，“所以如果我們不盡快向政府施壓，政府就不會(huì)做任何事情,?！?/p>

韓國(guó)女性開始向外求救，接力將Deepfake事件的內(nèi)容傳播到中國(guó),、日本的社交媒體上。

△來源：微博

韓國(guó)大學(xué)生恩靜就跑到小紅書上,，用機(jī)翻的生疏口吻請(qǐng)求關(guān)注,、擴(kuò)散，不斷被封號(hào),、刪帖也不曾放棄,。而在微博上的韓女呼救微博,，在短短兩天內(nèi)就被轉(zhuǎn)近15萬次。

△來源：小紅書

無人知道這些努力最終能夠?qū)蚝畏?。恩靜告訴《智能涌現(xiàn)》,，她的親妹妹現(xiàn)在也是一位中學(xué)生，學(xué)校除了簡(jiǎn)單囑咐女生保護(hù)自己,，再無其他措施——她和妹妹只能將社交平臺(tái)上所有帶臉的照片刪除,，每日穿長(zhǎng)褲出門。

而海外輿論爆發(fā)后,，韓國(guó)政府才終于認(rèn)真跟進(jìn)這一事件,。近期韓國(guó)不同政黨最近的公開發(fā)言，都離不開Deepfake事件,?！笆录仨毝唐趦?nèi)解決?！彼麄儽硎?。

“Deepfake羞辱房”，無處不在

當(dāng)一名毫無AI技術(shù)基礎(chǔ),、留在“墻內(nèi)”的中國(guó)男性,，成為Deepfake加害者，前期需要付出怎樣的作案成本,？

在SecurityHero的報(bào)告中,，中國(guó)的Deepfake色情視頻數(shù)量，占全球的3%,。與韓國(guó)（53%）和美國(guó)（20%）相比,，這是一個(gè)并不高的數(shù)字。然而,，由于報(bào)告統(tǒng)計(jì)的數(shù)據(jù)大多來源于海外網(wǎng)站,，中國(guó)Deepfake色情產(chǎn)業(yè)的實(shí)際規(guī)模，遠(yuǎn)不止這些,。

在海外社交平臺(tái)X（原為Twitter）上檢索“Deepfake”,，很快出現(xiàn)一名中國(guó)Deepfake工具賣家。他的帖文露骨地寫著“AI脫衣”“捆綁”“比基尼”等字眼,，但主頁卻聲明：“僅提供AI工具,，對(duì)用途概不負(fù)責(zé)?！?/p>

X,、Instagram、Facebook等海外社交平臺(tái)，僅僅是打開潘多拉魔盒的一把鑰匙,。不少中國(guó)從業(yè)者,，用“vx”“扣”“zfb”等字眼，隱晦地指代交易的最終場(chǎng)所：微信,、QQ,、閑魚，甚至還有支付寶的交易界面,。

通過留在X上的QQ號(hào),，我們聯(lián)系上了一名賣家。為了逃避平臺(tái)的監(jiān)管,，他的個(gè)性簽名是“嚴(yán)禁違禁詞,，僅供娛樂使用，傳播后果自負(fù)”,。從頭至尾,，他表現(xiàn)得和一般軟件銷售無異，整段對(duì)話沒有提及任何“性”相關(guān)的詞匯,。

但“性”,，又成了這場(chǎng)交易心照不宣的目的。很快,，對(duì)方用QQ“閃照（點(diǎn)開3秒后照片就會(huì)消失）”功能,，發(fā)來兩張打滿馬賽克的Deepdake效果圖。

△作者與Deepfake工具賣家的QQ聊天記錄,，已舉報(bào)給騰訊官方平臺(tái)

點(diǎn)開大圖,，馬賽克隨即消失——一張凹著不自然Deepfake照，出現(xiàn)在了屏幕上,。

3秒后,，女性的照片，連同用以維權(quán)舉證的證據(jù),，一同消失在了聊天記錄中,。

即便在國(guó)內(nèi)，讓女性經(jīng)歷一場(chǎng)賽博羞辱,，并從法律制裁中逃逸,，也如此簡(jiǎn)單。

作為脫去女性外衣的新型兇器,，AI的出現(xiàn),，讓網(wǎng)絡(luò)性侵害的成本更低、速度卻更快,。在從業(yè)者發(fā)來的產(chǎn)品目錄中,，一段用AI生成的10秒內(nèi)換臉視頻30元,，一張AI裸照只要10元，價(jià)目表上還特別注明：買5送1,。

但一開始，Deepfake的背后,、一項(xiàng)名為“生成對(duì)抗網(wǎng)絡(luò)（GAN）”的技術(shù),，還幾近人畜無害。

2014年誕生在谷歌大腦實(shí)驗(yàn)室的GAN,，有著難以普及的一切要素：軟件安裝難度大,、操作的技術(shù)門檻高，同時(shí)還需要昂貴的訓(xùn)練數(shù)據(jù)集和算力資源,。這讓Deepfake一度待在實(shí)驗(yàn)室里,，沒有被大眾廣泛使用。

事情走向失控,，大致在2019年,。

2019年，一款號(hào)稱“30秒就能一鍵脫衣”的應(yīng)用DeepNude誕生了——諷刺的是,，這款軟件用了一萬張女性裸體照片訓(xùn)練而成,，當(dāng)用戶輸入一張男性照片，他無法脫下男性的衣物,，只會(huì)為其添加一個(gè)女性的陰部,。

DeepNude的背后，是幾年間性能飛速提高的GAN技術(shù),，以及讓使用難度大幅下降的開源生態(tài),。這讓一名匿名的男性程序員Alberto（化名），基于加州大學(xué)伯克利分校的開源GAN架構(gòu),，快速開發(fā)出了DeepNude,。

一邊，是迅猛發(fā)展的AI技術(shù),，和逐漸繁榮的開源生態(tài),；另一邊，又是野蠻生長(zhǎng)的Deepfake,，和沒有做好準(zhǔn)備的社會(huì)意識(shí)和監(jiān)管體系,。

DeepNude讓非自愿裸照的制作，變得像點(diǎn)擊按鈕一樣簡(jiǎn)單,。迫于輿論壓力,，DeepNude發(fā)布兩周后，就選擇了自主下架,。Alberto（化名）在采訪中解釋,，這款軟件的開發(fā)完全出于“有意思”和“好奇心”：“我不是偷窺狂,。我是技術(shù)的愛好者?！?/p>

DeepNude下架了,，但千萬個(gè)“DeepNude”，以更隱秘的姿態(tài),、更低的操作門檻,、更逼真的生成質(zhì)量，開始在互聯(lián)網(wǎng)泛濫,。

Deepfake與色情產(chǎn)業(yè)的相關(guān)數(shù)據(jù)制圖：智能涌現(xiàn)

在論壇Discord上,，DeepNude的安裝包以20美元的價(jià)格出售。匿名賣家在主頁中表示,，他們提高了DeepNude的穩(wěn)定性,，與此同時(shí)，還刪除了正版DeepNude給生成圖片添加的水印——這一切,，都讓Deepfake裸照,，看上去更加逼真。

下架不到三周,，DeepNude又被開發(fā)出了更易上手的模式,，成了嵌了Telegram上的一鍵脫衣Bot。

此后,，事件的走向,，和如今的韓國(guó)“N號(hào)房2.0”十分類似。Bot的使用者,，自發(fā)在Telegram上建立了社群,，超過10萬名成員，成了“N號(hào)房”的初代居民,。

最早監(jiān)測(cè)到這款Bot的網(wǎng)絡(luò)安全公司Sensity發(fā)現(xiàn),，上線不到一年，這款Bot已經(jīng)產(chǎn)生了68萬多名女性的虛假裸照,，約104852張女性照片被公開發(fā)布在這款應(yīng)用上,。

向下的維權(quán)螺旋

從2019年至今，圍剿DeepNude的行動(dòng)一直在進(jìn)行,。

2019年7月,，美國(guó)弗吉尼亞州通過了一條有關(guān)色情禁令的法律修正案，禁止出售或傳播計(jì)算機(jī)生成的色情內(nèi)容,。同年年末,，推特、谷歌,、Facebook等平臺(tái)著手整治Deepfake視頻,，措施包括給Deepfake視頻打水印,、贊助檢測(cè)Deepfake的相關(guān)研究項(xiàng)目。

然而,，無論是韓國(guó)“N號(hào)房2.0”,，還是隱匿在QQ、支付寶,、閑魚中的地下灰產(chǎn),，都印證了一個(gè)令人沮喪的現(xiàn)實(shí)：Deepfake從未真正消失。

2019年,，多倫多大學(xué)公民實(shí)驗(yàn)室曾發(fā)表了一項(xiàng)研究，試圖探索微信如何自動(dòng)審查巨量聊天中的圖片,。結(jié)果顯示,，微信對(duì)朋友圈和群聊的審查力度，大于一對(duì)一的私密聊天,，同時(shí),，政治和社會(huì)新聞，是微信圖片審查的核心主題,。

這意味著,，平臺(tái)對(duì)色情內(nèi)容的監(jiān)管，依然存在漏洞,。私密聊天中進(jìn)行的Deepfake色情交易,，很難通過平臺(tái)進(jìn)行披露，除非由人主動(dòng)檢舉,。

但人一定能主動(dòng)站出來嗎,？

北京市兩高律師事務(wù)所副主任張荊，20年來經(jīng)手了不少侵害女性權(quán)益的案件,。多年來,，她幫助女性和具體到個(gè)人的加害者、不公平的結(jié)構(gòu),，甚至法律系統(tǒng)的漏洞抗?fàn)?。但Deepfake性侵害的發(fā)生，讓她覺得女性的斗爭(zhēng),，又走到了一個(gè)更為復(fù)雜的關(guān)卡,。

“在技術(shù)不那么發(fā)達(dá)的過去，女性遭受性犯罪,，起碼能知道具體的受害者是誰,，女性受到的傷害可以通過司法鑒定被量化?！睆埱G告訴《智能涌現(xiàn)》,。但如今,，無論是Deepfake內(nèi)容的制作者，還是傳播者,，都面目模糊,、數(shù)量難以確定，這對(duì)取證和量刑,，都造成了極大的困難,。

“報(bào)警不就好了？”在網(wǎng)絡(luò)上,，不少旁觀者都提出了疑問,，甚至有不少受害女性也曾認(rèn)為，報(bào)警就好了,。

但在報(bào)警之前,，女性還要走過漫長(zhǎng)的取證之路。張荊告訴《智能涌現(xiàn)》,，“想要立案為刑事案件,，去司法機(jī)關(guān)報(bào)案的前提是有基本的證據(jù)?！?/p>

而這些基本證據(jù)又包括：Deepfake傳播的具體網(wǎng)站,、侵權(quán)圖片的數(shù)量（數(shù)量過少不足以被立案）、傳播范圍（傳播范圍過小不足以被立案）,。

“說實(shí)話,，對(duì)于不經(jīng)常上網(wǎng)的人來說，完成這一步并不容易,，她們可能甚至連網(wǎng)站該怎么進(jìn)入都不知道,。”張荊總結(jié),。

即便女性順利走到了報(bào)警,、立案的一步，加害者的處置結(jié)果往往不盡如人意,。

在中國(guó)裁判文書網(wǎng)中輸入“AI換臉”,，一共只有16篇文書，最早的一起案件發(fā)生在2022年,。兩年來,，能夠訴諸刑事案件的Deepfake侵害事件，數(shù)量為0,。

在層層阻礙下,，女性針對(duì)Deepfake的維權(quán)，成了一條不斷向下的螺旋：社會(huì)的壓力,，和嚴(yán)苛的立案流程,，導(dǎo)致鮮少有愿意站出來的女性受害者,；女性聲量的不足，以及立案數(shù)量的稀少,，又讓立法的推進(jìn)變得愈發(fā)艱難,。

2023年12月，在中國(guó)臺(tái)灣省,，曾有一起判例,，給了Deepfake受害女性些許希望。網(wǎng)名為“小玉”的男網(wǎng)紅朱玉宸,，使用Deepfake技術(shù),，將100多位知名女性合成A片，上網(wǎng)販賣獲利超過1300萬臺(tái)幣（約288萬元）,。最終,，他以違反《個(gè)人資料保護(hù)法》等罪名被起訴，并被判處5年有期徒刑,。

只是，五年就夠了嗎,？

“過去的黃色錄像帶,、3D影片，是一個(gè)具體的小眾產(chǎn)業(yè),，傳播很難對(duì)一個(gè)鮮活的人產(chǎn)生傷害,。”張荊說,，“但今天的Deepfake,，和過去色情產(chǎn)業(yè)的本質(zhì)區(qū)別在于，它的傳播,，會(huì)對(duì)生活中具體的人產(chǎn)生傷害,。”

這意味著,，“依照傳播淫穢色情內(nèi)容對(duì)Deepfake進(jìn)行量刑,，程度一定是會(huì)偏輕的?！彼偨Y(jié),。

加害者面前的，是看得到頭的5年刑罰,，但創(chuàng)傷可能會(huì)伴隨女性走過更為漫長(zhǎng)的歲月,。

15歲那年，經(jīng)歷來自后桌男生的Deepfake騷擾后,，小魚開始不希望夏天到來,。白色的短袖校服一旦被汗水浸濕,，就會(huì)透出女生的內(nèi)衣和身體的曲線。接近40攝氏度的高溫下,，小魚依然選擇穿兩件短袖,，阻擋男生的視線。

小魚告訴《智能涌現(xiàn)》,，她覺得告訴老師和家長(zhǎng),，都是無用功。她記得,，班上有男生曾經(jīng)開女生的黃色玩笑,，或是拽拉內(nèi)衣的帶子，但最后老師的回應(yīng)是：都是小孩子之間的玩笑,。

如今,，離被騷擾已經(jīng)過去了一年多的時(shí)間。升入高中后,，小魚和后桌男生失去了聯(lián)系,，生活又歸于平淡。只是,，夏天穿兩件短袖的習(xí)慣,，被小魚保持到了現(xiàn)在。

人類,，還沒有做好應(yīng)對(duì)Deepfake的準(zhǔn)備

在很長(zhǎng)一段時(shí)間內(nèi),，現(xiàn)實(shí)可能依舊慘淡。

看到韓國(guó)Deepfake事件后,，鹿影科技聯(lián)創(chuàng)李倩憤怒透頂,，當(dāng)即拉著創(chuàng)始人頭腦風(fēng)暴到深夜，口干舌燥之余,，二人都很沮喪,。“可能要帶給你一個(gè)壞消息：沒有什么辦法能夠從技術(shù)上,，直接把Deepfake性暴力給殺掉,。”李倩對(duì)《智能涌現(xiàn)》說,。

雖然無法直接根除,，“以其人之道還其人之身”，是一條常規(guī)路徑,。

瑞萊智慧聯(lián)合創(chuàng)始人蕭子豪向《智能涌現(xiàn)》介紹,，公司內(nèi)部會(huì)定期組織“紅藍(lán)對(duì)抗”，把工程師會(huì)分為“紅軍”“藍(lán)軍”兩派，讓“紅軍”模擬真實(shí)的攻擊,，而“藍(lán)軍”負(fù)責(zé)應(yīng)對(duì)處置,。“紅軍”一派的工程師們,，為了了解黑產(chǎn)手段,，甚至?xí)摲胶诋a(chǎn)群體中尋找線索，持續(xù)創(chuàng)新攻擊手段,。

對(duì)于用AI對(duì)抗Deepfake的人們來說,，每天的工作，就是對(duì)抗各種意想不到的新案例,。2周調(diào)優(yōu)一個(gè)新版本,、2個(gè)月迭代一版大模型，幾乎是標(biāo)配,。

但這更多是在問題出現(xiàn)前后的預(yù)警提示,。真正的侵害發(fā)生后，要想保護(hù)女性,，更多需要依靠司法編織的網(wǎng),。

2022年11月，中國(guó)出臺(tái)了第一條明確針對(duì)Deepfake提出的規(guī)定：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,。這一規(guī)定對(duì)Deepfake內(nèi)容制作者,、技術(shù)服務(wù)提供商，以及制作,、傳播發(fā)布行為，都做出了規(guī)制,。

但從法規(guī)的制定到真正落實(shí),，還有一條漫長(zhǎng)道路。近20年來,，張荊觀察到,，無論是辦理刑事案件的律師，還是接到報(bào)案的警察,、最終負(fù)責(zé)審判的檢察機(jī)關(guān),，大多都是男性。

“這是一個(gè)結(jié)構(gòu)性的問題,，甚至立法機(jī)關(guān),，也基本上是男性?！睆埱G曾經(jīng)參加過一個(gè)有關(guān)廢除嫖宿幼女罪（比強(qiáng)奸罪量刑更輕）的研討會(huì),。

在場(chǎng)的不少男性律師，給出了不少支持保留嫖宿幼女罪的理由,，其中一個(gè)是：如果改用強(qiáng)奸罪定罪,，犯罪行為人可能會(huì)鋌而走險(xiǎn),，反而讓女性受害人陷入危險(xiǎn)的境地。

現(xiàn)有的成功讓加害者被拘留,、定罪的個(gè)例,，大多是女性積極自救的結(jié)果。

2023年的蘇州大學(xué)黃謠和AI換臉事件中,，受害者就潛入傳播AI偽造圖像的聊天房,，進(jìn)行取證，并利用排除法,，將不同標(biāo)記的照片在朋友圈中分組發(fā)布,，進(jìn)行逐個(gè)排除，最終將加害者抓獲,。

要進(jìn)一步推動(dòng)Deepfake性侵害的立法,，和社會(huì)意識(shí)的前進(jìn)，還需要一個(gè)真正的判例,。

“有了判例,，這段女性被迫害史才更有可能被寫進(jìn)義務(wù)教育的教科書，讓性別教育前進(jìn)一步,?！?/strong>一名在日本的女權(quán)活動(dòng)者告訴《智能涌現(xiàn)》。

當(dāng)下的AI行業(yè),，其實(shí)還是一個(gè)相當(dāng)由男性主導(dǎo)的領(lǐng)域,。某種程度上，從研發(fā)到產(chǎn)品落地過程中,，都極易讓女性成為被AI“壓迫”的群體,，成為產(chǎn)業(yè)中的一環(huán)。

李倩觀察到的一個(gè)數(shù)據(jù)是,，從互聯(lián)網(wǎng)獲得的視頻模型訓(xùn)練數(shù)據(jù),，40%涉及成人內(nèi)容，而其中的8成,，內(nèi)容都是女性身體,。

“色情，是當(dāng)下AI C端產(chǎn)品最成功的商業(yè)模式,?！?/strong>一名投資人對(duì)《智能涌現(xiàn)》如此評(píng)價(jià)。最終,，Deepfake的泛濫被歸結(jié)到了一個(gè)商業(yè)現(xiàn)實(shí)：用AI販賣女性身體,，會(huì)給利益者帶來豐厚的商業(yè)回報(bào)。

對(duì)抗商業(yè)慣性，十分困難,。

在融資過程中,，部分投資人，無論男女都會(huì)告訴李倩,，YoYo（鹿影科技的AI視頻創(chuàng)作平臺(tái)）如果對(duì)黃色擦邊內(nèi)容稍微寬容些,，商業(yè)化會(huì)更順利。

從第一天起女性友好,，對(duì)人力,、資金有限的AI初創(chuàng)公司而言，要不要走出這一步,，是個(gè)尤為艱難的決定,。李倩告訴“智能涌現(xiàn)”，從訓(xùn)練數(shù)據(jù)中剔除40%的黃色數(shù)據(jù),，意味著要花額外的成本補(bǔ)全,；如果花人力和時(shí)間給用戶輸入的提示詞設(shè)置違禁詞，產(chǎn)品迭代的速度至少慢兩個(gè)月,。

“做創(chuàng)業(yè)者,，是不是就要無性別地，看待商業(yè)世界,？”但經(jīng)歷Deepfake事件后,，李倩已經(jīng)不這么認(rèn)為了，“一旦開閘,，行業(yè)又多了一塊驅(qū)逐良幣的劣幣,。”

如果女性能夠在行業(yè)中獲取更多技術(shù)主導(dǎo)權(quán),，未來會(huì)變得不一樣,。

2024年9月4日，中科院的女工程師張欣怡,，將自己團(tuán)隊(duì)研發(fā)的Deepfake對(duì)抗模型，向全球開源,。一旦有人需要幫助,，就可以免費(fèi)使用模型來檢測(cè)Deepfake內(nèi)容。

在自己的微博中,，張欣怡寫到：“如果一個(gè)人的火把太小,，我們就把火把傳給世界的每一個(gè)人?！?/p>

當(dāng)新技術(shù)席卷世界,，司法、技術(shù)都尚未完全跟上時(shí)，普通人每一次的發(fā)聲,、行動(dòng),，才是社會(huì)進(jìn)程得以向前推進(jìn)的原因。

韓國(guó)就是一個(gè)活生生的例子——在極度男性主義的國(guó)家,，女性權(quán)益的每進(jìn)一步,，都由布滿血和汗的斗爭(zhēng)之路造就。

自2015年之后,，韓國(guó)女性在#MeToo,、消除網(wǎng)絡(luò)性暴力、終止懷孕非刑罪化等議題上開展了一系列女性主義運(yùn)動(dòng),，通過展開議題討論,、集會(huì)游行等等形式，這些活動(dòng)從社會(huì)意識(shí),、立法制度層面,，都爭(zhēng)取到了寶貴的成果。

曾經(jīng)揭露N號(hào)房丑聞的兩位女記者姜京允,、樸孝實(shí),，經(jīng)受了曠日持久的網(wǎng)絡(luò)謾罵、侮辱和精神折磨,，其中一位記者甚至多次流產(chǎn),。

但韓女從沒有停下腳步。N號(hào)房事件后,，韓國(guó)就成立了專注于反對(duì)性剝削犯罪的女性團(tuán)體“RESET”,，推動(dòng)了包括網(wǎng)絡(luò)性犯罪相關(guān)法例的制定過程。而今年5月,，將Deepfake其中一名嫌疑人送進(jìn)監(jiān)獄的,，正是此前曾揭露N號(hào)房的兩位大學(xué)生記者之一。

不能停止,，不能放棄,，是我們接觸到的，奔走在Deepfake事件一線的韓國(guó)女性想法,?！斑@不是僅僅為了我們這一代而奮斗，而是為了所有人的命運(yùn),，”智英說,，“我想要一個(gè)我的朋友、家人和所有女性都感到安全的世界,?！?/strong>

不同人種,、國(guó)籍的女性，都開始了對(duì)韓國(guó)女性的聲援,。當(dāng)?shù)貢r(shí)間9月3日,，一群居住在倫敦的中國(guó)女權(quán)主義者，從特拉法加廣場(chǎng)走到韓國(guó)大使館,，高唱起韓國(guó)女權(quán)運(yùn)動(dòng)的標(biāo)志性歌曲《再次重逢的世界》,，聲討韓國(guó)偷拍、AI偽造等等非法行為,。

紅色的字,，被印在各式各樣的橫幅標(biāo)語上：“我的生活，不是你的色情片,?！?/p>

△當(dāng)?shù)貢r(shí)間9月3日，一群居住在倫敦的中國(guó)女性主義者進(jìn)行了反偷拍,、反Deepfake游行,。圖源：倫敦的中國(guó)女權(quán)主義者

（為保護(hù)受訪者，智英,、恩靜,、小魚均為化名。感謝星星,、xwf,、十月、lakyo,、阿雞,、倫敦姐妹在訪談中提供的協(xié)助。）

他們給AI投幣1美元,，百萬女性被拖入地獄,！