他們給AI投幣1美元，百萬女性被拖入地獄

那張照片,，會跟著我一輩子嗎,？”

一年多前，伍華在韓國旅游,，途中在社交媒體上發(fā)布了一張帶有韓國定位的照片,。回國不到三天,，朋友發(fā)給她一張截圖,，是一個和她的頭像、網(wǎng)名幾乎一樣的賬號,。不同的地方是,，賬號里的文字被替換成韓語，個人簡介里,，還出現(xiàn)了一個陌生網(wǎng)址,。

令伍華震驚的是，點開高仿賬戶里的網(wǎng)址,，會導(dǎo)向一個色情頻道,，污穢不堪的付費視頻陳列其中——主角，全都被AI換成了她的臉,。

直到今年8月末,，關(guān)注到韓國Deepfake事件時，“我被一陣巨大的后怕席卷,?！蔽槿A告訴《智能涌現(xiàn)》，“太惡心、太難受了,?！?/p>

回想起點開這些AI視頻的的第一感受，伍華依舊語帶哽咽,。盡管高仿賬號已經(jīng)被她舉報刪除,，但她不確定自己的臉，還有沒有被用在其他地方,。

Deepfake（專指基于AI的人體圖像合成技術(shù)）技術(shù)催生出的“N號房2.0事件”,，正在讓隔海相鄰的韓國陷入巨大漩渦。不計其數(shù)的女性,，成為了男性用AI捕獲的“獵物”,。

仁荷大學(xué)的一位男學(xué)生，組建起了一個超過1200成員的聊天室,。他們利用Deepfake技術(shù),，將學(xué)校中的女生的臉龐，安放到到各種黃色影像上,，群聊中還公開分享她們的聯(lián)系方式,。他們給AI投幣1美元，百萬女性被拖入地獄,！

從仁荷大學(xué)開始,，一場巨大的合謀被迅速揭開,，Deepfake也因此被稱為“N號房2.0事件”,。從8月20日開始，韓國媒體,、警方陸續(xù)揪出了大量與學(xué)校,、醫(yī)院、軍隊體系中的類似聊天室,。

22萬,，這是韓國披露的人數(shù)最多的Deepfake聊天室成員人數(shù)。而韓國范圍內(nèi),，幾乎每一個中學(xué),、大學(xué)都有這樣的“凌辱房”。

在群聊中,，男性以自己生活中熟識的女性為羞辱對象,，用各種Deepfake工具，將女性的臉換到各種淫穢不堪的圖像,、視頻中,。而后，群內(nèi)的男性會開始共同進行言語羞辱，甚至發(fā)展到線下威脅,、騷擾,。

規(guī)模較大的羞辱房，甚至還會細分成不同的小房間,，比如家屬羞辱房,。男性甚至偷拍自己的媽媽、姐姐,、妹妹的照片傳到群聊中,。

△聊天室中，有男性將親妹妹的照片上傳其中（照片已被紅色馬賽克遮擋）,，配文為翻譯成中文的聊天記錄,。

2019年，震驚全球的N號房事件發(fā)生時,，就有網(wǎng)友語帶諷刺：“全韓國的出租車總數(shù)只有26萬臺,，這意味著，你在街上碰見N號房會員的概率,，和碰見出租車一樣,。”

這句話,，不僅能用在今日的Deepfake聊天室上,，真實的情況更加觸目驚心。

N號房1.0基本以真實的盜攝內(nèi)容為主,，這意味著犯罪者還需要自行拍攝,，獲取素材。但Deepfake技術(shù)越來越成熟后,，Deepfake房的犯罪成本降至極低——AI生成的圖像,、視頻，內(nèi)容逼真到讓人恍惚,。

今年5月,，一位40歲的首爾大學(xué)畢業(yè)生樸某被逮捕，他用48名女性受害者的照片,，制作了1852份性剝削內(nèi)容,，受害者都是他在生活中認(rèn)識的女性。

一位在首爾的老師,，發(fā)現(xiàn)自己也成為了“熟人凌辱房”的主角,，始作俑者是她執(zhí)教班級的學(xué)生，但她無法得知是哪一位,。

“那張照片會跟著我一輩子嗎,？”她崩潰地向媒體訴說,。

Deepfake事件爆出后，志愿者根據(jù)媒體報道,、匿名投稿核實,，制作了一張涉及Deepfake加害者地圖。紅色標(biāo)記密密麻麻,，幾乎要將韓國中心地帶淹沒,。

△志愿者整理的“加害者學(xué)校地圖”，紅點幾乎要將韓國中心地帶的地圖淹沒來源：https://deepfakemap.kr

根據(jù)網(wǎng)絡(luò)安全監(jiān)測機構(gòu)SecurityHero的統(tǒng)計,，2023年韓國的Deepfake色性產(chǎn)業(yè),，就占到了全球的53%——與之相對的，韓國2023年的GDP,，還不到全球的2%,。

△2023年全球Deepfake色情產(chǎn)業(yè)分布制圖：智能涌現(xiàn)

被絕望和憤怒沖擊的韓國女性，不得不在壓抑的輿論中四處奔走,。

“我的生活不是你的色情片,！”“女性沒有國家！”她們憤怒地在社交媒體高呼,。

沉默中的圍剿戰(zhàn)

沒人知道確切的女性受害者數(shù)字是多少,。大學(xué)生智英每日灌下大杯大杯的咖啡，只為了保持清醒狀態(tài),?！拔液ε洛e過受害者的任何一條投稿?！?/p>

智英不敢停下,。自8月下旬開始，她幾乎失去了睡眠,。

一場圍剿戰(zhàn)正在進行中,。

在推特上，智英與韓國男性不停周旋,。她的推特賬號早已實時被男性們監(jiān)控，剛上傳的,、呼吁大家舉報的厭女內(nèi)容網(wǎng)址,，下一分鐘網(wǎng)址就被修改了。這意味著,，厭女者們一直在盯著智英的推文,。

在和我們的交流中，她還嘗試使用變聲器——所有在推特上為這次事件活躍的女性博主,，都是韓男“開盒”（人肉搜索）的頭號目標(biāo),，她無法透露自己的任何信息,。

在女性地位低下的韓國社會，女權(quán)主義者早已是個危險的標(biāo)簽,。韓國最大的女權(quán)主義推特Queens Archive就因為最先披露Deepfake聊天室事件,，被韓國男性舉報至炸號。

“有時候我們根本不洗澡,、不睡覺,，一直熬到凌晨三四點?！敝怯Α吨悄苡楷F(xiàn)》表示,。她和推特上的“戰(zhàn)友”，急切地將所有Deepfake相關(guān)信息,、受害者保護指南,、女性主義科普翻譯成英語，在推特上不間斷傳播,。

Deepfake事件涉及的加害者,、受害者雙方，其年齡范圍比起N號房1.0都要更小,。2024年1月至7月，韓國立案偵查了297起深度偽造性剝削犯罪,，共計抓獲178名嫌疑人,，其中131人是十幾歲的青少年，占比73.6%,。

不少人將其比作“N號房2.0事件”,，但與之相比，現(xiàn)在的輿論熱度,，根本不能同日而語,。在不少女性眼中，韓國政府和警方的態(tài)度,，可以用“消極”來形容,。

用AI制作的性羞辱內(nèi)容，由于“并不是真實的”,，一開始甚至沒有進入到警方,、政府的視野。

“當(dāng)年的N號房事件,，政府就沒有進行正當(dāng)?shù)奶幚?。所以，現(xiàn)在Deepfake事件中的男性,，很多都是未成年,，受害者中也有很多是未成年人,，加害者更不會覺得有什么后果，也不會坐牢,?！敝怯Α吨悄苡楷F(xiàn)》說。

在本次Deepfake事件中,，目前韓國警方只逮捕了15個人左右,，有的加害者直接跑到海外，以移民的方式逃避刑罰,。

“Deepfake事件,，加上此前的N號房、Soranet等數(shù)字性犯罪案例,，受害者預(yù)計有超過100萬人之多,，沒有人知道確切的數(shù)字?！爸怯⒏械竭z憾,，“所以如果我們不盡快向政府施壓，政府就不會做任何事情,?！?/p>

韓國女性開始向外求救，接力將Deepfake事件的內(nèi)容傳播到中國,、日本的社交媒體上,。

△來源：微博

韓國大學(xué)生恩靜就跑到小紅書上，用機翻的生疏口吻請求關(guān)注,、擴散,，不斷被封號、刪帖也不曾放棄,。而在微博上的韓女呼救微博,，在短短兩天內(nèi)就被轉(zhuǎn)近15萬次。

△來源：小紅書

無人知道這些努力最終能夠?qū)蚝畏?。恩靜告訴《智能涌現(xiàn)》,，她的親妹妹現(xiàn)在也是一位中學(xué)生，學(xué)校除了簡單囑咐女生保護自己,，再無其他措施——她和妹妹只能將社交平臺上所有帶臉的照片刪除,，每日穿長褲出門。

而海外輿論爆發(fā)后,，韓國政府才終于認(rèn)真跟進這一事件。近期韓國不同政黨最近的公開發(fā)言,，都離不開Deepfake事件,?！笆录仨毝唐趦?nèi)解決?！彼麄儽硎?。

“Deepfake羞辱房”，無處不在

當(dāng)一名毫無AI技術(shù)基礎(chǔ),、留在“墻內(nèi)”的中國男性,，成為Deepfake加害者，前期需要付出怎樣的作案成本,？

在SecurityHero的報告中,，中國的Deepfake色情視頻數(shù)量，占全球的3%,。與韓國（53%）和美國（20%）相比,，這是一個并不高的數(shù)字。然而,，由于報告統(tǒng)計的數(shù)據(jù)大多來源于海外網(wǎng)站,，中國Deepfake色情產(chǎn)業(yè)的實際規(guī)模，遠不止這些,。

在海外社交平臺X（原為Twitter）上檢索“Deepfake”,，很快出現(xiàn)一名中國Deepfake工具賣家。他的帖文露骨地寫著“AI脫衣”“捆綁”“比基尼”等字眼,，但主頁卻聲明：“僅提供AI工具,，對用途概不負責(zé)?！?/p>

X,、Instagram、Facebook等海外社交平臺,，僅僅是打開潘多拉魔盒的一把鑰匙,。不少中國從業(yè)者，用“vx”“扣”“zfb”等字眼,，隱晦地指代交易的最終場所：微信,、QQ、閑魚,，甚至還有支付寶的交易界面,。

通過留在X上的QQ號，我們聯(lián)系上了一名賣家,。為了逃避平臺的監(jiān)管,，他的個性簽名是“嚴(yán)禁違禁詞，僅供娛樂使用,，傳播后果自負”,。從頭至尾,，他表現(xiàn)得和一般軟件銷售無異，整段對話沒有提及任何“性”相關(guān)的詞匯,。

但“性”,，又成了這場交易心照不宣的目的。很快,，對方用QQ“閃照（點開3秒后照片就會消失）”功能,，發(fā)來兩張打滿馬賽克的Deepdake效果圖。

△作者與Deepfake工具賣家的QQ聊天記錄,，已舉報給騰訊官方平臺

點開大圖,，馬賽克隨即消失——一張凹著不自然Deepfake照，出現(xiàn)在了屏幕上,。

3秒后,，女性的照片，連同用以維權(quán)舉證的證據(jù),，一同消失在了聊天記錄中,。

即便在國內(nèi)，讓女性經(jīng)歷一場賽博羞辱,，并從法律制裁中逃逸,，也如此簡單。

作為脫去女性外衣的新型兇器,，AI的出現(xiàn),，讓網(wǎng)絡(luò)性侵害的成本更低、速度卻更快,。在從業(yè)者發(fā)來的產(chǎn)品目錄中,，一段用AI生成的10秒內(nèi)換臉視頻30元，一張AI裸照只要10元,，價目表上還特別注明：買5送1,。

但一開始，Deepfake的背后,、一項名為“生成對抗網(wǎng)絡(luò)（GAN）”的技術(shù),，還幾近人畜無害。

2014年誕生在谷歌大腦實驗室的GAN,，有著難以普及的一切要素：軟件安裝難度大,、操作的技術(shù)門檻高，同時還需要昂貴的訓(xùn)練數(shù)據(jù)集和算力資源,。這讓Deepfake一度待在實驗室里,，沒有被大眾廣泛使用。

事情走向失控，大致在2019年,。

2019年,，一款號稱“30秒就能一鍵脫衣”的應(yīng)用DeepNude誕生了——諷刺的是,，這款軟件用了一萬張女性裸體照片訓(xùn)練而成,，當(dāng)用戶輸入一張男性照片，他無法脫下男性的衣物,，只會為其添加一個女性的陰部,。

DeepNude的背后，是幾年間性能飛速提高的GAN技術(shù),，以及讓使用難度大幅下降的開源生態(tài),。這讓一名匿名的男性程序員Alberto（化名），基于加州大學(xué)伯克利分校的開源GAN架構(gòu),，快速開發(fā)出了DeepNude,。

一邊，是迅猛發(fā)展的AI技術(shù),，和逐漸繁榮的開源生態(tài),；另一邊，又是野蠻生長的Deepfake,，和沒有做好準(zhǔn)備的社會意識和監(jiān)管體系,。

DeepNude讓非自愿裸照的制作，變得像點擊按鈕一樣簡單,。迫于輿論壓力,，DeepNude發(fā)布兩周后，就選擇了自主下架,。Alberto（化名）在采訪中解釋,，這款軟件的開發(fā)完全出于“有意思”和“好奇心”：“我不是偷窺狂。我是技術(shù)的愛好者,?！?/p>

DeepNude下架了，但千萬個“DeepNude”,，以更隱秘的姿態(tài),、更低的操作門檻、更逼真的生成質(zhì)量,，開始在互聯(lián)網(wǎng)泛濫,。

Deepfake與色情產(chǎn)業(yè)的相關(guān)數(shù)據(jù)制圖：智能涌現(xiàn)

在論壇Discord上，DeepNude的安裝包以20美元的價格出售,。匿名賣家在主頁中表示,，他們提高了DeepNude的穩(wěn)定性，與此同時，還刪除了正版DeepNude給生成圖片添加的水印——這一切,，都讓Deepfake裸照,，看上去更加逼真。

下架不到三周,，DeepNude又被開發(fā)出了更易上手的模式,，成了嵌了Telegram上的一鍵脫衣Bot。

此后,，事件的走向,，和如今的韓國“N號房2.0”十分類似。Bot的使用者,，自發(fā)在Telegram上建立了社群,，超過10萬名成員，成了“N號房”的初代居民,。

最早監(jiān)測到這款Bot的網(wǎng)絡(luò)安全公司Sensity發(fā)現(xiàn),，上線不到一年，這款Bot已經(jīng)產(chǎn)生了68萬多名女性的虛假裸照,，約104852張女性照片被公開發(fā)布在這款應(yīng)用上,。

向下的維權(quán)螺旋

從2019年至今，圍剿DeepNude的行動一直在進行,。

2019年7月,，美國弗吉尼亞州通過了一條有關(guān)色情禁令的法律修正案，禁止出售或傳播計算機生成的色情內(nèi)容,。同年年末,，推特、谷歌,、Facebook等平臺著手整治Deepfake視頻,，措施包括給Deepfake視頻打水印、贊助檢測Deepfake的相關(guān)研究項目,。

然而,，無論是韓國“N號房2.0”，還是隱匿在QQ,、支付寶,、閑魚中的地下灰產(chǎn)，都印證了一個令人沮喪的現(xiàn)實：Deepfake從未真正消失,。

2019年,，多倫多大學(xué)公民實驗室曾發(fā)表了一項研究，試圖探索微信如何自動審查巨量聊天中的圖片,。結(jié)果顯示,，微信對朋友圈和群聊的審查力度，大于一對一的私密聊天，同時,，政治和社會新聞,，是微信圖片審查的核心主題。

這意味著,，平臺對色情內(nèi)容的監(jiān)管,，依然存在漏洞。私密聊天中進行的Deepfake色情交易,，很難通過平臺進行披露,，除非由人主動檢舉。

但人一定能主動站出來嗎,？

北京市兩高律師事務(wù)所副主任張荊，20年來經(jīng)手了不少侵害女性權(quán)益的案件,。多年來,，她幫助女性和具體到個人的加害者、不公平的結(jié)構(gòu),，甚至法律系統(tǒng)的漏洞抗?fàn)?。但Deepfake性侵害的發(fā)生，讓她覺得女性的斗爭,，又走到了一個更為復(fù)雜的關(guān)卡,。

“在技術(shù)不那么發(fā)達的過去，女性遭受性犯罪,，起碼能知道具體的受害者是誰,，女性受到的傷害可以通過司法鑒定被量化?！睆埱G告訴《智能涌現(xiàn)》,。但如今，無論是Deepfake內(nèi)容的制作者,，還是傳播者,，都面目模糊、數(shù)量難以確定,，這對取證和量刑,，都造成了極大的困難。

“報警不就好了,？”在網(wǎng)絡(luò)上,，不少旁觀者都提出了疑問，甚至有不少受害女性也曾認(rèn)為,，報警就好了,。

但在報警之前，女性還要走過漫長的取證之路。張荊告訴《智能涌現(xiàn)》,，“想要立案為刑事案件,，去司法機關(guān)報案的前提是有基本的證據(jù)?！?/p>

而這些基本證據(jù)又包括：Deepfake傳播的具體網(wǎng)站,、侵權(quán)圖片的數(shù)量（數(shù)量過少不足以被立案）、傳播范圍（傳播范圍過小不足以被立案）,。

“說實話,，對于不經(jīng)常上網(wǎng)的人來說，完成這一步并不容易,，她們可能甚至連網(wǎng)站該怎么進入都不知道,。”張荊總結(jié),。

即便女性順利走到了報警,、立案的一步，加害者的處置結(jié)果往往不盡如人意,。

在中國裁判文書網(wǎng)中輸入“AI換臉”,，一共只有16篇文書，最早的一起案件發(fā)生在2022年,。兩年來,，能夠訴諸刑事案件的Deepfake侵害事件，數(shù)量為0,。

在層層阻礙下,，女性針對Deepfake的維權(quán)，成了一條不斷向下的螺旋：社會的壓力,，和嚴(yán)苛的立案流程,，導(dǎo)致鮮少有愿意站出來的女性受害者；女性聲量的不足,，以及立案數(shù)量的稀少,，又讓立法的推進變得愈發(fā)艱難。

2023年12月,，在中國臺灣省,，曾有一起判例，給了Deepfake受害女性些許希望,。網(wǎng)名為“小玉”的男網(wǎng)紅朱玉宸,，使用Deepfake技術(shù)，將100多位知名女性合成A片,，上網(wǎng)販賣獲利超過1300萬臺幣（約288萬元）,。最終,，他以違反《個人資料保護法》等罪名被起訴，并被判處5年有期徒刑,。

只是,，五年就夠了嗎？

“過去的黃色錄像帶,、3D影片,，是一個具體的小眾產(chǎn)業(yè)，傳播很難對一個鮮活的人產(chǎn)生傷害,?！睆埱G說，“但今天的Deepfake,，和過去色情產(chǎn)業(yè)的本質(zhì)區(qū)別在于,，它的傳播，會對生活中具體的人產(chǎn)生傷害,?！?/p>

這意味著，“依照傳播淫穢色情內(nèi)容對Deepfake進行量刑,，程度一定是會偏輕的?！彼偨Y(jié),。

加害者面前的，是看得到頭的5年刑罰,，但創(chuàng)傷可能會伴隨女性走過更為漫長的歲月,。

15歲那年，經(jīng)歷來自后桌男生的Deepfake騷擾后,，小魚開始不希望夏天到來,。白色的短袖校服一旦被汗水浸濕，就會透出女生的內(nèi)衣和身體的曲線,。接近40攝氏度的高溫下,，小魚依然選擇穿兩件短袖，阻擋男生的視線,。

小魚告訴《智能涌現(xiàn)》,，她覺得告訴老師和家長，都是無用功,。她記得,，班上有男生曾經(jīng)開女生的黃色玩笑，或是拽拉內(nèi)衣的帶子,，但最后老師的回應(yīng)是：都是小孩子之間的玩笑,。

如今,，離被騷擾已經(jīng)過去了一年多的時間。升入高中后,，小魚和后桌男生失去了聯(lián)系,，生活又歸于平淡。只是,，夏天穿兩件短袖的習(xí)慣,，被小魚保持到了現(xiàn)在。

人類,，還沒有做好應(yīng)對Deepfake的準(zhǔn)備

在很長一段時間內(nèi),，現(xiàn)實可能依舊慘淡。

看到韓國Deepfake事件后,，鹿影科技聯(lián)創(chuàng)李倩憤怒透頂，當(dāng)即拉著創(chuàng)始人頭腦風(fēng)暴到深夜,，口干舌燥之余,，二人都很沮喪?！翱赡芤獛Ыo你一個壞消息：沒有什么辦法能夠從技術(shù)上,，直接把Deepfake性暴力給殺掉?！崩钯粚Α吨悄苡楷F(xiàn)》說,。

雖然無法直接根除，“以其人之道還其人之身”,，是一條常規(guī)路徑,。

瑞萊智慧聯(lián)合創(chuàng)始人蕭子豪向《智能涌現(xiàn)》介紹，公司內(nèi)部會定期組織“紅藍對抗”,，把工程師會分為“紅軍”“藍軍”兩派,，讓“紅軍”模擬真實的攻擊，而“藍軍”負責(zé)應(yīng)對處置,?！凹t軍”一派的工程師們，為了了解黑產(chǎn)手段,，甚至?xí)摲胶诋a(chǎn)群體中尋找線索,，持續(xù)創(chuàng)新攻擊手段。

對于用AI對抗Deepfake的人們來說,，每天的工作,，就是對抗各種意想不到的新案例。2周調(diào)優(yōu)一個新版本,、2個月迭代一版大模型,，幾乎是標(biāo)配。

但這更多是在問題出現(xiàn)前后的預(yù)警提示,。真正的侵害發(fā)生后,，要想保護女性，更多需要依靠司法編織的網(wǎng),。

2022年11月，中國出臺了第一條明確針對Deepfake提出的規(guī)定：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,。這一規(guī)定對Deepfake內(nèi)容制作者、技術(shù)服務(wù)提供商,，以及制作,、傳播發(fā)布行為，都做出了規(guī)制,。

但從法規(guī)的制定到真正落實,，還有一條漫長道路。近20年來,，張荊觀察到,，無論是辦理刑事案件的律師，還是接到報案的警察,、最終負責(zé)審判的檢察機關(guān),，大多都是男性。

“這是一個結(jié)構(gòu)性的問題,，甚至立法機關(guān)，也基本上是男性,?！睆埱G曾經(jīng)參加過一個有關(guān)廢除嫖宿幼女罪（比強奸罪量刑更輕）的研討會。

在場的不少男性律師,，給出了不少支持保留嫖宿幼女罪的理由,，其中一個是：如果改用強奸罪定罪，犯罪行為人可能會鋌而走險,，反而讓女性受害人陷入危險的境地,。

現(xiàn)有的成功讓加害者被拘留、定罪的個例,，大多是女性積極自救的結(jié)果,。

2023年的蘇州大學(xué)黃謠和AI換臉事件中，受害者就潛入傳播AI偽造圖像的聊天房,，進行取證,，并利用排除法,，將不同標(biāo)記的照片在朋友圈中分組發(fā)布，進行逐個排除,，最終將加害者抓獲,。

要進一步推動Deepfake性侵害的立法，和社會意識的前進,，還需要一個真正的判例,。

“有了判例，這段女性被迫害史才更有可能被寫進義務(wù)教育的教科書,，讓性別教育前進一步,。”一名在日本的女權(quán)活動者告訴《智能涌現(xiàn)》,。

當(dāng)下的AI行業(yè),，其實還是一個相當(dāng)由男性主導(dǎo)的領(lǐng)域。某種程度上,，從研發(fā)到產(chǎn)品落地過程中,，都極易讓女性成為被AI“壓迫”的群體，成為產(chǎn)業(yè)中的一環(huán),。

李倩觀察到的一個數(shù)據(jù)是,，從互聯(lián)網(wǎng)獲得的視頻模型訓(xùn)練數(shù)據(jù)，40%涉及成人內(nèi)容,，而其中的8成,，內(nèi)容都是女性身體。

“色情,，是當(dāng)下AI C端產(chǎn)品最成功的商業(yè)模式,。”一名投資人對《智能涌現(xiàn)》如此評價,。最終,，Deepfake的泛濫被歸結(jié)到了一個商業(yè)現(xiàn)實：用AI販賣女性身體，會給利益者帶來豐厚的商業(yè)回報,。

對抗商業(yè)慣性,，十分困難。

在融資過程中,，部分投資人,，無論男女都會告訴李倩，YoYo（鹿影科技的AI視頻創(chuàng)作平臺）如果對黃色擦邊內(nèi)容稍微寬容些,，商業(yè)化會更順利,。

從第一天起女性友好，對人力,、資金有限的AI初創(chuàng)公司而言,，要不要走出這一步,，是個尤為艱難的決定。李倩告訴“智能涌現(xiàn)”,，從訓(xùn)練數(shù)據(jù)中剔除40%的黃色數(shù)據(jù),，意味著要花額外的成本補全；如果花人力和時間給用戶輸入的提示詞設(shè)置違禁詞,，產(chǎn)品迭代的速度至少慢兩個月,。

“做創(chuàng)業(yè)者，是不是就要無性別地,，看待商業(yè)世界,？”但經(jīng)歷Deepfake事件后，李倩已經(jīng)不這么認(rèn)為了,，“一旦開閘,，行業(yè)又多了一塊驅(qū)逐良幣的劣幣?！?/p>

如果女性能夠在行業(yè)中獲取更多技術(shù)主導(dǎo)權(quán),，未來會變得不一樣。

2024年9月4日,，中科院的女工程師張欣怡,，將自己團隊研發(fā)的Deepfake對抗模型，向全球開源,。一旦有人需要幫助,，就可以免費使用模型來檢測Deepfake內(nèi)容。

在自己的微博中,，張欣怡寫到：“如果一個人的火把太小,，我們就把火把傳給世界的每一個人?！?/p>

當(dāng)新技術(shù)席卷世界,，司法、技術(shù)都尚未完全跟上時,，普通人每一次的發(fā)聲、行動,，才是社會進程得以向前推進的原因,。

韓國就是一個活生生的例子——在極度男性主義的國家，女性權(quán)益的每進一步,，都由布滿血和汗的斗爭之路造就,。

自2015年之后，韓國女性在#MeToo,、消除網(wǎng)絡(luò)性暴力,、終止懷孕非刑罪化等議題上開展了一系列女性主義運動,，通過展開議題討論、集會游行等等形式,，這些活動從社會意識,、立法制度層面,，都爭取到了寶貴的成果,。

曾經(jīng)揭露N號房丑聞的兩位女記者姜京允、樸孝實,，經(jīng)受了曠日持久的網(wǎng)絡(luò)謾罵,、侮辱和精神折磨，其中一位記者甚至多次流產(chǎn),。

但韓女從沒有停下腳步,。N號房事件后，韓國就成立了專注于反對性剝削犯罪的女性團體“RESET”,，推動了包括網(wǎng)絡(luò)性犯罪相關(guān)法例的制定過程,。而今年5月，將Deepfake其中一名嫌疑人送進監(jiān)獄的,，正是此前曾揭露N號房的兩位大學(xué)生記者之一,。

不能停止，不能放棄,，是我們接觸到的,，奔走在Deepfake事件一線的韓國女性想法?！斑@不是僅僅為了我們這一代而奮斗,，而是為了所有人的命運，”智英說,，“我想要一個我的朋友,、家人和所有女性都感到安全的世界?！?/strong>

不同人種,、國籍的女性，都開始了對韓國女性的聲援,。當(dāng)?shù)貢r間9月3日,，一群居住在倫敦的中國女權(quán)主義者，從特拉法加廣場走到韓國大使館,，高唱起韓國女權(quán)運動的標(biāo)志性歌曲《再次重逢的世界》,，聲討韓國偷拍、AI偽造等等非法行為。

紅色的字,，被印在各式各樣的橫幅標(biāo)語上：“我的生活,，不是你的色情片?！?/p>

△當(dāng)?shù)貢r間9月3日,，一群居住在倫敦的中國女性主義者進行了反偷拍、反Deepfake游行,。圖源：倫敦的中國女權(quán)主義者

（為保護受訪者,，智英、恩靜,、小魚均為化名,。感謝星星、xwf,、十月,、lakyo、阿雞,、倫敦姐妹在訪談中提供的協(xié)助,。）

他們給AI投幣1美元，百萬女性被拖入地獄,！