原標題：因“AI換臉”技術(shù)被判！案件大量細節(jié)曝光

“AI換臉”相信大家都不陌生。

只需要一張照片,，通過人工智能深度合成技術(shù),，任何人都能成為視頻中的主人公，甚至連表情和動作都能以假亂真,。

然而,，不少人利用這項技術(shù)實施違法犯罪行為。

2020年,，浙江杭州的虞某接觸了“AI換臉”軟件,。

為吸引流量，他利用該軟件制作大量淫穢視頻并傳播,，被換臉的有不少是女明星,。

虞某聲稱，“只要能看到臉的都能換,?！庇腥松踔烈ㄖ瓢祽倥膿Q臉視頻。

最終,，虞某犯制作,、傳播淫穢物品牟利罪，被判有期徒刑七年三個月,，并處罰金6萬元,。

“AI換臉”偽造女明星涉黃視頻

2022年8月，杭州市蕭山警方在網(wǎng)上巡查中獲取一條線索,，轄區(qū)內(nèi)有人利用AI技術(shù)制作淫穢視頻在網(wǎng)上進行大量傳播,，警方依法對此立案偵查，并迅速抓獲了犯罪嫌疑人虞某,，隨后該案被移送至杭州市蕭山區(qū)人民檢察院審查起訴,。

杭州市蕭山區(qū)人民檢察院檢察委員會專職委員章蕾：虞某通過在互聯(lián)網(wǎng)上發(fā)現(xiàn)了有一個AI換臉的技術(shù)軟件，他自己通過學(xué)習(xí)這個軟件,，掌握了使用技能,，從此開始利用AI換臉的技術(shù)去牟利。

檢察機關(guān)調(diào)查發(fā)現(xiàn),，虞某從2020年開始接觸“AI換臉”軟件,，起初，他想通過在網(wǎng)上推廣該項技術(shù)以及相關(guān)的軟件來獲利,，但是,，一段時間過后關(guān)注他的人卻很少，一次偶然的機會,，虞某看到有人在社交群組中發(fā)布淫穢信息來吸引他人關(guān)注,，于是他也動起了類似念頭,。

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：他可能發(fā)現(xiàn)僅僅通過販賣軟件的方式，可能很難獲取到一般人的關(guān)注,。

因為他在網(wǎng)絡(luò)上看到有一些網(wǎng)絡(luò)群組在傳播一些淫穢色情視頻,，他就想到說通過換臉軟件制作一些淫穢色情視頻，然后先放在互聯(lián)網(wǎng)群組上,，從而吸引流量,，吸引大家來關(guān)注這個軟件或者換臉視頻。

據(jù)虞某供述,，為了吸引更多的關(guān)注和流量,，他在社交軟件上創(chuàng)建了“瀏覽群”和“私人定制群”，“瀏覽群”主要用來傳播“AI換臉”的淫穢視頻吸引,、招攬觀看者,，其中包括一些經(jīng)過虞某換臉的視頻，當有人提出“定制換臉”的需求,，虞某會將這些人引入所謂“私人定制群”,。

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：通過收取入（瀏覽）群費用的方式，一個198元,、298元或者398元,。另外一個就是虞某還提供人臉視頻定制服務(wù)，相當于客戶如果需要定制一個換臉的視頻,，他可以根據(jù)時長,，根據(jù)視頻的難度大小收取相應(yīng)的費用。

據(jù)蕭山檢察,，截至案發(fā),，公安機關(guān)共在虞某某所組建的公開群內(nèi)查獲淫穢視頻1200余部、圖片1600余張,。

私人定制→“只要能看到臉的都能換”

據(jù)檢察機關(guān)調(diào)查,，虞某一邊通過傳播換臉的淫穢視頻來“吸粉引流”，同時又通過出售“AI換臉”軟件和提供所謂“AI換臉”的私人定制服務(wù),，在不到半年的時間里就獲利數(shù)萬元,。

而被“AI換臉”侵害人臉敏感信息的受害者，不僅包括多位知名公眾人物,，還有很多不特定的普通人,。

據(jù)檢察機關(guān)調(diào)查，虞某根據(jù)“AI換臉”視頻的長度,、清晰度等難易條件,，按照5分鐘300元、10分鐘500元等標準來收取定制的費用。

虞某聲稱,，“只要能看到臉的都能換”,。

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：首先這個價格也是他自己定的，再一個初級,、中級、高級,，可能在這個視頻最后完成換臉的效果上有一定的區(qū)別,。有些人可能一開始購買了初級的教程,，初級的一些素材和材料,，發(fā)現(xiàn)最后達到的效果不能達到他所期望的效果，那么有可能會繼續(xù)付費去購買一些高級的視頻,，包括高級教程,。

杭州市蕭山區(qū)人民檢察院檢察委員會專職委員章蕾：他通過VIP定制，就是客戶提要求“我今天想要把臉換成是誰的臉,，你幫我定制一下,，我支付相應(yīng)的報酬”，通過這樣牟利的方式,。

“定制”換臉對象既有公眾人物也有普通人

據(jù)檢察機關(guān)了解,，虞某的客戶要求“定制”換臉的對象不僅包括一些知名的公眾人物，也有生活中的普通人,，其中就有人提出想要定制自己暗戀女生的換臉視頻,，而對于這些未經(jīng)同意就擅自侵犯他人敏感信息的違法行為，虞某也是來者不拒,。

另外,，虞某除了進行定制化的換臉服務(wù)，還將“AI換臉”軟件分為初級,、中級和高級三個等級進行銷售并傳授使用教程,，同時還提供網(wǎng)上非法收集的他人人臉素材。

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：這個軟件的入門的門檻其實是比較低的,，它的操作相當于通過一些已經(jīng)設(shè)定好了的運行的程序和代碼，相當于我只要按照你的步驟,，把需要進行換臉的視頻放在它規(guī)定的一個文件夾里，或者是按照步驟來進行操作,，它自動對你所要替換的人臉視頻里面的人臉信息，或者照片里的信息是自動提取,，自動建立學(xué)習(xí)模型進行學(xué)習(xí),，然后下一步是自動進行合成的。

據(jù)檢察機關(guān)收集的證據(jù)顯示,，虞某創(chuàng)建的眾多社交群組中,，最少的成員95人，最多的成員達2053人,，通過銷售換臉淫穢視頻以及定制換臉淫穢視頻等違法行為，虞某先后收取口令紅包200余次,，總金額共計6萬余元。

除追究刑責

檢察機關(guān)還提起民事公益訴訟

檢察機關(guān)認為,，作為“AI換臉”技術(shù)的使用者,，虞某通過傳播侵犯公民個人信息的方法和手段，使得更多“不特定主體”個人信息被侵害的社會危險性進一步擴大,。

因此,，杭州市蕭山區(qū)人民檢察院在依法追究虞某刑事責任外，同時還提起民事公益訴訟,。

2023年7月,，杭州互聯(lián)網(wǎng)法院對這起公益訴訟案進行審理，這也是我國首例關(guān)于“AI換臉”侵犯公民個人信息公益訴訟案的審理判決,。

2023年4月14日,，杭州蕭山區(qū)人民檢察院決定對虞某“AI換臉”侵犯公民個人信息公益訴訟案立案，當日履行公告程序,，公告期滿，無適格主體提起訴訟,。

6月9日,，檢察機關(guān)依法對虞某提起民事公益訴訟。

7月28日,，該案在杭州互聯(lián)網(wǎng)法院一審公開審理,。

在庭審中，檢察機關(guān)出示了虞某侵犯公民個人信息,、損害社會公共利益的詳細證據(jù),，包括公安機關(guān)對虞某所作的訊問、詢問筆錄,、勘驗記錄,、檢查記錄、鑒定意見，以及淫穢視頻1200多部,、圖片1600多張等電子數(shù)據(jù),。

杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長肖芄：過去我們常常認為眼見為實，耳聽為實,，但是隨著深度合成技術(shù)以及新技術(shù)的運用,，我們眼見也不一定為實，新技術(shù)的不當應(yīng)用或者是一種濫用,，實際上沖擊了我們社會公眾主體相互之間的信任關(guān)系,，特別是在互聯(lián)網(wǎng)空間這樣一種建立起來的信任關(guān)系。那么對于這種信任關(guān)系,、社會關(guān)系的一種侵害，其實本身也是對社會秩序的一種損害,。

杭州互聯(lián)網(wǎng)法院經(jīng)審理認為,，虞某利用“AI換臉”技術(shù)侵犯公民個人信息的違法事實確鑿，因此支持檢察機關(guān)作為公益訴訟起訴人的全部訴訟請求：判令被告虞某刪除非法獲取的個人信息,，公開賠禮道歉,、消除影響并賠償損失共60000元，這些款項將專門用于個人信息保護,、人臉深度合成技術(shù)不當應(yīng)用的治理等公益事項,。

杭州互聯(lián)網(wǎng)法院常務(wù)副院長朱敏明：任何一項新技術(shù)，首先這個技術(shù)它總是有中立性的,，那么在技術(shù)本身我們是持接納支持的這種態(tài)度,，但是技術(shù)開發(fā)應(yīng)用的目的，它必須是有利于全人類的公益,，不能是為了這個技術(shù),，用于個人的非法牟利，然后侵犯其他公民,、集體,、國家、社會的合法權(quán)益,，一旦越界了就要承擔相應(yīng)的責任,。那么這個案子中因為由檢察院來提起公益訴訟，然后法院來依法審判,，充分發(fā)揮審判司法職能對新技術(shù)的規(guī)范,。

技術(shù)無善惡但有邊界

須在法律規(guī)制內(nèi)使用

2023年11月，杭州市蕭山區(qū)人民法院判決被告人虞某犯制作,、傳播淫穢物品牟利罪,，判處有期徒刑七年三個月，并處罰金6萬元。

“僅憑幾張照片,，任何人都可能成為受害者,。”從網(wǎng)絡(luò)主播換臉女明星直播帶貨,，再到換臉被嫁接到淫穢視頻中,，濫用“AI換臉”技術(shù)實施各類侵犯個人信息的行為時有發(fā)生，甚至在灰色領(lǐng)域甚至違法犯罪領(lǐng)域濫用,。

那么,，“AI換臉”技術(shù)的法律邊界在哪里，又該如何規(guī)范和治理呢,？

杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長肖芄：我們國家的民法典對于侵害他人,，通過深度偽造方式侵害他人人身權(quán)益是有明確的規(guī)定的，禁止通過深度合成的方式去侵害公民的人身財產(chǎn)權(quán)益,，這是民法典的規(guī)定,。隨著技術(shù)的發(fā)展，個人信息保護法對于深度合成也有相關(guān)的規(guī)定,，因為不管是面部的一個替換還是聲音的替換,，它實際上都需要收集公民的個人信息，那么這些都是屬于個人信息保護法特別保護的敏感的生物識別信息,。

我國目前除了“民法典”“個人信息保護法”,，2023年正式實施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》中也明確規(guī)定，強調(diào)使用者不得利用深度合成服務(wù)從事法律,、行政法規(guī)禁止的活動,，要求深度合成服務(wù)提供者要落實信息安全主體責任。

注意,！

“AI換臉”用來搞笑也存法律風險

法官認為,，“AI換臉”技術(shù)即便只是用來搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán),、名譽權(quán),，造成嚴重后果的，還可能構(gòu)成侮辱罪或者誹謗罪,。

而“AI換臉”技術(shù)的濫用,，看似是對被侵害的個人的人格權(quán)、肖像權(quán),、名譽權(quán),、隱私權(quán)的侵害，實際上更是對社會公序良俗的踐踏,，是對穩(wěn)定的社會環(huán)境和清朗的網(wǎng)絡(luò)空間的挑戰(zhàn),。

杭州互聯(lián)網(wǎng)法院常務(wù)副院長朱敏明：一項新技術(shù)的產(chǎn)生往往專門針對這項新技術(shù)的法律法規(guī)會有所滯后,，但是總的來說我們現(xiàn)在國家整個的法治體系已經(jīng)相當完善，每個人你哪些行為是可以做的,，哪些行為是不可以做的,，它的原則性規(guī)定都是已經(jīng)比較健全了。我想正常人都是能夠判斷得出來的,，你去運用這項新技術(shù),，你的目的是有益于整個人類，有利于就是人民生活水平的提升,，福祉的提升,，還是說為了個人謀取不當?shù)睦妗Ｄ敲次揖拖氚盐蘸眠@個界限,，這些新技術(shù)都是能夠為我們美好生活服務(wù)的,。