杭州互聯(lián)網(wǎng)法院常務(wù)副院長(zhǎng)朱敏明:任何一項(xiàng)新技術(shù),,首先這個(gè)技術(shù)它總是有中立性的,那么在技術(shù)本身我們是持接納支持的這種態(tài)度,,但是技術(shù)開(kāi)發(fā)應(yīng)用的目的,,它必須是有利于全人類(lèi)的公益,不能是為了這個(gè)技術(shù),,用于個(gè)人的非法牟利,,然后侵犯其他公民、集體,、國(guó)家,、社會(huì)的合法權(quán)益,一旦越界了就要承擔(dān)相應(yīng)的責(zé)任,。那么這個(gè)案子中因?yàn)橛蓹z察院來(lái)提起公益訴訟,,然后法院來(lái)依法審判,充分發(fā)揮審判司法職能對(duì)新技術(shù)的規(guī)范,。
技術(shù)無(wú)善惡但有邊界
須在法律規(guī)制內(nèi)使用
2023年11月,,杭州市蕭山區(qū)人民法院判決被告人虞某犯制作、傳播淫穢物品牟利罪,,判處有期徒刑七年三個(gè)月,,并處罰金6萬(wàn)元。
“僅憑幾張照片,,任何人都可能成為受害者,。”從網(wǎng)絡(luò)主播換臉女明星直播帶貨,,再到換臉被嫁接到淫穢視頻中,,濫用“AI換臉”技術(shù)實(shí)施各類(lèi)侵犯?jìng)€(gè)人信息的行為時(shí)有發(fā)生,甚至在灰色領(lǐng)域甚至違法犯罪領(lǐng)域?yàn)E用,。
那么,,“AI換臉”技術(shù)的法律邊界在哪里,又該如何規(guī)范和治理呢,?
杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長(zhǎng)肖芄:我們國(guó)家的民法典對(duì)于侵害他人,,通過(guò)深度偽造方式侵害他人人身權(quán)益是有明確的規(guī)定的,禁止通過(guò)深度合成的方式去侵害公民的人身財(cái)產(chǎn)權(quán)益,,這是民法典的規(guī)定,。隨著技術(shù)的發(fā)展,,個(gè)人信息保護(hù)法對(duì)于深度合成也有相關(guān)的規(guī)定,因?yàn)椴还苁敲娌康囊粋€(gè)替換還是聲音的替換,,它實(shí)際上都需要收集公民的個(gè)人信息,,那么這些都是屬于個(gè)人信息保護(hù)法特別保護(hù)的敏感的生物識(shí)別信息。
我國(guó)目前除了“民法典”“個(gè)人信息保護(hù)法”,,2023年正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》中也明確規(guī)定,,強(qiáng)調(diào)使用者不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng),,要求深度合成服務(wù)提供者要落實(shí)信息安全主體責(zé)任,。