最近,，有網(wǎng)友發(fā)消息稱(chēng)，“張文宏是不是帶貨了,？”視頻中，張文宏在賣(mài)一種蛋白棒,，讓不少老人信以為真,，瘋狂跟單。

圖源：視頻截圖

仔細(xì)看網(wǎng)友提供的視頻,，張文宏正在反復(fù)介紹一種產(chǎn)品,，口型是他的、聲音也是他的,，乍一看跟真的似的,。但仔細(xì)一看，視頻畫(huà)質(zhì)潦草,、口型也對(duì)不太上,，對(duì)AI多少有一些了解的人們可以分辨出來(lái)，這是AI合成的視頻,，但互聯(lián)網(wǎng)了解不深的老年人的確不好甄別真?zhèn)巍?/p>

這段視頻也在網(wǎng)友曝光后,，從賬號(hào)內(nèi)被刪除，只剩商品櫥窗里還保留著售賣(mài)的頁(yè)面,，并顯示已售1180件商品,。

在AI技術(shù)面前

“眼見(jiàn)為實(shí)”的常規(guī)認(rèn)知正在被挑戰(zhàn)

當(dāng)下，AI合成技術(shù)已經(jīng)非常成熟且已被頻繁應(yīng)用在短視頻制作中,。調(diào)取一段錄像,，輸入一段語(yǔ)音，便能提取克隆相關(guān)的嗓音特質(zhì),，并針對(duì)“自行設(shè)計(jì)”的臺(tái)詞,，智能修改口型。一段足以“以假亂真”的“帶貨”視頻,，再加上張文宏的名人效應(yīng),，其形象和言論具有一定的權(quán)威性和影響力，讓不少消費(fèi)者信以為真,。

對(duì)此,，張文宏醫(yī)生也表示既憤怒又無(wú)奈,。他曾多次向平臺(tái)投訴類(lèi)似賬號(hào)，但這樣的賣(mài)貨賬號(hào)不止一個(gè),，且一直在換,，讓人筋疲力盡?！斑@些假的AI合成信息就像蝗災(zāi)一樣,，一次又一次發(fā)生，像漫天飛過(guò)來(lái)的蝗蟲(chóng)一樣害人,?！辈浑y想象，受害者們發(fā)現(xiàn)真相后的沮喪與失落,。

在類(lèi)似的AI合成冒充名人的騙局中,，上當(dāng)者比比皆是。

據(jù)報(bào)道,，今年11月,，江西一位老人到銀行辦理業(yè)務(wù)，聲稱(chēng)要貸款200萬(wàn)元給男朋友“靳東”拍戲,。經(jīng)調(diào)查發(fā)現(xiàn),，老人手機(jī)里的“靳東”出自由AI合成的視頻；今年10月,，老牌港星黃百鳴通過(guò)社交媒體鄭重聲明，有人盜用其過(guò)去影片,，利用AI替換聲音,，代言一個(gè)不知名的藥膏品牌；更有甚者,，已然過(guò)世的名人,，也有被“借尸還魂”帶貨的……

在AI技術(shù)面前，“眼見(jiàn)為實(shí)”“有圖有真相”的常規(guī)認(rèn)知正在被挑戰(zhàn),，人們對(duì)于網(wǎng)絡(luò)信息傳播的信任感也在被挑戰(zhàn),。一些由AI合成的虛假視頻內(nèi)容，成為別有用心之人的造謠斂財(cái)工具,，不僅影響著公眾人物的專(zhuān)業(yè)形象和社會(huì)公信力,，更破壞了互聯(lián)網(wǎng)的誠(chéng)信體系。

沒(méi)有直接使用他人面部形象

也能構(gòu)成肖像權(quán)侵害嗎,？

近日,，廣州互聯(lián)網(wǎng)法院就審結(jié)了一起由“AI換臉”視頻合成模板引發(fā)的侵權(quán)糾紛。一位知名短視頻博主發(fā)現(xiàn)自己的漢服裝扮視頻被某科技公司擅自制成了付費(fèi)“AI換臉”模板,。法院審理后認(rèn)定,，該公司的行為侵犯了博主的肖像權(quán)。

張先生是一位知名短視頻博主，經(jīng)常在各大自媒體平臺(tái)上發(fā)布含本人肖像的國(guó)風(fēng)漢服裝扮的短視頻,。最近,，有粉絲提醒他，在一款美顏拍照小程序當(dāng)中,，他的漢服形象成了視頻模板,，還需要付費(fèi)使用。張先生發(fā)現(xiàn),，小程序的運(yùn)營(yíng)方是某科技公司,，付費(fèi)用戶可以用此模板進(jìn)行“AI換臉”，體驗(yàn)國(guó)風(fēng)妝造,。張先生的代理律師嚴(yán)茜告訴記者，在意識(shí)到自己的肖像權(quán)被侵害后,，張先生把這家公司告上了法院,。

嚴(yán)茜：

他是在古風(fēng)圈也是小有名氣的，有粉絲告知我們說(shuō)是有這樣一個(gè)侵權(quán),，發(fā)現(xiàn)他受邀拍或者自己拍的這些視頻,、圖片被AI換臉。換臉后的這種妝造跟當(dāng)事人是一模一樣的,。通過(guò)發(fā)飾,、妝造或者面部的表情，能夠識(shí)別出是原告,，我們也認(rèn)為侵犯了原告的肖像權(quán),。

AI換臉也稱(chēng)為深度偽造技術(shù)，其實(shí)質(zhì)是一種基于人工智能的人體圖像合成技術(shù),。AI換臉技術(shù)將個(gè)體的面部形象,、身體形象甚至聲音語(yǔ)調(diào)等進(jìn)行分解，又與他人的形象特征進(jìn)行融合,、拼湊,。本案中的AI換臉行為就是用用戶上傳的面部特征替換了原視頻中張先生的面部特征。廣州互聯(lián)網(wǎng)法院綜合審判三庭庭長(zhǎng)曹鈺說(shuō),，本案的焦點(diǎn)就在于,，沒(méi)有使用他人面部形象的情況下是否構(gòu)成侵害肖像權(quán)。

曹鈺：

科技公司答辯理由主要是認(rèn)為,，合成模板它只是利用了涉案視頻的妝容、服飾,、發(fā)型光線,、鏡頭切換等這些非人格的要素,，認(rèn)為是沒(méi)有利用人格要素，就認(rèn)為公眾結(jié)合視頻是未能識(shí)別出視頻中人物是原告本人的,。而且他認(rèn)為這個(gè)視頻也沒(méi)有對(duì)原告的肖像進(jìn)行丑化污損，所以說(shuō)本案的爭(zhēng)議焦點(diǎn)主要是在于,，在沒(méi)有使用原告的面部特征的情況下,，被告的這樣的行為是否侵害原告的肖像權(quán)。

法官指出,，由于面部特征具備極強(qiáng)的可識(shí)別性，所以在傳統(tǒng)觀念中,，面部形象屬于肖像范圍并無(wú)爭(zhēng)議,。但在去除面部特征的情況下,，一些不具備明顯特征的身體形態(tài),、肢體動(dòng)作可識(shí)別性較弱，可能不足以使相關(guān)公眾聯(lián)想到特定自然人,。

但值得注意的是，不同人物形象,，可識(shí)別性的判定應(yīng)有不同標(biāo)準(zhǔn),。例如，對(duì)于媒體曝光機(jī)會(huì)較多的公眾人物來(lái)說(shuō),，他外在形象為公眾所識(shí)別的可能性更高,。

曹鈺：

我們認(rèn)為張某在網(wǎng)絡(luò)上發(fā)布的視頻當(dāng)中，是以古風(fēng)妝容并著的漢服出鏡的,，他的面部形象和發(fā)型衣著體貌動(dòng)作特征，這些是共同構(gòu)成了它的外部形象,。涉案視頻的人物的面部特征,，雖然說(shuō)是進(jìn)行了一定的調(diào)整，但是通過(guò)視頻中其他要素的比對(duì),，可以判斷模板中的人物原型就是張某,，結(jié)合張某的粉絲數(shù)量比較多，他的作品也獲得大量點(diǎn)贊,，而且他作為漢服裝扮為主要特色的視頻博主,，他除了面部特征以外的發(fā)型、服飾,、動(dòng)作這些特征,，比普通人具有更高的可識(shí)別性,。經(jīng)過(guò)綜合判斷,，原告除了面部特征以外的形象,，還是屬于可以被識(shí)別的外部形象，張某對(duì)這個(gè)形象是有肖像權(quán)的,。

廣州互聯(lián)網(wǎng)法院審理認(rèn)為,，某科技公司未經(jīng)張某同意，擅自利用張某的身體形象使用AI技術(shù)制作“換臉”視頻,，構(gòu)成對(duì)張某肖像權(quán)的侵害,，結(jié)合本案具體案情判令某科技公司向張某賠禮道歉并賠償損失2000元。

如何有效防范AI技術(shù)的濫用,？

隨著技術(shù)的快速發(fā)展,，近兩年，AI領(lǐng)域迎來(lái)了一輪發(fā)展熱潮,。但AI帶來(lái)便利的同時(shí)也暴露出不少風(fēng)險(xiǎn)隱患,。

對(duì)此，曹鈺表示,，AI技術(shù)的發(fā)展使圖像,、視頻等更加容易被修改，而且修改幅度更大,、更深入,、更容易使觀看者難以分辨。為此,，我們應(yīng)當(dāng)充分注意到AI技術(shù)對(duì)肖像權(quán)可能帶來(lái)的影響,，通過(guò)強(qiáng)化行政、司法和網(wǎng)絡(luò)平臺(tái)的監(jiān)管,、保護(hù),，以及全社會(huì)共同提高保護(hù)意識(shí)來(lái)更好地保護(hù)肖像權(quán)在內(nèi)的各類(lèi)合法權(quán)益。

在2022年,，我國(guó)頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就劃定了深度合成技術(shù)的使用規(guī)范,，包括不得利用深度合成服務(wù)侵犯他人合法權(quán)益等法律規(guī)定。

中國(guó)政法大學(xué)傳播法研究中心副主任朱巍表示,，對(duì)AI的約束要跟上AI技術(shù)的發(fā)展,，在傳播渠道上，可以對(duì)AI作品實(shí)現(xiàn)溯源,。

朱?。?/p>

現(xiàn)在短視頻平臺(tái)，它實(shí)際上無(wú)法來(lái)判定這個(gè)作品到底是不是AI合成的,，除非這個(gè)作品是在本平臺(tái)用AI方式來(lái)完成的,，生成人工智能平臺(tái)和視頻傳播平臺(tái)有沒(méi)有一種方式能給AI的作品有一個(gè)標(biāo)記,，平臺(tái)在加工處理在傳播過(guò)程中也能夠進(jìn)行分辨，平臺(tái)必須要對(duì)這種AI合成的作品有完全的技術(shù)上和制度上的把控手段,。