最近，有網(wǎng)友發(fā)消息稱,，“張文宏是不是帶貨了,？”視頻中,，張文宏在賣一種蛋白棒，讓不少老人信以為真,，瘋狂跟單,。

圖源：視頻截圖

仔細看網(wǎng)友提供的視頻，張文宏正在反復(fù)介紹一種產(chǎn)品,，口型是他的,、聲音也是他的，乍一看跟真的似的,。但仔細一看,，視頻畫質(zhì)潦草、口型也對不太上,，對AI多少有一些了解的人們可以分辨出來,，這是AI合成的視頻，但互聯(lián)網(wǎng)了解不深的老年人的確不好甄別真?zhèn)巍?/p>

這段視頻也在網(wǎng)友曝光后,，從賬號內(nèi)被刪除,，只剩商品櫥窗里還保留著售賣的頁面,，并顯示已售1180件商品。

在AI技術(shù)面前

“眼見為實”的常規(guī)認知正在被挑戰(zhàn)

當下,，AI合成技術(shù)已經(jīng)非常成熟且已被頻繁應(yīng)用在短視頻制作中,。調(diào)取一段錄像，輸入一段語音,，便能提取克隆相關(guān)的嗓音特質(zhì),，并針對“自行設(shè)計”的臺詞，智能修改口型,。一段足以“以假亂真”的“帶貨”視頻,，再加上張文宏的名人效應(yīng)，其形象和言論具有一定的權(quán)威性和影響力,，讓不少消費者信以為真,。

對此，張文宏醫(yī)生也表示既憤怒又無奈,。他曾多次向平臺投訴類似賬號，但這樣的賣貨賬號不止一個,，且一直在換,，讓人筋疲力盡?！斑@些假的AI合成信息就像蝗災(zāi)一樣,，一次又一次發(fā)生，像漫天飛過來的蝗蟲一樣害人,?！辈浑y想象，受害者們發(fā)現(xiàn)真相后的沮喪與失落,。

在類似的AI合成冒充名人的騙局中,，上當者比比皆是。

據(jù)報道,，今年11月,，江西一位老人到銀行辦理業(yè)務(wù)，聲稱要貸款200萬元給男朋友“靳東”拍戲,。經(jīng)調(diào)查發(fā)現(xiàn),，老人手機里的“靳東”出自由AI合成的視頻；今年10月,，老牌港星黃百鳴通過社交媒體鄭重聲明,，有人盜用其過去影片，利用AI替換聲音,，代言一個不知名的藥膏品牌,；更有甚者,，已然過世的名人，也有被“借尸還魂”帶貨的……

在AI技術(shù)面前,，“眼見為實”“有圖有真相”的常規(guī)認知正在被挑戰(zhàn),，人們對于網(wǎng)絡(luò)信息傳播的信任感也在被挑戰(zhàn)。一些由AI合成的虛假視頻內(nèi)容,，成為別有用心之人的造謠斂財工具,，不僅影響著公眾人物的專業(yè)形象和社會公信力，更破壞了互聯(lián)網(wǎng)的誠信體系,。

沒有直接使用他人面部形象

也能構(gòu)成肖像權(quán)侵害嗎,？

近日，廣州互聯(lián)網(wǎng)法院就審結(jié)了一起由“AI換臉”視頻合成模板引發(fā)的侵權(quán)糾紛,。一位知名短視頻博主發(fā)現(xiàn)自己的漢服裝扮視頻被某科技公司擅自制成了付費“AI換臉”模板,。法院審理后認定，該公司的行為侵犯了博主的肖像權(quán),。

張先生是一位知名短視頻博主,，經(jīng)常在各大自媒體平臺上發(fā)布含本人肖像的國風(fēng)漢服裝扮的短視頻。最近,，有粉絲提醒他,，在一款美顏拍照小程序當中，他的漢服形象成了視頻模板,，還需要付費使用,。張先生發(fā)現(xiàn)，小程序的運營方是某科技公司,，付費用戶可以用此模板進行“AI換臉”,，體驗國風(fēng)妝造。張先生的代理律師嚴茜告訴記者,，在意識到自己的肖像權(quán)被侵害后,，張先生把這家公司告上了法院。

嚴茜：

他是在古風(fēng)圈也是小有名氣的,，有粉絲告知我們說是有這樣一個侵權(quán),，發(fā)現(xiàn)他受邀拍或者自己拍的這些視頻、圖片被AI換臉,。換臉后的這種妝造跟當事人是一模一樣的,。通過發(fā)飾、妝造或者面部的表情,，能夠識別出是原告,，我們也認為侵犯了原告的肖像權(quán)。

AI換臉也稱為深度偽造技術(shù),，其實質(zhì)是一種基于人工智能的人體圖像合成技術(shù),。AI換臉技術(shù)將個體的面部形象,、身體形象甚至聲音語調(diào)等進行分解，又與他人的形象特征進行融合,、拼湊,。本案中的AI換臉行為就是用用戶上傳的面部特征替換了原視頻中張先生的面部特征。廣州互聯(lián)網(wǎng)法院綜合審判三庭庭長曹鈺說,，本案的焦點就在于,，沒有使用他人面部形象的情況下是否構(gòu)成侵害肖像權(quán)。

曹鈺：

科技公司答辯理由主要是認為,，合成模板它只是利用了涉案視頻的妝容,、服飾、發(fā)型光線,、鏡頭切換等這些非人格的要素,，認為是沒有利用人格要素，就認為公眾結(jié)合視頻是未能識別出視頻中人物是原告本人的,。而且他認為這個視頻也沒有對原告的肖像進行丑化污損,，所以說本案的爭議焦點主要是在于，在沒有使用原告的面部特征的情況下,，被告的這樣的行為是否侵害原告的肖像權(quán),。

法官指出，由于面部特征具備極強的可識別性,，所以在傳統(tǒng)觀念中，面部形象屬于肖像范圍并無爭議,。但在去除面部特征的情況下,，一些不具備明顯特征的身體形態(tài)、肢體動作可識別性較弱,，可能不足以使相關(guān)公眾聯(lián)想到特定自然人,。

但值得注意的是，不同人物形象,，可識別性的判定應(yīng)有不同標準,。例如，對于媒體曝光機會較多的公眾人物來說,，他外在形象為公眾所識別的可能性更高,。

曹鈺：

我們認為張某在網(wǎng)絡(luò)上發(fā)布的視頻當中，是以古風(fēng)妝容并著的漢服出鏡的,，他的面部形象和發(fā)型衣著體貌動作特征,，這些是共同構(gòu)成了它的外部形象。涉案視頻的人物的面部特征,，雖然說是進行了一定的調(diào)整,，但是通過視頻中其他要素的比對,，可以判斷模板中的人物原型就是張某，結(jié)合張某的粉絲數(shù)量比較多,，他的作品也獲得大量點贊,，而且他作為漢服裝扮為主要特色的視頻博主，他除了面部特征以外的發(fā)型,、服飾,、動作這些特征，比普通人具有更高的可識別性,。經(jīng)過綜合判斷,，原告除了面部特征以外的形象，還是屬于可以被識別的外部形象,，張某對這個形象是有肖像權(quán)的,。

廣州互聯(lián)網(wǎng)法院審理認為，某科技公司未經(jīng)張某同意,，擅自利用張某的身體形象使用AI技術(shù)制作“換臉”視頻,，構(gòu)成對張某肖像權(quán)的侵害，結(jié)合本案具體案情判令某科技公司向張某賠禮道歉并賠償損失2000元,。

如何有效防范AI技術(shù)的濫用,？

隨著技術(shù)的快速發(fā)展，近兩年,，AI領(lǐng)域迎來了一輪發(fā)展熱潮,。但AI帶來便利的同時也暴露出不少風(fēng)險隱患。

對此,，曹鈺表示,，AI技術(shù)的發(fā)展使圖像、視頻等更加容易被修改,，而且修改幅度更大,、更深入、更容易使觀看者難以分辨,。為此,，我們應(yīng)當充分注意到AI技術(shù)對肖像權(quán)可能帶來的影響，通過強化行政,、司法和網(wǎng)絡(luò)平臺的監(jiān)管,、保護，以及全社會共同提高保護意識來更好地保護肖像權(quán)在內(nèi)的各類合法權(quán)益,。

在2022年,，我國頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就劃定了深度合成技術(shù)的使用規(guī)范，包括不得利用深度合成服務(wù)侵犯他人合法權(quán)益等法律規(guī)定。

中國政法大學(xué)傳播法研究中心副主任朱巍表示,，對AI的約束要跟上AI技術(shù)的發(fā)展,，在傳播渠道上，可以對AI作品實現(xiàn)溯源,。

朱?。?/p>

現(xiàn)在短視頻平臺，它實際上無法來判定這個作品到底是不是AI合成的,，除非這個作品是在本平臺用AI方式來完成的,，生成人工智能平臺和視頻傳播平臺有沒有一種方式能給AI的作品有一個標記，平臺在加工處理在傳播過程中也能夠進行分辨,，平臺必須要對這種AI合成的作品有完全的技術(shù)上和制度上的把控手段,。