清明節(jié)前一天,浙江嘉興的朱女士在某電商平臺找到一商家,,提供了逝世母親的照片和一些信息,,委托商家使用AI技術(shù)制作視頻,,“復活”了去世多年的母親,。朱女士說,,視頻中,,母親的容貌再次出現(xiàn)眼前,,并對她說著一些鼓勵話,雖然這只是一個虛擬的視頻,,卻讓她感受到了久違的溫暖,。
今年清明節(jié)期間,,利用AI技術(shù)“復活”親人再次成為熱議話題,。在多個電商平臺,只需輸入AI“復活”關(guān)鍵詞,,就能找到大量相關(guān)商家和方案,,僅需一張照片和文字信息,即可實現(xiàn)讓照片中的人動起來,,不僅開口說話,,還能復活原聲。售價從幾元,、幾十元到上百元不等,。
清華大學國家信息研究中心副研究員王東稱,AI“復活”是利用人工智能技術(shù)模擬生成逝者數(shù)字形象的應用,,通過輸入逝者的圖片,、視頻和文字、聲音資料,,生成具備逝者特征的數(shù)字形象,。該技術(shù)初衷是幫助人們緬懷和紀念親人,,通過模擬生成數(shù)字形象實現(xiàn)音容再現(xiàn),滿足人們與逝去親人再次見面的渴望,,提供一種具象的追憶方式,。然而,技術(shù)背后也暗藏爭議,,甚至帶來隱私泄露和侵權(quán)的風險,。需要明確的是,對技術(shù)應用和人機邊界的把握始終是關(guān)鍵,,相關(guān)部門需加強監(jiān)管,,避免技術(shù)濫用。
不久前,,山東青島市的劉女士出于對已去世奶奶的思念,,提供了奶奶的照片和生前一段語音,嘗試AI“復活”,,沒想到收獲了一場跨越時空的溫暖重逢,。視頻中,熟悉的聲音在她耳邊響起,,就好像奶奶還在身邊一樣,。有人可能認為這是一種虛假的安慰,會讓人沉迷于過去無法自拔,。但是,,正是因為分別如此痛苦,才需要一些安慰和情感寄托來幫助我們更好地走下去,。劉女士表示,,雖然AI“復活”視頻讓人在情感上得到一定滿足,但真正的治愈還是來自內(nèi)心深處的自我修復過程,,而不是外部手段的介入,。
河北衡水市的于先生和山西臨汾市的郭女士均表示,出于對逝去親人的尊重和傳統(tǒng),,他們不會選擇用AI“復活”親人,。但他們對此做法表示理解,因為AI“復活”能為生者帶來心靈慰藉,,重振生活信心,,讓思念有處表達,發(fā)揮了技術(shù)的積極作用,。應理性看待這項技術(shù),,既要珍惜它帶來的正面影響,也要警惕潛在風險,。
六六是一名AI技術(shù)愛好者,。近兩年,,他利用AI幫上千人“復活”親人。他表示,,輸入一張已逝親人的照片和一段生前的錄音,,不但可以讓照片動起來,還可以模擬親人的聲音和語氣講話,。如果生前的視頻資料更豐富,,還可以定制親人的“數(shù)字人”,他希望能發(fā)揮技術(shù)的正面作用,,用這種方式更好地療愈有需要的普通人,。
人工智能專家郭濤表示,“AI復活親人”現(xiàn)象的興起得益于技術(shù),、心理需求與社會趨勢的共同推動,。在技術(shù)上,深度學習,、NLP和GANs等AI技術(shù)的成熟,,使語音、外貌和對話模擬成為可能,,且商業(yè)化服務價格低至幾元,,形成了情感消費市場。在心理層面,,人類對親情延續(xù)的渴望,,尤其是喪失親人后的心理創(chuàng)傷,促使技術(shù)成為情感代償工具,,幫助生者緩解思念之苦,。在社會趨勢方面,殯葬行業(yè)引入AI數(shù)字人服務,,電商平臺推出低價套餐,,加速了技術(shù)的普及,。這一現(xiàn)象既滿足了人們對科技進步的好奇,,也探索了生命、記憶與情感之間的深厚聯(lián)系,。用戶心理呈現(xiàn)顯著的雙面性,。在積極層面,技術(shù)為喪親者提供“未竟對話”的情感出口,;在消極層面,,部分用戶陷入“虛擬依賴癥”,過度沉溺虛擬互動導致現(xiàn)實社交障礙,,更有不法分子利用AI偽造親人影像實施詐騙,。這種心理本質(zhì)是人類對親情延續(xù)的本能渴望,,卻也暗藏逃避現(xiàn)實、混淆虛實的風險,,需警惕技術(shù)從“情感橋梁”異化為“心理牢籠”,。
據(jù)了解,當前一些殯葬服務公司正利用“AI創(chuàng)造性內(nèi)容”的風口,,把對逝者的愛和懷念轉(zhuǎn)化為數(shù)字產(chǎn)品,,使家屬能夠與逝去親人的數(shù)字化形象進行對話,幫助他們在悲痛中找到一絲安慰,。多地陵園也引入AI技術(shù)“復活”逝者,,使親屬與AI數(shù)字親人實現(xiàn)實時對話。在多個電商平臺和社交平臺,,AI“復活”已形成了一門生意,。記者以AI“復活”為關(guān)鍵詞,在電商平臺進行搜索后,,部分商家展示了多種“AI復活親人”產(chǎn)品,,這些產(chǎn)品包括圖片、視頻等,,價格在幾元,、幾十元到上百元不等。據(jù)商家介紹,,消費者只需提供一張照片即可,,對于視頻語音,可由客戶提供,,也可由商家提供,。一些商家還出售“AI制作代復活親人視頻教程”,或者備注“收徒”,,并標明了“短視頻新賽道輕松火爆全平臺副業(yè)項目”等字眼,。在一些短視頻平臺,也出現(xiàn)類似服務,。在一些AI“復活”內(nèi)容和商家視頻下面,,不少網(wǎng)友留言表示愿意花錢購買這項服務,并紛紛下單,。
王東介紹,,AI“復活”親人背后的技術(shù)原理可以歸結(jié)為兩點,一是個性特征提取,,二是生成式音視頻模型,。“個性特征”是指人的臉部和聲音特征,這些特征可以區(qū)別不同的人臉和不同的聲音,。生成式音視頻模型基于這些個性化特征,,加上所有人共有的動作和發(fā)音內(nèi)容,就可以生成惟妙惟肖的視頻和音頻,,將人的個性化特征和共性化的語言動作進行分離并重組,,這是AI“復活”親人的基本原理。如果讓親人和人對話,,那就需要應用語音識別和語言理解能力,,這種能力目前已經(jīng)比較成熟,特別多模態(tài)大模型技術(shù)的發(fā)展讓這種對話能力變得越來越強大,。
郭濤介紹,,當前新技術(shù)路徑按復雜度與成本分為三級:基礎層利用AI開源工具實現(xiàn)照片動態(tài)化,收費幾十元甚至低于10元,,但效果生硬,;進階層結(jié)合語音克隆(需60秒以上音頻)與虛擬形象驅(qū)動,,收費500-2000元,,可實現(xiàn)簡單對話;高級層依托大模型訓練構(gòu)建數(shù)字人交互系統(tǒng),,需1分鐘視頻及生活語料,,收費超萬元,能模擬逝者“記憶”并進行深度互動,。不同層級技術(shù)的成熟度與成本差異,,形成了從基礎到高階的服務矩陣。
科技博主黃海峰說,,目前,,雖然AI“復活”在語音合成上可打造高度逼真自然的聲音,圖像生成可呈現(xiàn)逼真的動態(tài)人物形象,,對話交互能模擬特定人物語言風格對話,,但在復雜邏輯和深度知識上尚存不足。合適的深度學習算法只是起點,,還需要專業(yè)團隊進行針對性調(diào)優(yōu),。
此前媒體報道,一些網(wǎng)絡博主使用AI技術(shù)“復活”逝世明星的做法引發(fā)爭議,。郭濤表示,,AI“復活”現(xiàn)象帶來了倫理和法律的雙重挑戰(zhàn)。倫理上,,未經(jīng)授權(quán)的“復活”可能侵犯逝者人格權(quán),尤其是公眾人物易被濫用,。此外,,虛擬形象與逝者真實意志的沖突,,可能模糊生死界限,引發(fā)身份認同問題,。法律上,,根據(jù)《中華人民共和國民法典》第九百九十四條規(guī)定,擅自使用死者肖像需近親屬同意,,否則需承擔民事責任,。傳播平臺也需對侵權(quán)內(nèi)容承擔連帶責任,但當前標注規(guī)范執(zhí)行不足,。同時,,構(gòu)建數(shù)字人涉及大量敏感信息,存在泄露風險,,且用戶與數(shù)字人交互產(chǎn)生的行為數(shù)據(jù)可能被不當利用,。
中國政法大學知識產(chǎn)權(quán)研究中心特約研究員趙占領律師表示,AI“復活”主要涉及到民法典所規(guī)定的肖像權(quán)以及聲音相關(guān)的權(quán)益,。自然人在已經(jīng)去世情況下,,其肖像和聲音的利益由其法定繼承人來繼承。未經(jīng)其法定繼承人的同意,,不能使用AI軟件或其他方式去合成其肖像或聲音,,否則構(gòu)成侵權(quán)。此外,,平臺商家未經(jīng)他人同意將他人的AI“復活”資料案例作為展示宣傳使用,,同樣構(gòu)成侵權(quán)。趙占領還表示,,使用AI合成的圖片或視頻進行詐騙,,還涉及刑事犯罪。對于這種情況,,一般受眾和用戶可能很難辨別真假,,因此群眾更需警惕和防范,如遇到類似借款等請求,,一定要通過可靠的方式進行核實驗證,。
王東認為,AI“復活”親人展現(xiàn)了AI技術(shù)的強大,,也是AI技術(shù)正面應用的一個典范,。然而,同樣的技術(shù)如果不當使用,,可能還會帶來極大風險,。有不法分子可能會用虛假生成的音視頻進行勒索、詐騙,會給受害人帶來經(jīng)濟損失,。虛假音視頻也會侵犯個人隱私,,損害個人名譽。之前有報道稱韓國多個女性公眾人物的臉部被替換到色情視頻上,,這些視頻被廣泛傳播,,導致受害者遭受嚴重的心理傷害和名譽損失。這類虛假視頻不僅侵犯了個人隱私,,還會對受害者的生活和職業(yè)生涯造成巨大沖擊,。此外,虛假音視頻的傳播還可能引起社會混亂,。比如有人偽造公眾人物的講話視頻,,傳播不實消息,引發(fā)混亂與恐慌,。
王東表示,,偽造音視頻資料對人來說很難判斷真假,但也并非無跡可尋,。最有希望的方式是用AI對抗AI,,用人工智能技術(shù)來檢測音視頻的真實性。例如,,可以通過識別圖像或音頻在細節(jié)上的失真來判斷視頻是否合成,。比如,清華大學和北京郵電大學合作的一項鑒偽工作,,通過考察音頻和視頻的同步性(如嘴唇和聲音是否匹配),,也可以將一些偽造視頻檢測出來。面對虛假音視頻的泛濫成災,,多個科技公司和研究機構(gòu)正在研發(fā)和推廣鑒偽技術(shù),。
除了技術(shù)手段,加強公眾對虛假信息的認識也很重要,,要提醒公眾不要盲目相信網(wǎng)絡上的視頻和音頻信息,。此外,防范音視頻偽造不只是技術(shù)上的問題,,也需要法律約束,。多個國家(包括我國)已經(jīng)強制要求對AI生成的內(nèi)容做明確標識,嚴懲使用音視頻合成技術(shù)進行犯罪活動的人,。只有將合成音視頻的非法使用變成高壓線,,才能杜絕濫用現(xiàn)象。
郭濤認為,,目前,,具身智能,、情感智能等相關(guān)技術(shù)還不成熟,未來隨著相關(guān)技術(shù)的成熟,,或許將實現(xiàn)數(shù)字人永生,,以數(shù)字人的形式生活在元宇宙里面,。因此,,需通過法律規(guī)制、行業(yè)自律和技術(shù)倫理標準協(xié)同治理,,確保技術(shù)應用符合倫理道德和法律規(guī)范,。
趙占領表示,技術(shù)本身并無善惡之分,,關(guān)鍵在于使用它的人,。在實際操作中,一些商家或個人打著情感慰藉的幌子,,未經(jīng)逝者親屬允許,,擅自利用這一技術(shù),甚至將生成的影像和聲音用于商業(yè)活動,。這不僅是對逝者的不尊重,,更是對親屬情感的二次傷害。必須明確的是,,無論是“復活”親人還是“復活”明星,,AI應用應當遵循一定的倫理,嚴守法律紅線,,不能侵害他人的合法權(quán)益,,不能用于違法或者犯罪活動。此外,,AI“復活”逝者是把雙刃劍,,需審慎使用。這項技術(shù)雖能彌補情感缺憾,,但也可能加深離別之痛,。因此應明確技術(shù)邊界,尊重逝者與親屬的權(quán)益,。從促進市場規(guī)范發(fā)展的立場看,,監(jiān)管部門也需要及早研判,擬定合理標準,,督促商家有序經(jīng)營,,保護數(shù)據(jù)安全,避免技術(shù)濫用,,確保AI“復活”逝者技術(shù)能夠在合法,、合規(guī)的前提下健康發(fā)展,。
燕子來時新社,,梨花落后清明。3月25日,,成都市民政局主辦的“第十三屆生態(tài)葬公益捐贈活動暨集中安葬儀式”在磨盤山公墓舉行
2025-03-26 10:10:39成都50名逝者集體花葬電商平臺推出了一種名為“先用后付”的支付方式,允許消費者在收到商品后再付款,。這種方式迅速受到歡迎,,因為它給消費者帶來了即時滿足感和購物便利
2024-11-28 16:45:57先用后付暗藏四大風險