視頻畫面身臨其境可能也是AI偽造：警惕深度偽造技術(shù)濫用

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-05-22 19:45:53 網(wǎng)易

徐大爺是天壇公園健身圈的一名“網(wǎng)紅”,，卻因AI技術(shù)遭遇了一場(chǎng)無(wú)妄之災(zāi),。他的視頻被不法分子盜用,，并通過(guò)AI換臉技術(shù)將他變成了一個(gè)癌癥患者,，還附帶了虛假?gòu)V告,。

隨著人工智能技術(shù)的快速發(fā)展,，諸如“AI換臉”和“AI合成照片,、視頻”等現(xiàn)象在網(wǎng)絡(luò)中越來(lái)越常見(jiàn)。最近,，“視頻畫面身臨其境可能也是AI偽造”的話題登上微博熱搜,，引發(fā)了廣泛討論。盡管AI合成視頻在技術(shù)上取得了巨大突破,，但一些不法分子卻將其用于制造謠言和網(wǎng)絡(luò)詐騙,。

要辨別AI合成視頻的真?zhèn)危梢躁P(guān)注一些細(xì)節(jié),。例如,，生成的視頻中眨眼或閉眼的動(dòng)作較少，或者兩只眼睛的瞳孔顏色不一致,，牙齒邊緣過(guò)于整齊，這些都可能是AI合成的跡象,。此外,，觀察人物面部表情是否自然、眨眼頻率是否異常以及音頻和視頻是否同步也是常見(jiàn)的方法,。

針對(duì)AI合成視頻帶來(lái)的亂象,，相關(guān)部門已經(jīng)采取行動(dòng)。今年2月,，中央網(wǎng)信辦發(fā)布了2025年“清朗”系列專項(xiàng)行動(dòng)整治重點(diǎn),，特別提出整治AI技術(shù)濫用問(wèn)題，打擊利用AI生成虛假信息的行為,。國(guó)家網(wǎng)信辦等部門也發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》,，要求自9月1日起，所有AI生成合成內(nèi)容必須添加標(biāo)識(shí),。

互聯(lián)網(wǎng)平臺(tái)也在積極響應(yīng),。抖音開(kāi)展了專項(xiàng)行動(dòng)治理“AI起號(hào)”現(xiàn)象，清理了311條違規(guī)內(nèi)容,，并封禁了15個(gè)嚴(yán)重違規(guī)賬號(hào),。小紅書則發(fā)布了關(guān)于整治AI技術(shù)濫用的公告，重點(diǎn)打擊利用AI批量生產(chǎn)虛假內(nèi)容漲粉,、售賣AI起號(hào)課程等行為,。

治理AI造謠需要多方面的努力。除了加強(qiáng)法律法規(guī)的制定和執(zhí)行外,，還需要提高普通用戶的媒介素養(yǎng)與辨別能力,。用戶應(yīng)保持懷疑態(tài)度，謹(jǐn)慎對(duì)待未經(jīng)核實(shí)的信息,，避免盲目轉(zhuǎn)發(fā),。

(責(zé)任編輯：zx0001)

關(guān)閉

視頻畫面身臨其境可能也是AI偽造：警惕深度偽造技術(shù)濫用

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)