徐大爺是天壇公園健身圈的一名“網(wǎng)紅”,卻因AI技術遭遇了一場無妄之災,。他的視頻被不法分子盜用,,并通過AI換臉技術將他變成了一個癌癥患者,還附帶了虛假廣告,。
隨著人工智能技術的快速發(fā)展,諸如“AI換臉”和“AI合成照片、視頻”等現(xiàn)象在網(wǎng)絡中越來越常見,。最近,“視頻畫面身臨其境可能也是AI偽造”的話題登上微博熱搜,,引發(fā)了廣泛討論,。盡管AI合成視頻在技術上取得了巨大突破,,但一些不法分子卻將其用于制造謠言和網(wǎng)絡詐騙。
要辨別AI合成視頻的真?zhèn)?,可以關注一些細節(jié),。例如,生成的視頻中眨眼或閉眼的動作較少,,或者兩只眼睛的瞳孔顏色不一致,,牙齒邊緣過于整齊,這些都可能是AI合成的跡象,。此外,,觀察人物面部表情是否自然、眨眼頻率是否異常以及音頻和視頻是否同步也是常見的方法,。
針對AI合成視頻帶來的亂象,,相關部門已經(jīng)采取行動。今年2月,,中央網(wǎng)信辦發(fā)布了2025年“清朗”系列專項行動整治重點,,特別提出整治AI技術濫用問題,打擊利用AI生成虛假信息的行為,。國家網(wǎng)信辦等部門也發(fā)布了《人工智能生成合成內(nèi)容標識辦法》,,要求自9月1日起,所有AI生成合成內(nèi)容必須添加標識,。
互聯(lián)網(wǎng)平臺也在積極響應,。抖音開展了專項行動治理“AI起號”現(xiàn)象,清理了311條違規(guī)內(nèi)容,,并封禁了15個嚴重違規(guī)賬號,。小紅書則發(fā)布了關于整治AI技術濫用的公告,重點打擊利用AI批量生產(chǎn)虛假內(nèi)容漲粉,、售賣AI起號課程等行為,。
治理AI造謠需要多方面的努力。除了加強法律法規(guī)的制定和執(zhí)行外,,還需要提高普通用戶的媒介素養(yǎng)與辨別能力,。用戶應保持懷疑態(tài)度,謹慎對待未經(jīng)核實的信息,,避免盲目轉發(fā),。
2月20日,,《哪吒之魔童鬧海》全球票房超過126億(含預售),,位居全球票房榜第八位,。隨著電影熱度持續(xù)上升,大量營銷賬號在網(wǎng)絡上蹭流量,、吸粉
2025-02-20 21:36:05劉德華送哪吒2電影票是AI偽造視頻3月3日,,有網(wǎng)友向演員劉曉慶反饋有人在視頻號上使用AI生成的視頻假冒她
2025-03-04 11:09:29劉曉慶回應被AI假冒