被埋廢墟下戴帽小孩系AI生成虛假圖片誤導網(wǎng)友

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-01-10 07:38:00 長城網(wǎng)

被埋廢墟下戴帽小孩系AI生成。1月7日9時05分,，西藏日喀則市定日縣發(fā)生6.8級地震,，牽動著許多網(wǎng)友的心。一些網(wǎng)友為了流量,，利用AI技術生成“災區(qū)”群眾被埋,、房屋坍塌等虛假照片進行發(fā)布，并配文與日喀則地震相關關鍵詞,，造成網(wǎng)友誤解,。

其中，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關注,。圖片中,，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃,。這張圖片在某短視頻平臺被多個賬戶轉發(fā),，獲得上萬轉發(fā)和評贊。實際上,，這張圖片是由AI生成,，圖中孩子的左手顯示為六根手指，平臺也在相關視頻下方給出文字提示：“疑似使用AI生成技術,，請謹慎甄別”,。盡管有提示，不少網(wǎng)友仍被誤導,，在留言區(qū)關注男孩的生命安全,。

這并非個例。在某視頻平臺上，以“日喀則地震群眾被埋”為關鍵詞搜索發(fā)現(xiàn),，不少視頻博主都發(fā)布了AI生成的災區(qū)圖片,，并在配文中與日喀則地震關聯(lián)。盡管大部分圖片下方都有小字提示為“AI生成”,，但相關內容仍讓不少網(wǎng)友信以為真,。

為測試該類圖片的生成過程，記者嘗試在多款AI智能生成軟件中進行相關圖片生成,。多數(shù)軟件生成圖片無風險提示,，如在一款名為“豆包”的AI智能APP中，輸入“日喀則地震嬰兒被埋”的關鍵詞后,，軟件自動生成了多張相關圖片,。北京京展律師事務所主任律師張曉玲認為，AI軟件在輸入有關地震等關鍵詞時,，未給出任何“不傳播虛假信息”等提示,，直接生成相關圖片，存在不妥,。AI軟件應當具備一定的道德和法律判斷能力,，在用戶輸入關鍵詞時給予明確的警示，避免生成和傳播虛假信息,。

在發(fā)布環(huán)節(jié),，記者上傳上述AI生成的“地震嬰兒被埋”圖片后，隨機配上音樂并標注“日喀則地震孩子被埋,，祈求平安”等字樣,，相關視頻便被順利發(fā)出。約1小時后,，相關內容下方出現(xiàn)“疑似使用AI生成技術”的平臺小字提示信息,。針對該情況，抖音客服回應稱,，AI生成的圖片及視頻只有在創(chuàng)作者發(fā)布后,，平臺才能進行識別和審核。若審核發(fā)現(xiàn)為AI圖片,，平臺會在內容底部標記“疑似使用了AI生成技術,，請謹慎甄別”字樣。如果用戶發(fā)現(xiàn)有網(wǎng)友借助AI技術傳播虛假圖片甚至造謠,，可撥打抖音安全與舉報專線或直接點擊視頻內容進行舉報反饋,。

12 全文共 2 頁下一頁

關閉

被埋廢墟下戴帽小孩系AI生成 虛假圖片誤導網(wǎng)友

相關新聞

今日熱點

頻道熱點

被埋廢墟下戴帽小孩系AI生成虛假圖片誤導網(wǎng)友