被埋廢墟下戴帽小孩系A(chǔ)I生成虛假圖片誤導(dǎo)網(wǎng)友

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-01-10 07:38:00 長(zhǎng)城網(wǎng)

被埋廢墟下戴帽小孩系A(chǔ)I生成,。1月7日9時(shí)05分，西藏日喀則市定日縣發(fā)生6.8級(jí)地震,，牽動(dòng)著許多網(wǎng)友的心,。一些網(wǎng)友為了流量，利用AI技術(shù)生成“災(zāi)區(qū)”群眾被埋,、房屋坍塌等虛假照片進(jìn)行發(fā)布,，并配文與日喀則地震相關(guān)關(guān)鍵詞，造成網(wǎng)友誤解,。

其中,，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關(guān)注。圖片中,，一名戴帽子的小男孩被壓在倒塌的廢墟下,，全身鋪滿塵埃。這張圖片在某短視頻平臺(tái)被多個(gè)賬戶轉(zhuǎn)發(fā),，獲得上萬(wàn)轉(zhuǎn)發(fā)和評(píng)贊,。實(shí)際上，這張圖片是由AI生成,，圖中孩子的左手顯示為六根手指,，平臺(tái)也在相關(guān)視頻下方給出文字提示：“疑似使用AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”,。盡管有提示,，不少網(wǎng)友仍被誤導(dǎo)，在留言區(qū)關(guān)注男孩的生命安全,。

這并非個(gè)例,。在某視頻平臺(tái)上，以“日喀則地震群眾被埋”為關(guān)鍵詞搜索發(fā)現(xiàn),，不少視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片,，并在配文中與日喀則地震關(guān)聯(lián)。盡管大部分圖片下方都有小字提示為“AI生成”,，但相關(guān)內(nèi)容仍讓不少網(wǎng)友信以為真,。

為測(cè)試該類圖片的生成過(guò)程，記者嘗試在多款A(yù)I智能生成軟件中進(jìn)行相關(guān)圖片生成,。多數(shù)軟件生成圖片無(wú)風(fēng)險(xiǎn)提示,，如在一款名為“豆包”的AI智能APP中，輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞后,，軟件自動(dòng)生成了多張相關(guān)圖片,。北京京展律師事務(wù)所主任律師張曉玲認(rèn)為,，AI軟件在輸入有關(guān)地震等關(guān)鍵詞時(shí)，未給出任何“不傳播虛假信息”等提示,，直接生成相關(guān)圖片,，存在不妥。AI軟件應(yīng)當(dāng)具備一定的道德和法律判斷能力,，在用戶輸入關(guān)鍵詞時(shí)給予明確的警示,，避免生成和傳播虛假信息。

在發(fā)布環(huán)節(jié),，記者上傳上述AI生成的“地震嬰兒被埋”圖片后,，隨機(jī)配上音樂(lè)并標(biāo)注“日喀則地震孩子被埋，祈求平安”等字樣,，相關(guān)視頻便被順利發(fā)出,。約1小時(shí)后,，相關(guān)內(nèi)容下方出現(xiàn)“疑似使用AI生成技術(shù)”的平臺(tái)小字提示信息,。針對(duì)該情況，抖音客服回應(yīng)稱,，AI生成的圖片及視頻只有在創(chuàng)作者發(fā)布后,，平臺(tái)才能進(jìn)行識(shí)別和審核。若審核發(fā)現(xiàn)為AI圖片,，平臺(tái)會(huì)在內(nèi)容底部標(biāo)記“疑似使用了AI生成技術(shù),，請(qǐng)謹(jǐn)慎甄別”字樣。如果用戶發(fā)現(xiàn)有網(wǎng)友借助AI技術(shù)傳播虛假圖片甚至造謠,，可撥打抖音安全與舉報(bào)專線或直接點(diǎn)擊視頻內(nèi)容進(jìn)行舉報(bào)反饋,。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

被埋廢墟下戴帽小孩系A(chǔ)I生成 虛假圖片誤導(dǎo)網(wǎng)友

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

被埋廢墟下戴帽小孩系A(chǔ)I生成虛假圖片誤導(dǎo)網(wǎng)友