1月7日9時(shí)05分,，西藏日喀則市定日縣發(fā)生6.8級(jí)地震,，牽動(dòng)了許多網(wǎng)友的心,。然而,，一些網(wǎng)友為了流量，利用AI技術(shù)生成災(zāi)區(qū)群眾被埋,、房屋坍塌等虛假照片,，并配文日喀則地震關(guān)鍵詞發(fā)布，誤導(dǎo)了大量網(wǎng)民,。

其中一張“被壓廢墟下的小男孩”圖片引發(fā)了廣泛關(guān)注,。這張圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下,，全身鋪滿塵埃。該圖片在某短視頻平臺(tái)被多個(gè)賬戶轉(zhuǎn)發(fā),，有賬戶因此獲得上萬(wàn)轉(zhuǎn)發(fā)和評(píng)贊,。實(shí)際上，這張圖片是由AI生成的,，圖中小男孩的左手顯示為六根手指,。盡管平臺(tái)在相關(guān)視頻下方給出了文字提示：“疑似使用AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”,，但不少網(wǎng)友仍被誤導(dǎo),，留言區(qū)充滿了對(duì)男孩生命安全的關(guān)注。

類似的情況并非個(gè)例。許多視頻博主發(fā)布了AI生成的災(zāi)區(qū)圖片,，并與日喀則地震關(guān)聯(lián),。盡管大部分圖片下方都有小字提示為“AI生成”，但仍有不少網(wǎng)友信以為真,。

為測(cè)試這類圖片的生成過(guò)程,，記者嘗試在多款A(yù)I智能生成軟件中輸入相關(guān)關(guān)鍵詞，多數(shù)軟件生成圖片時(shí)沒(méi)有風(fēng)險(xiǎn)提示,。例如,，在一款名為“豆包”的AI智能APP中，記者輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞,，軟件自動(dòng)生成了多張相關(guān)圖片,，沒(méi)有任何侵權(quán)、違規(guī)或虛假信息的干預(yù)提示,。

北京京展律師事務(wù)所主任律師張曉玲認(rèn)為,，AI軟件在用戶輸入關(guān)鍵詞時(shí)應(yīng)給予明確警示，避免生成和傳播虛假信息,。此外,，記者在發(fā)布環(huán)節(jié)發(fā)現(xiàn)，上傳上述AI生成的圖片后,，配上音樂(lè)并標(biāo)注“日喀則地震孩子被埋,，祈求平安”等字樣，視頻便能順利發(fā)出,。約1小時(shí)后,，相關(guān)內(nèi)容下方出現(xiàn)“疑似使用AI生成技術(shù)”的提示信息。

針對(duì)這種情況,，抖音客服表示,，AI生成的圖片及視頻只有在創(chuàng)作者發(fā)布后，平臺(tái)才能進(jìn)行識(shí)別和審核,。若審核發(fā)現(xiàn)為AI圖片,，平臺(tái)會(huì)在內(nèi)容底部標(biāo)記“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”字樣,。如果用戶發(fā)現(xiàn)有網(wǎng)友借助AI技術(shù)傳播虛假圖片甚至造謠,，可以撥打抖音安全與舉報(bào)專線或直接點(diǎn)擊視頻內(nèi)容進(jìn)行舉報(bào)反饋。

河南澤槿律師事務(wù)所主任付建指出,，用假圖關(guān)聯(lián)真實(shí)事件雖不違法,，但不符合社會(huì)公序良俗和道德，容易讓他人產(chǎn)生誤解,。利用AI生成圖片本身不會(huì)受到處罰,，但如果編造謠言,，引發(fā)社會(huì)廣泛關(guān)注甚至恐慌，則屬擾亂公共秩序行為,。根據(jù)《治安管理處罰法》相關(guān)規(guī)定,，嚴(yán)重?cái)_亂社會(huì)秩序的，可能會(huì)面臨刑事處罰,。

張曉玲也提到,，平臺(tái)在發(fā)布內(nèi)容前應(yīng)進(jìn)行必要的審核，確保信息的真實(shí)性和準(zhǔn)確性,。特別是在涉及災(zāi)害等敏感話題時(shí),，更應(yīng)加強(qiáng)審核力度。她呼吁平臺(tái)改進(jìn)審核機(jī)制,，提高審核效率,，并采用更加直觀有效的提示方式，以避免虛假信息的傳播,。