1月7日9時05分,，西藏日喀則市定日縣發(fā)生6.8級地震,，牽動著許多網(wǎng)友的心。但一些網(wǎng)友為了流量,，利用AI技術(shù)生成“災(zāi)區(qū)”群眾被埋,、房屋坍塌等虛假照片并發(fā)布，配文與日喀則地震相關(guān)關(guān)鍵詞,，造成網(wǎng)友誤解,。

其中，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關(guān)注,。圖片中,，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃,。這張圖片在某短視頻平臺被多個賬戶轉(zhuǎn)發(fā),，有賬戶因此獲得上萬轉(zhuǎn)發(fā)和評贊。實際上,，這張圖片由AI生成,，圖中孩子的左手顯示為六根手指，平臺也在相關(guān)視頻下方給出文字提示：“疑似使用AI生成技術(shù),，請謹慎甄別”,。盡管有提示，不少網(wǎng)友仍被誤導(dǎo),，并在留言區(qū)關(guān)注男孩的生命安全,。

這并非個例。在某視頻平臺上,，以“日喀則地震群眾被埋”為關(guān)鍵詞搜索發(fā)現(xiàn),，不少視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片，并在配文中與日喀則地震關(guān)聯(lián),。盡管大部分圖片下方都有小字提示為“AI生成”,，但相關(guān)內(nèi)容仍讓不少網(wǎng)友信以為真。

為測試該類圖片的生成過程,，記者嘗試在多款A(yù)I智能生成軟件中進行相關(guān)圖片生成,。多數(shù)軟件生成圖片無風險提示，如在一款名為“豆包”的AI智能APP中,，輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞后,，軟件自動生成了多張相關(guān)圖片，未給予任何侵權(quán),、違規(guī),、虛假信息等干預(yù)提示,。北京京展律師事務(wù)所主任律師張曉玲分析認為，AI軟件在輸入有關(guān)地震等關(guān)鍵詞時,，未給出任何“不傳播虛假信息”等提示,，直接生成相關(guān)圖片，存在不妥,。AI軟件應(yīng)當具備一定的道德和法律判斷能力,，在用戶輸入關(guān)鍵詞時給予明確警示，避免生成和傳播虛假信息,。

在發(fā)布環(huán)節(jié),，記者上傳上述AI生成的“地震嬰兒被埋”圖片，隨機配上音樂,，并標注“日喀則地震孩子被埋,，祈求平安”等字樣，相關(guān)視頻順利發(fā)出,。視頻發(fā)布約1小時后,，相關(guān)內(nèi)容下方出現(xiàn)“疑似使用AI生成技術(shù)”的平臺小字提示信息。測試完成后,，記者隨即刪除視頻內(nèi)容,。

針對該情況，記者以網(wǎng)友身份詢問抖音客服,，接線人員回應(yīng)稱,，按照現(xiàn)行審核程序，AI生成的圖片及視頻只有在創(chuàng)作者發(fā)布后,，平臺才能進行識別和審核,。若審核發(fā)現(xiàn)為AI圖片，平臺會在內(nèi)容底部標記“疑似使用了AI生成技術(shù),，請謹慎甄別”字樣,。如果用戶發(fā)現(xiàn)有網(wǎng)友借助AI技術(shù)傳播虛假圖片甚至造謠，可撥打抖音安全與舉報專線或直接點擊視頻內(nèi)容進行舉報反饋,。

河南澤槿律師事務(wù)所主任付建指出,，盡管網(wǎng)友本身或并無惡意，只是希望借助AI生成的圖片獲取流量或希望更多人來關(guān)注地震,，但用“假圖”關(guān)聯(lián)真實事件,，雖不違法，但不符合社會公序良俗和道德,，讓他人產(chǎn)生誤解,，有失妥當。北京京展律師事務(wù)所主任律師張曉玲也表示,，在災(zāi)害面前,，應(yīng)傳遞真實,、準確信息，以助于救援和減少恐慌,，而不該利用災(zāi)害來博取眼球。

利用AI生成圖片本身不會受到處罰,，但若肆意用AI技術(shù)生成地震受災(zāi)嚴重的畫面,，甚至編造謠言，圖片和配文內(nèi)容與事實嚴重不符,，且引發(fā)社會廣泛關(guān)注甚至網(wǎng)友的恐慌,，則屬擾亂公共秩序行為。根據(jù)《治安管理處罰法》相關(guān)規(guī)定,，發(fā)布者編造虛假的險情,、疫情、災(zāi)情,、警情,，在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴重擾亂社會秩序的,，將面臨相應(yīng)的法律責任,。

對于AI生成圖片的相關(guān)視頻立刻能發(fā)出，發(fā)出約1小時后才出現(xiàn)“疑似AI技術(shù)生成”的提示語,，付建認為這說明平臺審核存在問題,，其審核規(guī)則具有滯后性，提示方式也不夠明顯,。張曉玲呼吁平臺改進審核機制,，提高審核效率，并采用更加直觀有效的提示方式,，以避免虛假信息的傳播,。