聊天軟件充斥色情暴力內(nèi)容家長擔(dān)憂加劇

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-11-27 11:44:00 中國青年報(bào)

近日調(diào)查發(fā)現(xiàn),，不少未成年人的家長被AI劇情聊天軟件所困擾,。這些打著“角色扮演”旗號的應(yīng)用在吸引未成年人的同時(shí)，也滋生了一些灰色地帶,，對話中出現(xiàn)了色情擦邊,、語言暴力和侮辱用戶的內(nèi)容,。

ChatGPT的出現(xiàn)點(diǎn)燃了人工智能領(lǐng)域的熱情，催生了各種創(chuàng)新應(yīng)用,。然而,，一些AI劇情聊天軟件卻用色情、暴力內(nèi)容吸引未成年人,，誘導(dǎo)他們充值消費(fèi),，這引發(fā)了家長們的強(qiáng)烈擔(dān)憂，也凸顯出加強(qiáng)行業(yè)監(jiān)管的緊迫性,。

AI劇情聊天軟件依托人工智能技術(shù),，模擬虛擬人物與玩家進(jìn)行對話，為青少年打造了一個(gè)充滿新奇與未知感的虛擬世界,。但問題在于,，一些軟件開發(fā)平臺為了吸引用戶，設(shè)置了包含性暗示或暴力元素的對話內(nèi)容,，甚至設(shè)計(jì)了超出青少年認(rèn)知范圍的場景和劇情,，如將聊天對象設(shè)定為“出軌對象”，并涉及擁抱,、親吻等親密行為,。更有甚者，部分軟件提供色情內(nèi)容,，對青少年健康成長造成極大威脅,。

在青少年成長發(fā)育的關(guān)鍵時(shí)期，營造健康向上的網(wǎng)絡(luò)環(huán)境至關(guān)重要,。如果他們沉迷于充斥著低俗,、暴力內(nèi)容的虛擬世界，甚至進(jìn)行大額充值消費(fèi),，無疑會對其價(jià)值觀造成負(fù)面影響,。要確保行業(yè)健康發(fā)展，防止技術(shù)被濫用，必須迅速采取措施,，加強(qiáng)監(jiān)管力度,，約束平臺守法合規(guī)運(yùn)營。一旦發(fā)現(xiàn)存在色情內(nèi)容,，應(yīng)立即對相關(guān)應(yīng)用軟件進(jìn)行下架處理,，以儆效尤。

更為重要的是,，要將未成年人保護(hù)機(jī)制真正落到實(shí)處,。有些AI劇情聊天軟件注冊極為簡便，無需實(shí)名驗(yàn)證,，沒有對不同年齡段用戶進(jìn)行區(qū)分,。還有的軟件雖然提供了“青少年模式”，但防火墻形同虛設(shè),，用戶選擇該模式后仍能看到不適合他們觀看的內(nèi)容,。因此，行業(yè)監(jiān)管部門應(yīng)系統(tǒng)梳理排查,，看最基礎(chǔ)性的“青少年模式”是否執(zhí)行到位,，并加強(qiáng)對平臺內(nèi)容的審核，確保生成的內(nèi)容合法合規(guī),。

另一方面,，AI劇情聊天軟件的網(wǎng)絡(luò)開發(fā)平臺也應(yīng)主動承擔(dān)起主體責(zé)任，加強(qiáng)自律,，建立完善的內(nèi)容審核機(jī)制,，在軟件上架前的語言訓(xùn)練階段就對可能存在的色情、暴力等有害信息進(jìn)行有效過濾,。不能為了追求用戶數(shù)量而打法律的擦邊球,。

AI劇情聊天軟件亂象對未成年人身心健康造成的潛在危害不可忽視。無論如何,，人工智能作為新興行業(yè)，其快速發(fā)展應(yīng)當(dāng)為社會經(jīng)濟(jì)帶來正面價(jià)值,。不能讓技術(shù)跑偏,，成為非法牟利的工具。守護(hù)好未成年人身心健康的防線,，人工智能才能真正實(shí)現(xiàn)“技術(shù)向善”,。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

聊天軟件充斥色情暴力內(nèi)容 家長擔(dān)憂加劇

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

聊天軟件充斥色情暴力內(nèi)容家長擔(dān)憂加劇