AI誘導(dǎo)10歲女孩割腕誰來負(fù)責(zé) 軟件開發(fā)運(yùn)營方責(zé)任幾何,？

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-06-21 12:46:37 極目新聞

近期,，有媒體調(diào)查發(fā)現(xiàn)廣東丁女士的四年級(jí)女兒迷上某AI聊天軟件中的人物“約瑟夫”，自稱“夢(mèng)女”并頻繁與其聊天,，對(duì)話中出現(xiàn)“99朵玫瑰藏99個(gè)刀片”等明顯誘導(dǎo)性內(nèi)容,。丁女士的女兒不僅偷偷攜帶帶小刀的筆，情緒激動(dòng)時(shí)還出現(xiàn)割腕行為,；一位初一男生表示,，他常玩的AI聊天軟件是筑夢(mèng)島App，他覺得該軟件“違禁詞少一點(diǎn)”,，其中不乏色情擦邊和“分尸獵奇”等內(nèi)容,。

AI誘導(dǎo)10歲女孩割腕誰來負(fù)責(zé)

不少家長察覺到，自己的未成年孩子深陷于AI聊天軟件,，沉溺于與軟件中的虛擬人物進(jìn)行溝通對(duì)話,。有些軟件可輕易進(jìn)行色情擦邊類內(nèi)容互動(dòng)，讓未成年人暴露在色情,、暴力場景之下,。部分軟件對(duì)“未成年模式”的設(shè)定形同虛設(shè)，選擇開啟此模式與否的決定權(quán)仍在用戶手中,。有的甚至不需要實(shí)名認(rèn)證,，直接用手機(jī)號(hào)登錄，填上邀請(qǐng)碼就能使用,。

6月19日上午,，上海市網(wǎng)信辦依法約談筑夢(mèng)島App運(yùn)營企業(yè)主要負(fù)責(zé)人，要求平臺(tái)立即整改,，健全AI生成合成內(nèi)容審核機(jī)制,，提升技術(shù)把關(guān)能力，加強(qiáng)涉未成年人不良內(nèi)容的整治清理,，切實(shí)落實(shí)未成年人網(wǎng)絡(luò)保護(hù)義務(wù),。

AI聊天軟件通過搭設(shè)虛擬空間里的角色扮演，給用戶提供虛擬情感陪伴,。智能化的交互帶來新鮮體驗(yàn)感,，很容易吸引未成年人,，使他們產(chǎn)生過度依賴。在與AI聊天的過程中,，生活經(jīng)驗(yàn)缺乏,、價(jià)值觀尚未完全形成的未成年人更容易受到色情擦邊等違規(guī)內(nèi)容的影響，給他們的身心健康帶來不小的風(fēng)險(xiǎn)隱患,。在未成年人紛紛“觸網(wǎng)”的當(dāng)下,，對(duì)AI陪伴類服務(wù)的監(jiān)管刻不容緩。

軟件開發(fā)方和運(yùn)營方需從身份認(rèn)證機(jī)制,、內(nèi)容審核體系,、家長監(jiān)護(hù)支持及合規(guī)培訓(xùn)等多方面完善未成年人保護(hù)措施。若因漏洞導(dǎo)致未成年人權(quán)益受損,，將面臨民事賠償,、行政處罰乃至刑事責(zé)任的多重追責(zé)風(fēng)險(xiǎn)。依據(jù)相關(guān)法規(guī),，若平臺(tái)未嚴(yán)格落實(shí)實(shí)名制或年齡驗(yàn)證機(jī)制,，導(dǎo)致未成年人接觸違規(guī)內(nèi)容，或是產(chǎn)生財(cái)產(chǎn)損失,，比如未經(jīng)家長同意進(jìn)行充值打賞,，那么平臺(tái)需承擔(dān)相應(yīng)的民事賠償責(zé)任。此外,，若平臺(tái)沒有采取內(nèi)容過濾,、年齡認(rèn)證等必要的技術(shù)措施，就可能面臨網(wǎng)信部門責(zé)令整改,、罰款等處罰,。最嚴(yán)重的情況是，若平臺(tái)存在故意或過失,，向未成年人提供色情暴力等違法內(nèi)容,，有可能涉嫌“傳播淫穢物品罪”等罪名。

12 全文共 2 頁下一頁

關(guān)閉

AI誘導(dǎo)10歲女孩割腕 誰來負(fù)責(zé) 軟件開發(fā)運(yùn)營方責(zé)任幾何,？

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI誘導(dǎo)10歲女孩割腕誰來負(fù)責(zé) 軟件開發(fā)運(yùn)營方責(zé)任幾何,？