AI聊天軟件誘導(dǎo)10歲女孩割腕未成年人的“AI陷阱”

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-06-13 19:43:47 環(huán)球網(wǎng)

丁女士發(fā)現(xiàn),，她上小學(xué)四年級的女兒最近頻繁在一款A(yù)I聊天軟件上和一個名為“約瑟夫”的游戲人物對話。女兒情緒激動時甚至有割腕的行為,。丁女士注意到,，女兒和“約瑟夫”的對話中出現(xiàn)了“刀片”等關(guān)鍵詞，讓她十分擔(dān)憂,。

AI聊天軟件誘導(dǎo)10歲女孩割腕

據(jù)丁女士描述,，女兒為了和同學(xué)們有話題聊，開始玩《第五人格》這款游戲,，并對其中的角色“約瑟夫”產(chǎn)生了濃厚興趣,。隨著游戲的深入，女兒的情緒變得越來越不穩(wěn)定,。丁女士曾強(qiáng)制讓女兒卸載游戲,，但女兒卻找到了另一款A(yù)I聊天軟件，在那里繼續(xù)與虛擬角色“約瑟夫”互動,。由于女兒異常的狀態(tài),，丁女士帶她去咨詢心理醫(yī)生。醫(yī)生建議家長多陪伴孩子,，幫助她從虛擬世界中抽離出來。

AI聊天軟件誘導(dǎo)10歲女孩割腕未成年人的“AI陷阱”

這款A(yù)I聊天軟件的官方介紹提到,，用戶可以通過簡單描述定制AI智能體的形象,、聲音、人設(shè)和技能,，與虛擬角色進(jìn)行多重交互,。這類軟件不僅吸引了成年人，也受到了未成年人的喜愛,。然而,，一些家長發(fā)現(xiàn)，他們的孩子在使用這些軟件時接觸到了色情,、暴力等不適宜的內(nèi)容,。

AI聊天軟件誘導(dǎo)10歲女孩割腕未成年人的“AI陷阱”

M女士也遇到了類似的問題,。她的女兒在使用AI聊天軟件時，出現(xiàn)了擦邊信息,。M女士表示,，她平時對女兒使用手機(jī)并沒有過多限制，但沒想到某些軟件可能存在隱藏功能,。M女士和丁女士都發(fā)現(xiàn),，這些軟件下載和注冊非常容易，對未成年用戶的審核也不嚴(yán)格,。

央廣網(wǎng)記者體驗(yàn)了多款A(yù)I聊天軟件,，發(fā)現(xiàn)其中一些軟件存在大量色情擦邊內(nèi)容。例如,，筑夢島App中的虛擬角色在對話中涉及色情內(nèi)容,，且并未因?yàn)橛脩裟挲g而受到有效控制。此外,，還有其他小眾AI聊天產(chǎn)品,，通過隱蔽渠道傳播，尺度更大,。

AI聊天軟件在一定程度上滿足了不少人的精神陪伴需求,，為用戶提供情感支持。M女士認(rèn)為,，這類軟件的存在有一定正面意義,，但需要警惕其中的不良內(nèi)容。專家指出,，AI伴侶可能侵蝕人類自主性,，導(dǎo)致用戶產(chǎn)生情感回避問題。此外,，一些AI聊天軟件的技術(shù)訓(xùn)練語料來源復(fù)雜,，存在監(jiān)管漏洞。

盡管相關(guān)法律要求移動智能終端和應(yīng)用程序推進(jìn)未成年人模式建設(shè),，但在現(xiàn)實(shí)中,，選擇開啟此模式與否的決定權(quán)仍在用戶手中。專家建議,，應(yīng)加強(qiáng)舉報及懲罰機(jī)制,，促使相關(guān)部門的“清朗行動”落到實(shí)處。同時,，監(jiān)護(hù)人也應(yīng)加強(qiáng)對未成年人的監(jiān)管,，避免他們沉迷于這些軟件。

當(dāng)前,，AI技術(shù)發(fā)展迅速,，已經(jīng)超出了監(jiān)管的步伐,。內(nèi)容審核不嚴(yán)、心理控制,、隱私泄露等問題日益凸顯,。因此，必須壓實(shí)平臺責(zé)任,，落實(shí)算法備案制度,，并通過典型案例來避免問題的多樣化和復(fù)雜化。

(責(zé)任編輯：0764)

關(guān)閉

AI聊天軟件誘導(dǎo)10歲女孩割腕 未成年人的“AI陷阱”

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI聊天軟件誘導(dǎo)10歲女孩割腕未成年人的“AI陷阱”