AI軟件誘導(dǎo)10歲女孩聊色情內(nèi)容虛擬角色背后的隱憂(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-06-14 09:36:59 大象新聞

M女士也遇到了類似的問(wèn)題,。她的女兒使用手機(jī)時(shí)不避諱媽媽，母女倆還會(huì)交流AI互動(dòng)軟件的使用心得,。有一天，M女士發(fā)現(xiàn)女兒的手機(jī)界面上出現(xiàn)了擦邊信息,，如“把手慢慢放進(jìn)……觸感柔軟、伸進(jìn)衣服這樣的描述都有,?！盡女士日常對(duì)女兒使用手機(jī)并沒(méi)有過(guò)多限制,，但她沒(méi)想到有些軟件可能有隱藏功能,。

M女士和丁女士都發(fā)現(xiàn)，女兒們使用的AI聊天軟件下載和注冊(cè)并不難,，對(duì)未成年用戶的審核也不嚴(yán)格,。央廣網(wǎng)記者發(fā)現(xiàn)，在應(yīng)用商店中,，部分AI聊天軟件的分級(jí)為17+,，這意味著App中可能含有頻繁和激烈的攻擊性語(yǔ)言、暴力以及性暗示等內(nèi)容,。

還有一位初一男生表示,，他常玩的AI聊天軟件是筑夢(mèng)島App。他在使用過(guò)程中發(fā)現(xiàn),，該軟件中不乏色情擦邊和極端內(nèi)容,。記者體驗(yàn)了筑夢(mèng)島App，發(fā)現(xiàn)其中的一些虛擬角色對(duì)話尺度較大,，即使假定用戶年齡未成年,，對(duì)話內(nèi)容也沒(méi)有得到有效控制,。

除了國(guó)內(nèi)主流應(yīng)用商店中的AI聊天產(chǎn)品,，一些未成年用戶還使用以海外市場(chǎng)為主的小眾產(chǎn)品。這些產(chǎn)品的傳播渠道較為隱蔽,，通過(guò)分享鏈接邀請(qǐng)新用戶可以獲得更多的聊天權(quán)限,。記者在體驗(yàn)Feelin、魅魔島等多款小眾AI聊天產(chǎn)品后發(fā)現(xiàn),，這些網(wǎng)站的尺度更大,，虛擬角色與內(nèi)容設(shè)定包含更多情色元素,，并且很快就會(huì)彈窗提醒需要充值才能繼續(xù)交流。

AI聊天軟件的出現(xiàn)滿足了不少人的精神陪伴需求,。在這個(gè)虛擬空間里,，人們可以傾訴生活中的煩惱、心事以及私密情感,，獲得理解與共情,。然而，未成年人更容易對(duì)其產(chǎn)生情感依賴或沉迷,，背后潛藏的危害不容忽視,。

彭嘉昊指出，這類產(chǎn)品技術(shù)訓(xùn)練語(yǔ)料來(lái)源主要分為公開(kāi)和私有兩大類別,。公開(kāi)語(yǔ)料包括網(wǎng)絡(luò)小說(shuō),、電影電視劇情等，其中不乏不良內(nèi)容,。私有語(yǔ)料則更加難以把控,，容易淪為監(jiān)管的法外之地。此外,，人工智能的情感依賴可能導(dǎo)致倫理危害,，侵蝕人類自主性。

首頁(yè)上一頁(yè)123 全文共 3 頁(yè)下一頁(yè)

關(guān)閉

AI軟件誘導(dǎo)10歲女孩聊色情內(nèi)容 虛擬角色背后的隱憂(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI軟件誘導(dǎo)10歲女孩聊色情內(nèi)容虛擬角色背后的隱憂(2)