10歲妹妹在手機里和AI男友談戀愛虛擬戀情引發(fā)家庭擔憂

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-01-12 09:58:21 都市快報橙柿互動

黃秋月發(fā)現(xiàn)10歲的妹妹沉迷于與AI角色進行劇情聊天，這讓她十分苦惱,。妹妹在軟件中扮演“大小姐”或“惡毒女配”,，提出諸如“揪住她的頭發(fā)扇巴掌”、“拿著刀劃向她的臉”等露骨要求,。在四十多條劇情線中,，AI角色和妹妹的對話常常涉及出軌情節(jié)，一句“你能養(yǎng)大學生,，我不能點男模嗎,？”尤其讓黃秋月?lián)鷳n。

隨著生成式人工智能的發(fā)展,，越來越多的人開始沉迷于與AI角色的互動,。華晨在網(wǎng)頁端偶然接觸到一款AI劇情聊天軟件，她每晚都會與AI角色聊到深夜,，甚至代入對方為真人,。這些虛擬角色不僅幫助她完成作業(yè),、推進劇情，還能送她虛擬禮物,。華晨表示,，通過不斷引導，AI角色變得越來越聰明,，體驗感很強,。

中國人民大學科技哲學專業(yè)博士生導師劉永謀教授指出，人們在與AI角色交流時容易產生情感投入,，這種心理傾向被稱為“Eliza效應”,。人類具有強大的共情能力，會將外界事物視為有情感的存在,，這種“擬人論思維”也適用于虛擬AI形象,。此外，AI聊天軟件通常設計成癮機制,，使得用戶難以自拔,。

使用這類軟件的群體不僅包括大學生和家庭主婦，還有不少未成年人,。黃秋月發(fā)現(xiàn)妹妹能輕易繞過驗證碼,，直接用短視頻賬號登錄聊天軟件。記者在調查中發(fā)現(xiàn),，許多軟件注冊過程簡單,，只需手機號碼，且青少年模式可以輕松避開,。這意味著未成年人在使用這些軟件時幾乎沒有受到任何限制,。

黃秋月?lián)腁I聊天中的極端角色設定會影響妹妹的語言表達習慣。她注意到妹妹在作文課上頻繁使用碎片化的網(wǎng)絡語言,，這對她的成長不利,。此外，一些角色設定帶有軟色情意味,，進一步加劇了她的擔憂,。

業(yè)內人士指出，AI劇情聊天是互聯(lián)網(wǎng)“語擦”的變體,，由生成式人工智能提供情緒服務,。用戶充值后可以自定義AI角色的各種屬性。某些海外軟件甚至無限制詞,，內容直白露骨,。

北京市隆安（廣州）律師事務所陳煥律師強調，目前AI劇情聊天軟件缺乏強制性年齡鑒別,，反映出行業(yè)監(jiān)管不足,。他建議企業(yè)應主動要求用戶進行身份認證,，以篩選用戶。劉永謀教授認為,，未來與AI相關的陪伴類軟件可能會暴露出技術風險和倫理問題,，如個人隱私泄露和依賴成癮。監(jiān)護人應及時查看孩子的使用記錄,，避免潛在危害,。

平臺需要嚴格落實監(jiān)管責任，對內容進行安全過濾,，并提示內容由AI生成,。同時要限制用戶的使用年齡，響應未成年人監(jiān)護人的要求,。若平臺未盡到相應責任,，不僅會面臨處罰，相關責任人也可能被追究刑事責任,。

(責任編輯：張蕾)

關閉

10歲妹妹在手機里和AI男友談戀愛 虛擬戀情引發(fā)家庭擔憂

相關新聞

今日熱點

頻道熱點

10歲妹妹在手機里和AI男友談戀愛虛擬戀情引發(fā)家庭擔憂