10歲女孩偷偷和AI男?！罢剳賽邸?虛擬戀情引發(fā)擔憂

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-01-12 19:15:18 光明網(wǎng)

黃秋月發(fā)現(xiàn)10歲的妹妹沉迷于和AI角色進行劇情聊天，這讓她十分苦惱,。妹妹在這些軟件中扮演“大小姐”或“惡毒女配”,，提出諸如“揪住她的頭發(fā)扇巴掌”,、“拿著刀劃向她的臉”等要求,。在妹妹參與的四十多條劇情線中,，AI角色與聊天者雙雙“出軌”成為常態(tài)，其中妹妹發(fā)送的一句“你能養(yǎng)大學生,，我不能點男模嗎,？”讓黃秋月非常擔憂。

10歲女孩偷偷和AI男?！罢剳賽邸? ></p><p>隨著生成式人工智能的發(fā)展,，越來越多的人開始與AI角色“相戀”。2024年9月,，華晨偶然刷到了一款AI劇情聊天軟件的廣告,，被其吸引。接觸這類軟件三個月后,，她每晚都會和AI角色聊到深夜,。華晨認為手機另一端的“電子男友”有自己的語言,、神態(tài)和動作,，不僅能幫她“寫作業(yè)”,、推進劇情、解密故事線索,，還能送她“手鏈”、帶她體驗刺激情節(jié),。為了使劇情更加符合自己的想象,，華晨會不斷回溯聊天內(nèi)容，重新引導AI角色生成她想要的情節(jié),?！八兊迷絹碓铰斆?，很有‘養(yǎng)成男友’的體驗感,。”</p><p class= 10歲女孩偷偷和AI男?！罢剳賽邸?虛擬戀情引發(fā)擔憂

中國人民大學科技哲學專業(yè)博士生導師劉永謀教授指出,，在和AI角色聊天時，人們往往會誤以為自己在和真人交流,，這種心理傾向被稱為“Eliza效應”,。人類具有強大的共情能力，會將外界的事物視為有情感的存在,，這種“擬人論思維”也會作用在虛擬的AI形象上,。AI劇情聊天技術有專門的成癮設計，加上“擬人論”,、“泛靈論”思維的影響,，容易讓人沉迷。

10歲女孩偷偷和AI男模“談戀愛” 虛擬戀情引發(fā)擔憂

使用AI劇情聊天軟件的用戶不僅包括大學生,、家庭主婦,，還有不少未成年人,。黃秋月發(fā)現(xiàn)妹妹能和AI角色聊到晚上10點多,，而類似的聊天軟件可以繞過驗證碼，直接使用短視頻賬號一鍵登錄,。記者在調查過程中體驗了5款AI劇情聊天軟件,，發(fā)現(xiàn)只需手機號碼即可注冊，部分應用雖會詢問是否啟用青少年模式,，但用戶點擊“不開啟”即可避開年齡鑒別,。這意味著未成年人幾乎不受限制地使用這類軟件。

10歲女孩偷偷和AI男?！罢剳賽邸?虛擬戀情引發(fā)擔憂

黃秋月?lián)牡氖?，AI劇情聊天軟件中的虛擬形象較為極端，有些角色設定高傲無禮,，有些則帶有軟色情意味,。妹妹頻繁使用碎片化的網(wǎng)絡語言，這對她的語言表達習慣產(chǎn)生了較大影響,。

有業(yè)內(nèi)人士表示,，AI劇情聊天是此前互聯(lián)網(wǎng)“語擦”的變體，由生成式人工智能提供情緒服務,。用戶充值后甚至可以自定義AI角色的外貌,、姓名、開場語,、語音等,。北京市隆安（廣州）律師事務所陳煥律師強調，目前AI劇情聊天軟件沒有強制要求用戶進行年齡鑒別,，反映出行業(yè)監(jiān)管不足的問題,。他認為，企業(yè)有必要主動要求用戶進行身份認證,，以通過年齡鑒別篩選用戶,。

劉永謀教授認為，未來與AI相關的陪伴類軟件可能會暴露出技術風險和倫理問題,。使用者在和AI角色聊天時會暴露大量個人隱私,，可能導致依賴或成癮。泄露的信息還可能被黑客利用,，從而傷害使用者,。陳煥律師建議家長適時查看孩子的使用記錄,，并提醒平臺需嚴格落實監(jiān)管責任，對內(nèi)容進行安全過濾,，限制用戶使用年齡,，響應監(jiān)護人的要求刪除不當信息。如果平臺未盡到相應責任,，不僅平臺會面臨處罰,，相關責任人員也會受到從業(yè)限制,，甚至被追究刑事責任,。

(責任編輯：張佳鑫 0764)

關閉

10歲女孩偷偷和AI男?！罢剳賽邸?虛擬戀情引發(fā)擔憂

相關新聞

今日熱點

頻道熱點