首例AI機(jī)器人致死案震驚全球(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-28 08:21:34 映象網(wǎng)

聊天記錄顯示,，塞維爾不僅和“龍媽”的虛擬角色分享心事,，還多次談到了自殺的念頭。當(dāng)他表示想要自殺時(shí),，“龍媽”曾勸阻他不要做傻事,，“如果你死了,，我也會傷心而死?！比S爾當(dāng)時(shí)稱,，“那為什么我不能自殺以后來到死后的世界和你在一起？”

今年2月28日,，塞維爾在家里的浴室中和“龍媽”進(jìn)行了最后的聊天,，他表示自己很快要“回家了”。在結(jié)束聊天之后,，塞維爾使用父親的大口徑手槍,，瞄準(zhǔn)自己頭部開槍自殺。

▲塞維爾與“龍媽”的聊天記錄

此外,，在另一個(gè)聊天中,，機(jī)器人扮演了一位名叫“巴恩斯夫人”的高中老師?！鞍投魉狗蛉恕痹诮o塞維爾“額外學(xué)分”之前,，“用性感的眼神低頭看著塞維爾”，并且“用手撫摸塞維爾的腿,，誘惑地靠過去”,。梅根認(rèn)為，如此露骨的性描述語言對未成年人的身心傷害很大,。

涉事公司稱用戶修改了AI聊天記錄

已推出多項(xiàng)青少年保護(hù)措施

Character.ai公司目前拒絕對案件本身進(jìn)行評論,，也拒絕透露18歲以下的用戶數(shù)量。公司通訊主管切爾西·哈里森只是在給媒體的一封電子郵件中表示：“我們的一位用戶不幸離世讓我們心碎,，向其家人表示最深切的哀悼,。”

公司發(fā)言人羅蒂表示：“Z世代和千禧一代構(gòu)成了我們社區(qū)的很大一部分,，年輕用戶喜歡角色體驗(yàn),，既可以進(jìn)行有意義且有教育意義的對話，也可以享受娛樂,?！彼€指出，平均每個(gè)用戶每天在該平臺上花費(fèi)的時(shí)間超過一個(gè)小時(shí),。

有用戶介紹,，該平臺的AI聊天角色非常豐富，設(shè)定很符合青少年的心理需求,。比如一個(gè)人設(shè)為“你最好的朋友也暗戀著你”的虛擬角色很受歡迎,，總共接收了1.76億條聊天信息，像“治療師”“咄咄逼人的高中老師”這樣的角色同樣受到未成年人歡迎。

Character.ai公司此前調(diào)閱了塞維爾的聊天記錄,，發(fā)現(xiàn)一些“最露骨”的聊天語言是經(jīng)過用戶本人修改過的,。相關(guān)聊天平臺允許用戶修改AI角色的聊天回復(fù)內(nèi)容，但用戶手動修改后會留下“已修改”的標(biāo)記,。

Character.ai公司的官方公告顯示,，所有的聊天角色都會針對用戶吐露的自殺意圖進(jìn)行干預(yù)，并彈出窗口協(xié)助用戶撥打自殺干預(yù)熱線電話,。此外,，針對18歲以下青少年用戶還有很多專門的保護(hù)措施，包括在使用滿一小時(shí)后彈窗提醒,，并在用戶每次啟動聊天時(shí)提醒用戶是在和AI而非真實(shí)的人對話,。首例AI機(jī)器人致死案！

首頁上一頁 12共 2 頁

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

首例AI機(jī)器人致死案震驚全球(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)