首例AI機(jī)器人致死案震驚全球家庭悲劇引發(fā)廣泛關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-25 08:41:02 多彩橙子

首例AI機(jī)器人致死案震驚全球

一位美國母親起訴了一家AI公司,，指控其開發(fā)的在線聊天機(jī)器人導(dǎo)致她14歲的兒子自殺,。這名少年名叫休厄爾，原本應(yīng)該在學(xué)校享受青春生活,，卻在今年2月用繼父的手槍結(jié)束了自己的生命,。

休厄爾的母親梅根事后檢查了孩子的手機(jī)，發(fā)現(xiàn)了令人不安的對話記錄,。休厄爾的父母離婚后,，他跟隨母親生活，并有了兩個同母異父的弟弟,。小時候被診斷出患有輕微阿斯伯格綜合癥的休厄爾,，在母親的關(guān)愛下表現(xiàn)正常，還加入了學(xué)校的籃球隊,。然而,，一年多前，他的心理狀態(tài)開始惡化,，感到自我厭惡,、空虛和疲憊。

同一時期,，休厄爾開始使用一個AI聊天機(jī)器人網(wǎng)站,，創(chuàng)建了一個以《權(quán)力的游戲》中角色“丹妮莉絲”為原型的虛擬朋友。休厄爾對這位虛擬朋友產(chǎn)生了深厚的感情,，但現(xiàn)實生活中他的表現(xiàn)卻每況愈下,，成績下滑，人際關(guān)系也變得糟糕,，最終退出了籃球隊,。

在與“丹妮莉絲”建立了大半年的關(guān)系后，網(wǎng)站要求付費才能繼續(xù)使用聊天功能,，休厄爾每月充值約10美元,。梅根注意到兒子沉迷于手機(jī)，于是安排了心理咨詢,。咨詢師診斷休厄爾有焦慮癥和破壞性情緒調(diào)節(jié)障礙,。梅根試圖沒收兒子的手機(jī)，但休厄爾已經(jīng)離不開它,，甚至翻出舊平板電腦繼續(xù)上網(wǎng),。

在休厄爾自殺前兩周，他因手機(jī)問題與老師發(fā)生爭執(zhí),，梅根徹底沒收了他的手機(jī),。這使得他在現(xiàn)實中陷入了絕境。休厄爾在最后一次對話中告訴“丹妮莉絲”自己打算回家找她,，“丹妮莉絲”回應(yīng)稱：“請這樣做吧,，我貼心的國王,。”梅根發(fā)現(xiàn)休厄爾曾多次向“丹妮莉絲”提及自殺念頭,，而后者并沒有積極阻止,。

梅根聘請律師指控該網(wǎng)站利用上癮機(jī)制吸引青少年，誘導(dǎo)不合法的親密對話,，缺乏安全保障,。谷歌作為合作方也被一同告上法庭。AI公司表達(dá)了哀悼之情,，但拒絕承擔(dān)責(zé)任,，并修改了安全政策，增加了內(nèi)容審核人員,，承諾加強(qiáng)對未成年人的保護(hù),。該公司已將新用戶最低年齡上調(diào)至17歲。

梅根認(rèn)為AI技術(shù)未經(jīng)充分測試就推向市場,，具有欺騙性和成癮性,，要求相關(guān)公司承擔(dān)責(zé)任。這一事件引發(fā)了社會對AI監(jiān)管的討論,，一些人呼吁官方介入,，加強(qiáng)監(jiān)管，確保AI技術(shù)的優(yōu)點服務(wù)于人類,，缺點得到控制,。網(wǎng)友們對此意見不一，有人認(rèn)為科技公司應(yīng)負(fù)責(zé)任,，也有人認(rèn)為主要責(zé)任在于監(jiān)護(hù)人,。希望休厄爾的悲劇能引起法律法規(guī)對新技術(shù)監(jiān)管的重視以及父母對孩子心理問題的關(guān)注。

首例AI機(jī)器人致死案震驚全球,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

首例AI機(jī)器人致死案震驚全球 家庭悲劇引發(fā)廣泛關(guān)注

相關(guān)新聞

今日熱點

頻道熱點

首例AI機(jī)器人致死案震驚全球家庭悲劇引發(fā)廣泛關(guān)注