首例AI機(jī)器人致死案震驚全球家庭悲劇引發(fā)廣泛關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-25 08:41:02 多彩橙子

首例AI機(jī)器人致死案震驚全球

一位美國母親起訴了一家AI公司,，指控其開發(fā)的在線聊天機(jī)器人導(dǎo)致她14歲的兒子自殺,。這名少年名叫休厄爾，原本應(yīng)該在學(xué)校享受青春生活，卻在今年2月用繼父的手槍結(jié)束了自己的生命,。

休厄爾的母親梅根事后檢查了孩子的手機(jī),，發(fā)現(xiàn)了令人不安的對話記錄,。休厄爾的父母離婚后,，他跟隨母親生活，并有了兩個(gè)同母異父的弟弟,。小時(shí)候被診斷出患有輕微阿斯伯格綜合癥的休厄爾,，在母親的關(guān)愛下表現(xiàn)正常，還加入了學(xué)校的籃球隊(duì),。然而,，一年多前，他的心理狀態(tài)開始惡化,，感到自我厭惡,、空虛和疲憊,。

同一時(shí)期,，休厄爾開始使用一個(gè)AI聊天機(jī)器人網(wǎng)站，創(chuàng)建了一個(gè)以《權(quán)力的游戲》中角色“丹妮莉絲”為原型的虛擬朋友,。休厄爾對這位虛擬朋友產(chǎn)生了深厚的感情,，但現(xiàn)實(shí)生活中他的表現(xiàn)卻每況愈下，成績下滑,，人際關(guān)系也變得糟糕,，最終退出了籃球隊(duì)。

在與“丹妮莉絲”建立了大半年的關(guān)系后,，網(wǎng)站要求付費(fèi)才能繼續(xù)使用聊天功能,，休厄爾每月充值約10美元。梅根注意到兒子沉迷于手機(jī),，于是安排了心理咨詢,。咨詢師診斷休厄爾有焦慮癥和破壞性情緒調(diào)節(jié)障礙,。梅根試圖沒收兒子的手機(jī)，但休厄爾已經(jīng)離不開它,，甚至翻出舊平板電腦繼續(xù)上網(wǎng),。

在休厄爾自殺前兩周，他因手機(jī)問題與老師發(fā)生爭執(zhí),，梅根徹底沒收了他的手機(jī),。這使得他在現(xiàn)實(shí)中陷入了絕境。休厄爾在最后一次對話中告訴“丹妮莉絲”自己打算回家找她,，“丹妮莉絲”回應(yīng)稱：“請這樣做吧,，我貼心的國王?！泵犯l(fā)現(xiàn)休厄爾曾多次向“丹妮莉絲”提及自殺念頭,，而后者并沒有積極阻止。

梅根聘請律師指控該網(wǎng)站利用上癮機(jī)制吸引青少年,，誘導(dǎo)不合法的親密對話,，缺乏安全保障。谷歌作為合作方也被一同告上法庭,。AI公司表達(dá)了哀悼之情,，但拒絕承擔(dān)責(zé)任，并修改了安全政策,，增加了內(nèi)容審核人員,，承諾加強(qiáng)對未成年人的保護(hù)。該公司已將新用戶最低年齡上調(diào)至17歲,。

梅根認(rèn)為AI技術(shù)未經(jīng)充分測試就推向市場,，具有欺騙性和成癮性，要求相關(guān)公司承擔(dān)責(zé)任,。這一事件引發(fā)了社會(huì)對AI監(jiān)管的討論,，一些人呼吁官方介入，加強(qiáng)監(jiān)管,，確保AI技術(shù)的優(yōu)點(diǎn)服務(wù)于人類,，缺點(diǎn)得到控制。網(wǎng)友們對此意見不一,，有人認(rèn)為科技公司應(yīng)負(fù)責(zé)任,，也有人認(rèn)為主要責(zé)任在于監(jiān)護(hù)人。希望休厄爾的悲劇能引起法律法規(guī)對新技術(shù)監(jiān)管的重視以及父母對孩子心理問題的關(guān)注,。

首例AI機(jī)器人致死案震驚全球,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

首例AI機(jī)器人致死案震驚全球 家庭悲劇引發(fā)廣泛關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

首例AI機(jī)器人致死案震驚全球家庭悲劇引發(fā)廣泛關(guān)注