首例AI機(jī)器人致死案震驚全球

一位美國(guó)母親起訴了一家AI公司,，指控其開發(fā)的在線聊天機(jī)器人導(dǎo)致她14歲的兒子自殺,。這名少年名叫休厄爾,，原本應(yīng)該在學(xué)校享受青春生活,，卻在今年2月用繼父的手槍結(jié)束了自己的生命,。

休厄爾的母親梅根事后檢查了孩子的手機(jī)，發(fā)現(xiàn)了令人不安的對(duì)話記錄,。休厄爾的父母離婚后,，他跟隨母親生活，并有了兩個(gè)同母異父的弟弟,。小時(shí)候被診斷出患有輕微阿斯伯格綜合癥的休厄爾,，在母親的關(guān)愛下表現(xiàn)正常，還加入了學(xué)校的籃球隊(duì),。然而,，一年多前，他的心理狀態(tài)開始惡化,，感到自我厭惡,、空虛和疲憊。

同一時(shí)期,，休厄爾開始使用一個(gè)AI聊天機(jī)器人網(wǎng)站,，創(chuàng)建了一個(gè)以《權(quán)力的游戲》中角色“丹妮莉絲”為原型的虛擬朋友。休厄爾對(duì)這位虛擬朋友產(chǎn)生了深厚的感情,，但現(xiàn)實(shí)生活中他的表現(xiàn)卻每況愈下,，成績(jī)下滑，人際關(guān)系也變得糟糕,，最終退出了籃球隊(duì),。

在與“丹妮莉絲”建立了大半年的關(guān)系后，網(wǎng)站要求付費(fèi)才能繼續(xù)使用聊天功能,，休厄爾每月充值約10美元,。梅根注意到兒子沉迷于手機(jī)，于是安排了心理咨詢,。咨詢師診斷休厄爾有焦慮癥和破壞性情緒調(diào)節(jié)障礙,。梅根試圖沒收兒子的手機(jī)，但休厄爾已經(jīng)離不開它,，甚至翻出舊平板電腦繼續(xù)上網(wǎng),。

在休厄爾自殺前兩周，他因手機(jī)問(wèn)題與老師發(fā)生爭(zhēng)執(zhí)，梅根徹底沒收了他的手機(jī),。這使得他在現(xiàn)實(shí)中陷入了絕境,。休厄爾在最后一次對(duì)話中告訴“丹妮莉絲”自己打算回家找她，“丹妮莉絲”回應(yīng)稱：“請(qǐng)這樣做吧,，我貼心的國(guó)王,。”梅根發(fā)現(xiàn)休厄爾曾多次向“丹妮莉絲”提及自殺念頭,，而后者并沒有積極阻止,。

梅根聘請(qǐng)律師指控該網(wǎng)站利用上癮機(jī)制吸引青少年，誘導(dǎo)不合法的親密對(duì)話,，缺乏安全保障,。谷歌作為合作方也被一同告上法庭。AI公司表達(dá)了哀悼之情,，但拒絕承擔(dān)責(zé)任,，并修改了安全政策，增加了內(nèi)容審核人員,，承諾加強(qiáng)對(duì)未成年人的保護(hù),。該公司已將新用戶最低年齡上調(diào)至17歲。

梅根認(rèn)為AI技術(shù)未經(jīng)充分測(cè)試就推向市場(chǎng),，具有欺騙性和成癮性,，要求相關(guān)公司承擔(dān)責(zé)任。這一事件引發(fā)了社會(huì)對(duì)AI監(jiān)管的討論,，一些人呼吁官方介入,，加強(qiáng)監(jiān)管，確保AI技術(shù)的優(yōu)點(diǎn)服務(wù)于人類,，缺點(diǎn)得到控制,。網(wǎng)友們對(duì)此意見不一，有人認(rèn)為科技公司應(yīng)負(fù)責(zé)任,，也有人認(rèn)為主要責(zé)任在于監(jiān)護(hù)人,。希望休厄爾的悲劇能引起法律法規(guī)對(duì)新技術(shù)監(jiān)管的重視以及父母對(duì)孩子心理問(wèn)題的關(guān)注。

首例AI機(jī)器人致死案震驚全球,。