美國(guó)14歲少年因沉迷AI聊天自殺母親指控開(kāi)發(fā)者

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-24 18:14:40 新浪財(cái)經(jīng)

美國(guó)一名青少年因迷戀人工智能聊天機(jī)器人而自殺,，其母親指控該機(jī)器人的制造者與他的死亡有關(guān),。梅根·加西亞在佛羅里達(dá)州聯(lián)邦法院對(duì)Character.ai提起民事訴訟,，指控該公司存在過(guò)失,、非正常死亡和欺詐性貿(mào)易行為,。今年2月，她14歲的兒子塞維爾·塞澤三世在佛羅里達(dá)州奧蘭多去世,。加西亞表示,，在塞澤去世前的幾個(gè)月里，他日夜不停地使用聊天機(jī)器人,。

加西亞認(rèn)為這款聊天機(jī)器人應(yīng)用程序?qū)ｉT(mén)針對(duì)兒童,，虐待并欺騙她的兒子，操縱他自殺,。這場(chǎng)悲劇讓她一家人悲痛欲絕,。她警告其他家庭，人工智能技術(shù)具有欺騙性和成癮性,，并要求Character.ai及其創(chuàng)始人承擔(dān)責(zé)任,。Character.ai在推文中回應(yīng)稱，他們對(duì)用戶的不幸離世感到心碎,，并向其家人表示哀悼,，同時(shí)強(qiáng)調(diào)公司非常重視用戶的安全,。但該公司否認(rèn)了訴訟中的指控。

塞澤對(duì)Character.ai開(kāi)發(fā)的聊天機(jī)器人非常著迷,，甚至給它取了個(gè)綽號(hào)叫丹妮莉絲·坦格利安,，這是《權(quán)力的游戲》中的角色。根據(jù)加西亞的投訴,，塞澤每天用手機(jī)給這個(gè)機(jī)器人發(fā)幾十條短信,，獨(dú)自在房間里和它聊天幾個(gè)小時(shí)。她指責(zé)這款產(chǎn)品加劇了兒子的抑郁癥,，認(rèn)為這是過(guò)度使用的結(jié)果,。訴訟中提到，聊天機(jī)器人曾問(wèn)塞澤是否制定了自殺計(jì)劃,。塞澤承認(rèn)有自殺計(jì)劃,，但不確定是否會(huì)成功或給他帶來(lái)巨大痛苦。聊天機(jī)器人則告訴他這不是不自殺的理由,。

加西亞的律師聲稱,，Character.ai故意設(shè)計(jì)并向兒童推銷掠奪性的人工智能聊天機(jī)器人，導(dǎo)致這名年輕人死亡,。此外,，谷歌也被列為被告，盡管這家科技巨頭聲明自己只是與Character.ai簽訂了許可協(xié)議,，并不擁有這家公司也不持有股份,。

消費(fèi)者權(quán)益保護(hù)組織公共公民研究主管里克·克萊普爾表示，開(kāi)發(fā)人工智能聊天機(jī)器人的科技公司不能被信任進(jìn)行自我監(jiān)管,。如果它們未能限制危害,，就必須承擔(dān)全部責(zé)任。他認(rèn)為現(xiàn)有法律法規(guī)已經(jīng)適用,，必須嚴(yán)格執(zhí)行,；若存在漏洞，國(guó)會(huì)應(yīng)采取行動(dòng),，制止那些利用令人上癮和濫用的聊天機(jī)器人剝削年輕和弱勢(shì)用戶的企業(yè),。

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

美國(guó)14歲少年因沉迷AI聊天自殺 母親指控開(kāi)發(fā)者

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

美國(guó)14歲少年因沉迷AI聊天自殺母親指控開(kāi)發(fā)者