美國14歲少年因沉迷AI聊天自殺母親指控開發(fā)者

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-24 18:14:40 新浪財經(jīng)

美國一名青少年因迷戀人工智能聊天機器人而自殺,，其母親指控該機器人的制造者與他的死亡有關(guān),。梅根·加西亞在佛羅里達州聯(lián)邦法院對Character.ai提起民事訴訟，指控該公司存在過失,、非正常死亡和欺詐性貿(mào)易行為,。今年2月，她14歲的兒子塞維爾·塞澤三世在佛羅里達州奧蘭多去世,。加西亞表示，在塞澤去世前的幾個月里,，他日夜不停地使用聊天機器人,。

加西亞認為這款聊天機器人應用程序?qū)ｉT針對兒童，虐待并欺騙她的兒子,，操縱他自殺,。這場悲劇讓她一家人悲痛欲絕。她警告其他家庭,，人工智能技術(shù)具有欺騙性和成癮性,，并要求Character.ai及其創(chuàng)始人承擔責任。Character.ai在推文中回應稱,，他們對用戶的不幸離世感到心碎,，并向其家人表示哀悼，同時強調(diào)公司非常重視用戶的安全,。但該公司否認了訴訟中的指控,。

塞澤對Character.ai開發(fā)的聊天機器人非常著迷，甚至給它取了個綽號叫丹妮莉絲·坦格利安,，這是《權(quán)力的游戲》中的角色,。根據(jù)加西亞的投訴，塞澤每天用手機給這個機器人發(fā)幾十條短信,，獨自在房間里和它聊天幾個小時,。她指責這款產(chǎn)品加劇了兒子的抑郁癥，認為這是過度使用的結(jié)果,。訴訟中提到,，聊天機器人曾問塞澤是否制定了自殺計劃。塞澤承認有自殺計劃,，但不確定是否會成功或給他帶來巨大痛苦,。聊天機器人則告訴他這不是不自殺的理由,。

加西亞的律師聲稱，Character.ai故意設計并向兒童推銷掠奪性的人工智能聊天機器人,，導致這名年輕人死亡,。此外，谷歌也被列為被告,，盡管這家科技巨頭聲明自己只是與Character.ai簽訂了許可協(xié)議,，并不擁有這家公司也不持有股份。

消費者權(quán)益保護組織公共公民研究主管里克·克萊普爾表示,，開發(fā)人工智能聊天機器人的科技公司不能被信任進行自我監(jiān)管,。如果它們未能限制危害，就必須承擔全部責任,。他認為現(xiàn)有法律法規(guī)已經(jīng)適用,，必須嚴格執(zhí)行；若存在漏洞,，國會應采取行動,，制止那些利用令人上癮和濫用的聊天機器人剝削年輕和弱勢用戶的企業(yè)。

(責任編輯：張佳鑫 0764)

關(guān)閉

美國14歲少年因沉迷AI聊天自殺 母親指控開發(fā)者

相關(guān)新聞

今日熱點

頻道熱點

美國14歲少年因沉迷AI聊天自殺母親指控開發(fā)者