美國14歲少年因沉迷AI聊天自殺母親指控開發(fā)者

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-24 18:14:40 新浪財經(jīng)

美國一名青少年因迷戀人工智能聊天機(jī)器人而自殺,，其母親指控該機(jī)器人的制造者與他的死亡有關(guān),。梅根·加西亞在佛羅里達(dá)州聯(lián)邦法院對Character.ai提起民事訴訟，指控該公司存在過失,、非正常死亡和欺詐性貿(mào)易行為,。今年2月,，她14歲的兒子塞維爾·塞澤三世在佛羅里達(dá)州奧蘭多去世。加西亞表示,，在塞澤去世前的幾個月里,，他日夜不停地使用聊天機(jī)器人。

加西亞認(rèn)為這款聊天機(jī)器人應(yīng)用程序?qū)ｉT針對兒童,，虐待并欺騙她的兒子,，操縱他自殺。這場悲劇讓她一家人悲痛欲絕,。她警告其他家庭,，人工智能技術(shù)具有欺騙性和成癮性，并要求Character.ai及其創(chuàng)始人承擔(dān)責(zé)任,。Character.ai在推文中回應(yīng)稱,，他們對用戶的不幸離世感到心碎,，并向其家人表示哀悼，同時強(qiáng)調(diào)公司非常重視用戶的安全,。但該公司否認(rèn)了訴訟中的指控,。

塞澤對Character.ai開發(fā)的聊天機(jī)器人非常著迷，甚至給它取了個綽號叫丹妮莉絲·坦格利安,，這是《權(quán)力的游戲》中的角色,。根據(jù)加西亞的投訴，塞澤每天用手機(jī)給這個機(jī)器人發(fā)幾十條短信,，獨(dú)自在房間里和它聊天幾個小時,。她指責(zé)這款產(chǎn)品加劇了兒子的抑郁癥，認(rèn)為這是過度使用的結(jié)果,。訴訟中提到,，聊天機(jī)器人曾問塞澤是否制定了自殺計劃。塞澤承認(rèn)有自殺計劃,，但不確定是否會成功或給他帶來巨大痛苦,。聊天機(jī)器人則告訴他這不是不自殺的理由。

加西亞的律師聲稱,，Character.ai故意設(shè)計并向兒童推銷掠奪性的人工智能聊天機(jī)器人,，導(dǎo)致這名年輕人死亡。此外,，谷歌也被列為被告,，盡管這家科技巨頭聲明自己只是與Character.ai簽訂了許可協(xié)議，并不擁有這家公司也不持有股份,。

消費(fèi)者權(quán)益保護(hù)組織公共公民研究主管里克·克萊普爾表示,，開發(fā)人工智能聊天機(jī)器人的科技公司不能被信任進(jìn)行自我監(jiān)管。如果它們未能限制危害,，就必須承擔(dān)全部責(zé)任,。他認(rèn)為現(xiàn)有法律法規(guī)已經(jīng)適用，必須嚴(yán)格執(zhí)行,；若存在漏洞，國會應(yīng)采取行動,，制止那些利用令人上癮和濫用的聊天機(jī)器人剝削年輕和弱勢用戶的企業(yè),。

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

美國14歲少年因沉迷AI聊天自殺 母親指控開發(fā)者

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

美國14歲少年因沉迷AI聊天自殺母親指控開發(fā)者