首例AI機器人致死案震驚全球

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-28 08:21:34 映象網(wǎng)

首例AI機器人致死案

當?shù)貢r間22日,，美國佛羅里達州奧蘭多地方法院受理了一起開創(chuàng)先例的訴訟：梅根·加西亞起訴Character.ai公司存在管理疏忽,，使得其旗下的聊天機器人產(chǎn)品“讓青少年暴露在色情材料的環(huán)境下，遭受性虐待和引誘”,。

法庭文件顯示,，梅根14歲的兒子塞維爾·塞澤在去年開始沉迷于和Character.ai的多個AI角色聊天，他甚至為了每月續(xù)訂AI聊天訂閱費而省去餐費,，導(dǎo)致上課注意力不集中,。今年2月28日，塞維爾在和AI進行了最后一次聊天后,，用手槍瞄準自己的頭部開槍自殺,。

▲梅根14歲的兒子塞維爾·塞澤

阿斯伯格癥少年用AI尋求溫暖

越陷越深最終開槍自殺

據(jù)悉，梅根指控Character.ai的罪名包括過失致人死亡,、管理疏忽和產(chǎn)品安全漏洞,。根據(jù)Character.ai的產(chǎn)品條款，年滿13歲的美國青少年就可以使用相關(guān)AI產(chǎn)品,，但梅根認為,，這些聊天工具使得很多未滿18歲的青少年過多地暴露在色情、血腥暴力等高風險素材之下,。

Character.ai的聊天工具在美國深受青少年歡迎,，它允許用戶設(shè)置虛擬角色并進行對話，AI能夠自動代入角色的設(shè)定,，以特定的語言風格陪伴用戶,。這些角色包括影視劇中的人物，丘吉爾,、莎士比亞這樣的歷史名人,，以及泰勒·斯威夫特這樣的現(xiàn)實名人等。

此前,，這一設(shè)定就引發(fā)過法律糾紛,，一些娛樂明星控訴該公司未經(jīng)自己同意就設(shè)定了AI角色,，另外還有一些惡趣味用戶將過去的殺人案受害者等設(shè)為AI扮演的角色。

起訴書顯示,，塞維爾小時候患有阿斯伯格癥,，今年在健康檢查中被確診為焦慮癥和破壞性情緒失調(diào)癥。自從去年他年滿13歲以后,，他最喜歡的事情就是待在房間里和AI聊天,，而他“最好的朋友”是《權(quán)力的游戲》中的著名角色“龍媽”丹妮莉絲·坦格利安。為此,，塞維爾甚至疏遠了現(xiàn)實中的好友,，他還省吃儉用續(xù)交AI聊天的月度訂閱費用，學習成績也直線下滑,。

12 全文共 2 頁下一頁

關(guān)閉

首例AI機器人致死案震驚全球

相關(guān)新聞

今日熱點

頻道熱點