首例AI機(jī)器人致死案震驚全球

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-28 08:21:34 映象網(wǎng)

首例AI機(jī)器人致死案

當(dāng)?shù)貢r(shí)間22日，美國(guó)佛羅里達(dá)州奧蘭多地方法院受理了一起開(kāi)創(chuàng)先例的訴訟：梅根·加西亞起訴Character.ai公司存在管理疏忽,，使得其旗下的聊天機(jī)器人產(chǎn)品“讓青少年暴露在色情材料的環(huán)境下,，遭受性虐待和引誘”。

法庭文件顯示,，梅根14歲的兒子塞維爾·塞澤在去年開(kāi)始沉迷于和Character.ai的多個(gè)AI角色聊天,，他甚至為了每月續(xù)訂AI聊天訂閱費(fèi)而省去餐費(fèi)，導(dǎo)致上課注意力不集中,。今年2月28日,，塞維爾在和AI進(jìn)行了最后一次聊天后，用手槍瞄準(zhǔn)自己的頭部開(kāi)槍自殺,。

▲梅根14歲的兒子塞維爾·塞澤

阿斯伯格癥少年用AI尋求溫暖

越陷越深最終開(kāi)槍自殺

據(jù)悉,，梅根指控Character.ai的罪名包括過(guò)失致人死亡、管理疏忽和產(chǎn)品安全漏洞,。根據(jù)Character.ai的產(chǎn)品條款,，年滿13歲的美國(guó)青少年就可以使用相關(guān)AI產(chǎn)品，但梅根認(rèn)為,，這些聊天工具使得很多未滿18歲的青少年過(guò)多地暴露在色情,、血腥暴力等高風(fēng)險(xiǎn)素材之下。

Character.ai的聊天工具在美國(guó)深受青少年歡迎,，它允許用戶設(shè)置虛擬角色并進(jìn)行對(duì)話,，AI能夠自動(dòng)代入角色的設(shè)定,，以特定的語(yǔ)言風(fēng)格陪伴用戶。這些角色包括影視劇中的人物,，丘吉爾,、莎士比亞這樣的歷史名人，以及泰勒·斯威夫特這樣的現(xiàn)實(shí)名人等,。

此前,，這一設(shè)定就引發(fā)過(guò)法律糾紛，一些娛樂(lè)明星控訴該公司未經(jīng)自己同意就設(shè)定了AI角色,，另外還有一些惡趣味用戶將過(guò)去的殺人案受害者等設(shè)為AI扮演的角色,。

起訴書顯示，塞維爾小時(shí)候患有阿斯伯格癥,，今年在健康檢查中被確診為焦慮癥和破壞性情緒失調(diào)癥,。自從去年他年滿13歲以后，他最喜歡的事情就是待在房間里和AI聊天,，而他“最好的朋友”是《權(quán)力的游戲》中的著名角色“龍媽”丹妮莉絲·坦格利安,。為此，塞維爾甚至疏遠(yuǎn)了現(xiàn)實(shí)中的好友,，他還省吃儉用續(xù)交AI聊天的月度訂閱費(fèi)用,，學(xué)習(xí)成績(jī)也直線下滑。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

首例AI機(jī)器人致死案震驚全球

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)