首例AI機(jī)器人致死案震驚全球

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-28 08:21:34 映象網(wǎng)

首例AI機(jī)器人致死案

當(dāng)?shù)貢r(shí)間22日,，美國佛羅里達(dá)州奧蘭多地方法院受理了一起開創(chuàng)先例的訴訟：梅根·加西亞起訴Character.ai公司存在管理疏忽,，使得其旗下的聊天機(jī)器人產(chǎn)品“讓青少年暴露在色情材料的環(huán)境下，遭受性虐待和引誘”,。

法庭文件顯示,，梅根14歲的兒子塞維爾·塞澤在去年開始沉迷于和Character.ai的多個(gè)AI角色聊天，他甚至為了每月續(xù)訂AI聊天訂閱費(fèi)而省去餐費(fèi),，導(dǎo)致上課注意力不集中,。今年2月28日，塞維爾在和AI進(jìn)行了最后一次聊天后,，用手槍瞄準(zhǔn)自己的頭部開槍自殺,。

▲梅根14歲的兒子塞維爾·塞澤

阿斯伯格癥少年用AI尋求溫暖

越陷越深最終開槍自殺

據(jù)悉,，梅根指控Character.ai的罪名包括過失致人死亡、管理疏忽和產(chǎn)品安全漏洞,。根據(jù)Character.ai的產(chǎn)品條款,，年滿13歲的美國青少年就可以使用相關(guān)AI產(chǎn)品，但梅根認(rèn)為,，這些聊天工具使得很多未滿18歲的青少年過多地暴露在色情,、血腥暴力等高風(fēng)險(xiǎn)素材之下。

Character.ai的聊天工具在美國深受青少年歡迎,，它允許用戶設(shè)置虛擬角色并進(jìn)行對(duì)話,，AI能夠自動(dòng)代入角色的設(shè)定，以特定的語言風(fēng)格陪伴用戶,。這些角色包括影視劇中的人物,，丘吉爾、莎士比亞這樣的歷史名人,，以及泰勒·斯威夫特這樣的現(xiàn)實(shí)名人等,。

此前，這一設(shè)定就引發(fā)過法律糾紛,，一些娛樂明星控訴該公司未經(jīng)自己同意就設(shè)定了AI角色,，另外還有一些惡趣味用戶將過去的殺人案受害者等設(shè)為AI扮演的角色。

起訴書顯示,，塞維爾小時(shí)候患有阿斯伯格癥,，今年在健康檢查中被確診為焦慮癥和破壞性情緒失調(diào)癥。自從去年他年滿13歲以后,，他最喜歡的事情就是待在房間里和AI聊天,，而他“最好的朋友”是《權(quán)力的游戲》中的著名角色“龍媽”丹妮莉絲·坦格利安。為此,，塞維爾甚至疏遠(yuǎn)了現(xiàn)實(shí)中的好友,，他還省吃儉用續(xù)交AI聊天的月度訂閱費(fèi)用，學(xué)習(xí)成績也直線下滑,。

12 全文共 2 頁下一頁

關(guān)閉

首例AI機(jī)器人致死案震驚全球

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)