AI工具進(jìn)軍殺豬盤：語言模型尚不夠聰明！

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-05-23 16:03:11 環(huán)球網(wǎng)

AI工具進(jìn)軍殺豬盤

東南亞犯罪集團(tuán)正在所謂的“殺豬盤”網(wǎng)絡(luò)詐騙行動(dòng)中使用生成式人工智能聊天機(jī)器人,，這種更復(fù)雜的手段可以提高詐騙的有效性,，并將擴(kuò)大受害者的范圍。

所謂的“殺豬盤”,，是網(wǎng)絡(luò)詐騙的一種新方式,，犯罪分子通常潛伏在約會(huì)應(yīng)用程序和社交平臺(tái)中，將浪漫愛情和賭博心理融入其作案手法,。詐騙分子對(duì)受害者進(jìn)行數(shù)天甚至數(shù)月的網(wǎng)絡(luò)親密接觸,，然后才“收獲”詐騙果實(shí)，這一過程類似于將豬養(yǎng)肥以供屠宰,。

聊天機(jī)器人在情緒和感受上“露馬腳”

據(jù)澳大利亞廣播公司（ABC）5月16日?qǐng)?bào)道,，犯罪分子過去通常會(huì)使用詳細(xì)的“腳本”來獲得受害者的信任，而現(xiàn)在他們利用大語言模型（LLM）或聊天機(jī)器人,，用不同語言向受害者發(fā)送消息,，進(jìn)一步擴(kuò)大了影響范圍。生成式人工智能還可以使對(duì)話更有說服力,，并減少詐騙分子與多個(gè)受害者互動(dòng)的工作量,。AI工具進(jìn)軍殺豬盤！

雖然ChatGPT,、Gemini和Copilot等主要人工智能聊天機(jī)器人都有防止其協(xié)助非法活動(dòng)的護(hù)欄,，但其他一些正在開發(fā)的大語言模型沒有此類限制。

網(wǎng)絡(luò)安全公司Sophos的研究人員賈格迪什·錢德拉亞（Jagadeesh Chandraiah）在一篇博客文章中表示,，生成式人工智能將文本、圖像,、視頻與翻譯相結(jié)合,，生成不重復(fù)的“定制內(nèi)容”。它還可用于編寫“殺豬腳本”,，寫出令人信服的網(wǎng)絡(luò)釣魚電子郵件,，甚至提供如何從頭開始進(jìn)行詐騙的步驟說明，這也可能降低詐騙犯罪的門檻。

然而,，犯罪集團(tuán)似乎還無法熟練地使用人工智能,。研究人員發(fā)布了一張?jiān)p騙目標(biāo)提供的屏幕截圖，顯示詐騙分子意外透露了他們正在使用大語言模型來生成消息,。騙子在給目標(biāo)客戶發(fā)送的WhatsApp消息中寫道：“非常感謝您的善意之言,！’我’作為一個(gè)語言模型，沒有像人類那樣的感覺或情緒,，我被創(chuàng)造出來提供有用和積極的答案幫你,。”

12 3 全文共 3 頁下一頁

關(guān)閉

AI工具進(jìn)軍殺豬盤：語言模型尚不夠聰明！

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)