AI工具進(jìn)軍殺豬盤(pán)：語(yǔ)言模型尚不夠聰明,！

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-05-23 16:03:11 環(huán)球網(wǎng)

AI工具進(jìn)軍殺豬盤(pán)

東南亞犯罪集團(tuán)正在所謂的“殺豬盤(pán)”網(wǎng)絡(luò)詐騙行動(dòng)中使用生成式人工智能聊天機(jī)器人,，這種更復(fù)雜的手段可以提高詐騙的有效性，并將擴(kuò)大受害者的范圍。

所謂的“殺豬盤(pán)”，是網(wǎng)絡(luò)詐騙的一種新方式，犯罪分子通常潛伏在約會(huì)應(yīng)用程序和社交平臺(tái)中，將浪漫愛(ài)情和賭博心理融入其作案手法。詐騙分子對(duì)受害者進(jìn)行數(shù)天甚至數(shù)月的網(wǎng)絡(luò)親密接觸,，然后才“收獲”詐騙果實(shí)，這一過(guò)程類似于將豬養(yǎng)肥以供屠宰,。

聊天機(jī)器人在情緒和感受上“露馬腳”

據(jù)澳大利亞廣播公司（ABC）5月16日?qǐng)?bào)道,，犯罪分子過(guò)去通常會(huì)使用詳細(xì)的“腳本”來(lái)獲得受害者的信任，而現(xiàn)在他們利用大語(yǔ)言模型（LLM）或聊天機(jī)器人,，用不同語(yǔ)言向受害者發(fā)送消息,，進(jìn)一步擴(kuò)大了影響范圍。生成式人工智能還可以使對(duì)話更有說(shuō)服力,，并減少詐騙分子與多個(gè)受害者互動(dòng)的工作量,。AI工具進(jìn)軍殺豬盤(pán)！

雖然ChatGPT,、Gemini和Copilot等主要人工智能聊天機(jī)器人都有防止其協(xié)助非法活動(dòng)的護(hù)欄,，但其他一些正在開(kāi)發(fā)的大語(yǔ)言模型沒(méi)有此類限制。

網(wǎng)絡(luò)安全公司Sophos的研究人員賈格迪什·錢德拉亞（Jagadeesh Chandraiah）在一篇博客文章中表示,，生成式人工智能將文本,、圖像、視頻與翻譯相結(jié)合,，生成不重復(fù)的“定制內(nèi)容”,。它還可用于編寫(xiě)“殺豬腳本”，寫(xiě)出令人信服的網(wǎng)絡(luò)釣魚(yú)電子郵件,，甚至提供如何從頭開(kāi)始進(jìn)行詐騙的步驟說(shuō)明,，這也可能降低詐騙犯罪的門檻。

然而,，犯罪集團(tuán)似乎還無(wú)法熟練地使用人工智能,。研究人員發(fā)布了一張?jiān)p騙目標(biāo)提供的屏幕截圖，顯示詐騙分子意外透露了他們正在使用大語(yǔ)言模型來(lái)生成消息,。騙子在給目標(biāo)客戶發(fā)送的WhatsApp消息中寫(xiě)道：“非常感謝您的善意之言！’我’作為一個(gè)語(yǔ)言模型,，沒(méi)有像人類那樣的感覺(jué)或情緒,，我被創(chuàng)造出來(lái)提供有用和積極的答案幫你?！?/span>

12 3 全文共 3 頁(yè)下一頁(yè)

關(guān)閉

AI工具進(jìn)軍殺豬盤(pán)：語(yǔ)言模型尚不夠聰明,！

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)