AI工具進(jìn)軍殺豬盤

東南亞犯罪集團(tuán)正在所謂的“殺豬盤”網(wǎng)絡(luò)詐騙行動中使用生成式人工智能聊天機器人，這種更復(fù)雜的手段可以提高詐騙的有效性，并將擴(kuò)大受害者的范圍,。

所謂的“殺豬盤”,，是網(wǎng)絡(luò)詐騙的一種新方式，犯罪分子通常潛伏在約會應(yīng)用程序和社交平臺中,，將浪漫愛情和賭博心理融入其作案手法,。詐騙分子對受害者進(jìn)行數(shù)天甚至數(shù)月的網(wǎng)絡(luò)親密接觸，然后才“收獲”詐騙果實,，這一過程類似于將豬養(yǎng)肥以供屠宰,。

聊天機器人在情緒和感受上“露馬腳”

據(jù)澳大利亞廣播公司（ABC）5月16日報道，犯罪分子過去通常會使用詳細(xì)的“腳本”來獲得受害者的信任,，而現(xiàn)在他們利用大語言模型（LLM）或聊天機器人,，用不同語言向受害者發(fā)送消息，進(jìn)一步擴(kuò)大了影響范圍,。生成式人工智能還可以使對話更有說服力,，并減少詐騙分子與多個受害者互動的工作量。AI工具進(jìn)軍殺豬盤,！

雖然ChatGPT,、Gemini和Copilot等主要人工智能聊天機器人都有防止其協(xié)助非法活動的護(hù)欄，但其他一些正在開發(fā)的大語言模型沒有此類限制,。

網(wǎng)絡(luò)安全公司Sophos的研究人員賈格迪什·錢德拉亞（Jagadeesh Chandraiah）在一篇博客文章中表示,，生成式人工智能將文本、圖像,、視頻與翻譯相結(jié)合,，生成不重復(fù)的“定制內(nèi)容”。它還可用于編寫“殺豬腳本”,，寫出令人信服的網(wǎng)絡(luò)釣魚電子郵件,，甚至提供如何從頭開始進(jìn)行詐騙的步驟說明，這也可能降低詐騙犯罪的門檻,。

然而,，犯罪集團(tuán)似乎還無法熟練地使用人工智能。研究人員發(fā)布了一張詐騙目標(biāo)提供的屏幕截圖,，顯示詐騙分子意外透露了他們正在使用大語言模型來生成消息,。騙子在給目標(biāo)客戶發(fā)送的WhatsApp消息中寫道：“非常感謝您的善意之言！’我’作為一個語言模型,，沒有像人類那樣的感覺或情緒,，我被創(chuàng)造出來提供有用和積極的答案幫你?！?/span>

錢德拉亞告訴ABC,，人工智能的運作仍然需要人類協(xié)助,，機器人偶爾會發(fā)送一些信息，可能表明它們無法與人類交流,，尤其是在感受和情緒方面,。“就’殺豬盤’而言,，目前的模型不太擅長描繪情緒和感受,，而這又是此類騙局得以成功的關(guān)鍵?！?/span>

但錢德拉亞認(rèn)為,，未來隨著人工智能的進(jìn)一步發(fā)展，受害者將很難識別他們正在與機器人進(jìn)行通信,。

AI實時換臉已成精準(zhǔn)聊天必備

除了最新的聊天機器人,，一些傳統(tǒng)的人工智能技術(shù)，比如深度造假技術(shù)近年來也迅速進(jìn)步,，已達(dá)到可以用較高的逼真度完成實時對話的水平,。前黑客、越南網(wǎng)絡(luò)安全專家吳明曉（Ng? Minh Hi?u）表示,，用戶現(xiàn)在可以通過開源軟件或付費方式輕松訂閱實時換臉技術(shù)（一種僅改變對象臉部的深度造假技術(shù)）,。AI工具進(jìn)軍殺豬盤！

全球反詐騙組織（GASO）向ABC提到,，一家軟件提供商在廣告中宣稱其“人工智能實時換臉是精準(zhǔn)聊天的必備”,。廣告稱，“它解決了好看的（真人）模特難以招募和管理,、成本高昂的問題,。”該軟件還集成了語音克隆功能,，對特定目標(biāo)的模仿相似度可以達(dá)到“60％至95％”,。

另一家換臉軟件提供商在柬埔寨提供7天24小時支持、“送貨上門”服務(wù),，并聲稱已在1000多個區(qū)域安裝了其產(chǎn)品,。該廣告稱，使用該系統(tǒng)只需要提供一張照片,，可用于WhatsApp,、Messenger、Line等社交平臺上的視頻通話,。

除了“殺豬盤”之外,，犯罪分子還利用換臉技術(shù)實施其他類型的詐騙，例如冒充名人進(jìn)行投資詐騙,，以及冒充家人或警察來恐嚇受害者付錢,。它還可以用來逃避一些金融機構(gòu)要求的基于視頻的身份檢查。

澳大利亞陽光海岸市市長羅珊娜·納托利（Rosanna Natoli）最近稱,，一名詐騙者使用該技術(shù)冒充她與她的一位朋友進(jìn)行Skype通話,。她說：“這位朋友告訴我，這看起來像我,，但聽起來不像我,。”

“大多數(shù)換臉應(yīng)用程序都無法偽造實時聲音,?！币晃涣私饧砥艺p騙情況的消息人士向ABC表示，技術(shù)能力,、計算能力和互聯(lián)網(wǎng)帶寬等往往限制了詐騙分子使用換臉技術(shù),。“（在許多情況下）聘請東歐模特更為實際,?！彼f，盡管技術(shù)進(jìn)步,，鏡頭前的真人仍然看起來更合理,。

在緬甸，從事加密貨幣“殺豬盤”業(yè)務(wù)的Sam在采訪中說,，他的老板曾短暫嘗試過人工智能,，因為越南模特逃跑了。老板希望應(yīng)用程序能夠以數(shù)字方式改變團(tuán)隊中講英語成員在視頻通話中的外觀,，但沒有足夠的源照片來支撐應(yīng)用程序運行,。

“用頭腦思考，而不是用心思考”

上個月,，澳大利亞競爭和消費者委員會（ACCC）反詐騙中心表示,，雖然2023年統(tǒng)計的詐騙數(shù)量比2022年有所增加，但損失總額下降了13.1%,，至27.4億澳元（約合132.7億元人民幣）,。然而，ACCC發(fā)言人仍然對新技術(shù)的出現(xiàn)發(fā)出警告,，“詐騙手段日益復(fù)雜,，我們應(yīng)該對人工智能帶來的風(fēng)險保持警惕。這將使得人們更難識別詐騙,，平臺應(yīng)繼續(xù)謹(jǐn)慎處理任何個人信息或金錢請求,，并在點擊鏈接時保持謹(jǐn)慎?！?/span>

該發(fā)言人表示,，迄今為止大多數(shù)關(guān)于利用人工智能進(jìn)行詐騙的案例都是以社交平臺網(wǎng)站上“聊天機器人”的形式出現(xiàn)的,。“這些機器人給人留下這樣的印象：許多其他真實的人對該產(chǎn)品感興趣,，并從騙局中獲得經(jīng)濟(jì)利益,。”此外,，“人工智能還被用來制作投資詐騙視頻,，通常會捕捉或制作名人的圖像或鏡頭，并附上讓人信服的音頻,?！?/span>

與詐騙受害者合作的Intelligence for Good的網(wǎng)絡(luò)犯罪專家羅尼·托卡佐夫斯基（Ronnie Tokazowski）表示，過去表明某人是詐騙者的一個關(guān)鍵危險信號是他們拒絕進(jìn)行視頻通話,?！暗F(xiàn)在壞人已經(jīng)找到了解決辦法?！八f,，最好的建議是不要向僅在網(wǎng)上認(rèn)識的人匯款或收款。

“我們需要開始用頭腦思考,，而不是用心思考,。”錢德拉亞說,，“即使感覺很真實,，而且這種關(guān)系已經(jīng)持續(xù)了一段時間，但如果它起源于互聯(lián)網(wǎng),，并且慢慢轉(zhuǎn)向涉及金錢或加密貨幣的問題,，那就遠(yuǎn)離它?！?/span>