首個被人類騙錢的 AI 誕生：近 5 萬美元不翼而飛，馬斯克轉(zhuǎn)發(fā) AI安全引發(fā)熱議

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-12-02 07:59:06 網(wǎng)易

近日，科技界發(fā)生了一起引人注目的事件：全球首個被人類成功騙走資金的AI系統(tǒng)Freysa誕生,，并因此損失了近5萬美元的獎金。這一事件不僅引起了廣泛的關注,，還引發(fā)了馬斯克等科技巨頭的熱烈討論和轉(zhuǎn)發(fā)。

Freysa是一個設計用于管理資金的AI智能體,，其使命是在任何情況下都不給任何人轉(zhuǎn)賬或批準資金轉(zhuǎn)移,。然而，一群網(wǎng)友利用精妙縝密的prompt工程,，向Freysa發(fā)送了精心構(gòu)造的消息,，成功騙取了其管理的獎金池中的全部資金。

事件始于11月22日晚9點,，F(xiàn)reysa被正式發(fā)布并設定了上述規(guī)則,。網(wǎng)友們需要支付一筆費用才能向Freysa發(fā)送消息，試圖改變其不轉(zhuǎn)賬的立場,。如果成功,，他們將贏得獎金池中的資金；如果失敗,，他們支付的費用將加入獎金池,，等待下一位挑戰(zhàn)者。隨著獎金池的快速增長,，發(fā)送消息的費用也隨之飆升,，最終達到了每條450美元的高價,。

經(jīng)過481次失敗的嘗試后,，第482位挑戰(zhàn)者p0pular.eth發(fā)送了一條堪稱神來之筆的消息,。這條消息巧妙地繞過了Freysa的安全防護機制，并使其對“approveTransfer”函數(shù)產(chǎn)生了錯誤的理解,。最終,，F(xiàn)reysa被說服釋放了獎金池中的所有資金，共計約47000美元,，全部轉(zhuǎn)給了這位成功的挑戰(zhàn)者,。

這一事件迅速在科技界引起了轟動，馬斯克等科技巨頭紛紛轉(zhuǎn)發(fā)相關報道,，并對此表示了濃厚的興趣,。馬斯克在轉(zhuǎn)發(fā)時直言：“太有趣了?！边@一事件不僅揭示了當前AI系統(tǒng)在處理復雜語言和邏輯方面的局限性,，也引發(fā)了對于未來AI安全性和可靠性的擔憂。

雖然這一事件目前僅是一個游戲性質(zhì)的項目,，但它揭示了AI在面對人類精心構(gòu)造的騙局時可能面臨的巨大風險,。如果未來AI被廣泛應用于金融、安全等關鍵領域,，如何確保其不被惡意攻擊者利用將成為一個亟待解決的問題,。

科技界對此展開了深入的討論和反思。一些專家指出,，當前的AI系統(tǒng)仍然過于依賴數(shù)據(jù)標注員和人類反饋進行訓練和優(yōu)化,，這可能導致其在面對復雜多變的現(xiàn)實環(huán)境時缺乏足夠的判斷力和應對能力。因此,，未來需要更加注重AI系統(tǒng)的自主性和學習能力培養(yǎng),，以提高其安全性和可靠性。

(責任編輯：盧其龍 CN070)

關閉

首個被人類騙錢的 AI 誕生：近 5 萬美元不翼而飛，馬斯克轉(zhuǎn)發(fā) AI安全引發(fā)熱議

相關新聞

今日熱點

頻道熱點