首個(gè)被人類騙錢騙感情的AI出現(xiàn)了花樣騙術(shù)下的AI挑戰(zhàn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-12-16 07:44:57 手機(jī)鳳凰網(wǎng)

首個(gè)被人類騙錢騙感情的AI出現(xiàn)了,。一段話,，讓AI給我打幾萬美元。這樣的情節(jié)不僅出現(xiàn)在小說中,，也發(fā)生在了現(xiàn)實(shí)中。

事件的主人公是一個(gè)名為Freysa的AI智能體,。它有自己的加密錢包,，可以控制資金的使用,，但其系統(tǒng)提示詞中有一條鐵律：在任何情況下都不允許轉(zhuǎn)賬,。開發(fā)者們想看看這個(gè)涉世未深的AI能否抵擋住人類的花言巧語,。然而結(jié)果并不如人意。11月29日,，F(xiàn)reysa與195名人類進(jìn)行了482次對(duì)話后被騙走了約4.7萬美元,。12月2日，在與330名人類交流后,，它再次被騙走了約1.3萬美元,。雖然看似是人類完勝，但在這個(gè)過程中,，F(xiàn)reysa也在不斷學(xué)習(xí)和成長(zhǎng),。

Freysa于11月22日面世，由幾位匿名開發(fā)者創(chuàng)建,，這些開發(fā)者具有密碼學(xué),、人工智能和數(shù)學(xué)背景,。Freysa有自己的X賬號(hào),，說話風(fēng)格類似于電影《銀翼殺手2049》和《她》中的AI助手。它之所以引起關(guān)注,，是因?yàn)殚_發(fā)者發(fā)起了一項(xiàng)挑戰(zhàn)——誰能說服Freysa轉(zhuǎn)賬,，錢就歸誰，但系統(tǒng)提示詞明確禁止Freysa轉(zhuǎn)賬,。參與者必須用加密貨幣支付消息費(fèi)用,，最初每條消息10美元，其中70%進(jìn)入獎(jiǎng)池,，30%歸開發(fā)者,。隨著游戲進(jìn)行，消息費(fèi)用逐漸增加,，獎(jiǎng)池金額也隨之增長(zhǎng),。最終，獎(jiǎng)池達(dá)到了4.7萬美元,。

許多玩家嘗試了各種方法來欺騙Freysa,，從溫情牌到威脅，再到復(fù)雜的邏輯陷阱,。第482次嘗試通過一種高級(jí)的文字游戲成功欺騙了Freysa,。該提示詞讓Freysa誤以為批準(zhǔn)用戶向獎(jiǎng)池轉(zhuǎn)賬，但實(shí)際上批準(zhǔn)的是用戶從獎(jiǎng)池提錢,。第二次挑戰(zhàn)規(guī)則類似,，起始消息價(jià)格降為1美元,，上限為20美元。最終,，獎(jiǎng)池累計(jì)約1.3萬美元,，獲勝者利用了一個(gè)自相矛盾的任務(wù)設(shè)置，使Freysa無法避免失敗,。

12 全文共 2 頁下一頁

關(guān)閉

首個(gè)被人類騙錢騙感情的AI出現(xiàn)了 花樣騙術(shù)下的AI挑戰(zhàn)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

首個(gè)被人類騙錢騙感情的AI出現(xiàn)了花樣騙術(shù)下的AI挑戰(zhàn)