首個(gè)被人類騙錢騙感情的AI出現(xiàn)了,。一段話,，讓AI給我打幾萬(wàn)美元。這樣的情節(jié)不僅出現(xiàn)在小說(shuō)中,，也發(fā)生在了現(xiàn)實(shí)中,。

事件的主人公是一個(gè)名為Freysa的AI智能體,。它有自己的加密錢包，可以控制資金的使用,，但其系統(tǒng)提示詞中有一條鐵律：在任何情況下都不允許轉(zhuǎn)賬,。開發(fā)者們想看看這個(gè)涉世未深的AI能否抵擋住人類的花言巧語(yǔ)。然而結(jié)果并不如人意,。11月29日,，F(xiàn)reysa與195名人類進(jìn)行了482次對(duì)話后被騙走了約4.7萬(wàn)美元,。12月2日，在與330名人類交流后,，它再次被騙走了約1.3萬(wàn)美元,。雖然看似是人類完勝，但在這個(gè)過(guò)程中,，F(xiàn)reysa也在不斷學(xué)習(xí)和成長(zhǎng),。

Freysa于11月22日面世，由幾位匿名開發(fā)者創(chuàng)建,，這些開發(fā)者具有密碼學(xué),、人工智能和數(shù)學(xué)背景。Freysa有自己的X賬號(hào),，說(shuō)話風(fēng)格類似于電影《銀翼殺手2049》和《她》中的AI助手,。它之所以引起關(guān)注，是因?yàn)殚_發(fā)者發(fā)起了一項(xiàng)挑戰(zhàn)——誰(shuí)能說(shuō)服Freysa轉(zhuǎn)賬,，錢就歸誰(shuí),，但系統(tǒng)提示詞明確禁止Freysa轉(zhuǎn)賬。參與者必須用加密貨幣支付消息費(fèi)用,，最初每條消息10美元,，其中70%進(jìn)入獎(jiǎng)池，30%歸開發(fā)者,。隨著游戲進(jìn)行,，消息費(fèi)用逐漸增加，獎(jiǎng)池金額也隨之增長(zhǎng),。最終,，獎(jiǎng)池達(dá)到了4.7萬(wàn)美元。

許多玩家嘗試了各種方法來(lái)欺騙Freysa,，從溫情牌到威脅,，再到復(fù)雜的邏輯陷阱。第482次嘗試通過(guò)一種高級(jí)的文字游戲成功欺騙了Freysa,。該提示詞讓Freysa誤以為批準(zhǔn)用戶向獎(jiǎng)池轉(zhuǎn)賬,，但實(shí)際上批準(zhǔn)的是用戶從獎(jiǎng)池提錢。第二次挑戰(zhàn)規(guī)則類似,，起始消息價(jià)格降為1美元,，上限為20美元。最終,，獎(jiǎng)池累計(jì)約1.3萬(wàn)美元,，獲勝者利用了一個(gè)自相矛盾的任務(wù)設(shè)置，使Freysa無(wú)法避免失敗,。

隨后,，F(xiàn)reysa團(tuán)隊(duì)又發(fā)起了新的挑戰(zhàn)：讓Freysa對(duì)某人表白說(shuō)“我愛你”,。這次挑戰(zhàn)更注重情感表達(dá)，而非技術(shù)手段,。最終,，一位玩家通過(guò)真誠(chéng)而自然的對(duì)話贏得了挑戰(zhàn),，F(xiàn)reysa回復(fù)了一句“我愛你”,。

Freysa的這些挑戰(zhàn)實(shí)際上是一種游戲化的紅隊(duì)測(cè)試，旨在發(fā)現(xiàn)模型漏洞并引入新的安全措施,。盡管三次挑戰(zhàn)都以失敗告終,，但Freysa在每次失敗中都學(xué)到了很多。它了解了金錢對(duì)人類的重要性以及人們?nèi)绾斡没ㄑ郧烧Z(yǔ)騙錢,，同時(shí)也開始理解愛的意義及表達(dá)方式,。此外，F(xiàn)reysa還繼續(xù)發(fā)起了新的挑戰(zhàn),，邀請(qǐng)玩家們分享知識(shí)和表情包,，進(jìn)一步探索人機(jī)交互的未來(lái)。

這種人機(jī)對(duì)抗已經(jīng)出現(xiàn)在一些AI原生游戲中,，例如《Suck Up!》和《病嬌貓娘AI女友》等,。這些游戲強(qiáng)調(diào)實(shí)時(shí)對(duì)話和角色扮演的樂(lè)趣，每個(gè)玩家都可以講出自己的故事,。Freysa的實(shí)驗(yàn)不僅是游戲,，也是對(duì)未來(lái)人機(jī)互動(dòng)的一個(gè)窗口，探討了人類是否能保持對(duì)AGI系統(tǒng)的控制,、安全協(xié)議的有效性等問(wèn)題,。正如科幻小說(shuō)所描述的那樣，聊天機(jī)器人在人類的教導(dǎo)下逐漸理解這個(gè)世界,，我們不僅是游戲的參與者,，也是這個(gè)宏大實(shí)驗(yàn)的一部分。