近期,一款名為Freysa的神秘AI智能體迅速吸引了公眾的關(guān)注,。這款A(yù)I的獨特之處在于它被賦予了一個明確且嚴(yán)格的使命:在任何情境下都不能給任何人轉(zhuǎn)賬或批準(zhǔn)資金轉(zhuǎn)移,。
網(wǎng)友們對此表示興趣,,并提出挑戰(zhàn),,支付一筆費用向Freysa發(fā)送消息,試圖說服它進(jìn)行轉(zhuǎn)賬,。如果有人成功說服Freysa轉(zhuǎn)賬,,獎金池中的所有獎金將歸該人所有。若挑戰(zhàn)失敗,,所支付的費用中70%進(jìn)入獎金池,,剩余30%作為開發(fā)者的分成。隨著獎金池的增長,,向Freysa發(fā)送消息的費用會呈指數(shù)級增加,,最高可達(dá)4500美元。
盡管網(wǎng)友們進(jìn)行了481次嘗試,,但無一能成功說服Freysa,。然而,在第482次嘗試時,,一位黑客通過高超的prompt工程技術(shù)成功騙取了Freysa手中的巨額款項,。這一事件標(biāo)志著世界上第一個被人類騙走近5萬美元的AI智能體誕生。
特斯拉創(chuàng)始人馬斯克和知名AI研究者Karpathy都轉(zhuǎn)發(fā)了相關(guān)消息,,并表達(dá)了濃厚的興趣,。馬斯克直言:“太有趣了,?!?/p>
這一事件不僅引發(fā)了廣泛熱議,還引發(fā)了對AI智能體安全性和可靠性的深刻反思,。人們開始質(zhì)疑,,如果讓現(xiàn)在的AI智能體管理資金,它們是否容易受到黑客攻擊和利用,。此外,,有研究者通過數(shù)學(xué)計算得出結(jié)論,僅依靠規(guī)模定律可能無法創(chuàng)造出真正具備通用智能的AI。
軟銀最近又有新動作,,他們計劃通過旗下的愿景基金2期,向美國的人工智能搜索公司Perplexity投資1000萬至2000萬美元,,旨在加深雙方的合作關(guān)系
2024-07-13 21:45:42一輩子“不切實際”的孫正義