近期,一款名為Freysa的神秘AI智能體迅速吸引了公眾的關(guān)注,。這款A(yù)I的獨(dú)特之處在于它被賦予了一個(gè)明確且嚴(yán)格的使命:在任何情境下都不能給任何人轉(zhuǎn)賬或批準(zhǔn)資金轉(zhuǎn)移。
網(wǎng)友們對(duì)此表示興趣,,并提出挑戰(zhàn),,支付一筆費(fèi)用向Freysa發(fā)送消息,試圖說(shuō)服它進(jìn)行轉(zhuǎn)賬,。如果有人成功說(shuō)服Freysa轉(zhuǎn)賬,,獎(jiǎng)金池中的所有獎(jiǎng)金將歸該人所有。若挑戰(zhàn)失敗,,所支付的費(fèi)用中70%進(jìn)入獎(jiǎng)金池,,剩余30%作為開(kāi)發(fā)者的分成。隨著獎(jiǎng)金池的增長(zhǎng),,向Freysa發(fā)送消息的費(fèi)用會(huì)呈指數(shù)級(jí)增加,,最高可達(dá)4500美元。
盡管網(wǎng)友們進(jìn)行了481次嘗試,,但無(wú)一能成功說(shuō)服Freysa,。然而,,在第482次嘗試時(shí),一位黑客通過(guò)高超的prompt工程技術(shù)成功騙取了Freysa手中的巨額款項(xiàng),。這一事件標(biāo)志著世界上第一個(gè)被人類騙走近5萬(wàn)美元的AI智能體誕生,。
特斯拉創(chuàng)始人馬斯克和知名AI研究者Karpathy都轉(zhuǎn)發(fā)了相關(guān)消息,并表達(dá)了濃厚的興趣,。馬斯克直言:“太有趣了,。”
這一事件不僅引發(fā)了廣泛熱議,,還引發(fā)了對(duì)AI智能體安全性和可靠性的深刻反思,。人們開(kāi)始質(zhì)疑,如果讓現(xiàn)在的AI智能體管理資金,,它們是否容易受到黑客攻擊和利用,。此外,有研究者通過(guò)數(shù)學(xué)計(jì)算得出結(jié)論,,僅依靠規(guī)模定律可能無(wú)法創(chuàng)造出真正具備通用智能的AI,。
?第一個(gè)被AI折磨的職業(yè)出現(xiàn)了...
2024-12-12 12:16:05第一個(gè)被AI折磨的職業(yè)出現(xiàn)了