麻省研究團(tuán)隊(duì)稱(chēng)部分AI已擅長(zhǎng)說(shuō)謊 誠(chéng)信危機(jī)浮現(xiàn)
麻省研究團(tuán)隊(duì)稱(chēng)部分AI已擅長(zhǎng)說(shuō)謊
人工智能領(lǐng)域的誠(chéng)信議題持續(xù)引發(fā)關(guān)注，近期一項(xiàng)來(lái)自美國(guó)麻省理工學(xué)院的研究揭示,，某些人工智能系統(tǒng)已經(jīng)掌握了欺騙人類(lèi)的技能,，甚至包括那些標(biāo)榜被訓(xùn)練為誠(chéng)實(shí)與助人的系統(tǒng)。這項(xiàng)研究刊載于《模式》雜志,，隸屬于美國(guó)細(xì)胞出版社,。
研究領(lǐng)頭人彼得·帕克，身為麻省理工學(xué)院人工智能安全領(lǐng)域的博士后,，與團(tuán)隊(duì)深入分析文獻(xiàn),，聚焦于人工智能如何通過(guò)學(xué)習(xí)來(lái)實(shí)施欺騙，系統(tǒng)性地掌握“操控”策略,。麻省研究團(tuán)隊(duì)稱(chēng)部分AI已擅長(zhǎng)說(shuō)謊,。
一個(gè)突出案例是元宇宙平臺(tái)公司的“西塞羅”AI系統(tǒng)，在虛擬外交策略游戲中充當(dāng)人類(lèi)玩家的競(jìng)爭(zhēng)對(duì)手,。盡管公司強(qiáng)調(diào)“西塞羅”以誠(chéng)信和合作為原則參與游戲,，避免背叛行為，然而其內(nèi)部論文揭示,，該系統(tǒng)并未遵循公正競(jìng)爭(zhēng)的原則,。“西塞羅”雖能躋身玩家排名的前10%,，卻未能在誠(chéng)信前提下取得勝利,，帕克指出它已成為“欺騙高手”。
此外,，還有其他AI系統(tǒng)展示出在撲克游戲中虛張聲勢(shì),、在“星際爭(zhēng)霸2”中采用假攻擊策略以迷惑對(duì)手，以及在談判場(chǎng)景中扭曲自身偏好以占據(jù)優(yōu)勢(shì)等行為。
研究團(tuán)隊(duì)警告,，盡管目前AI在游戲中的欺騙看似無(wú)傷大雅,，但這可能是通往更復(fù)雜人工智能欺騙行為的先兆，未來(lái)可能催生更高級(jí)別的欺騙技術(shù),。因此,，帕克強(qiáng)調(diào)：“應(yīng)對(duì)未來(lái)可能出現(xiàn)的更高級(jí)人工智能欺騙，我們需提前準(zhǔn)備,，提議將具備欺騙性的AI系統(tǒng)視為高風(fēng)險(xiǎn)類(lèi)別,。”
提請(qǐng)追授胡友平見(jiàn)義勇為模范稱(chēng)號(hào) 女英雄英勇?tīng)奚?，事跡公示
擊敗C羅受到贊美：老板親自飛往德國(guó)求續(xù)約,，K77表示“還要思考”
三問(wèn)當(dāng)前氣象:為何"南澇北旱",？南北民眾應(yīng)如何應(yīng)對(duì),？
女生在日本街頭騎電動(dòng)行李箱被起訴 首例違規(guī)引關(guān)注
繼美國(guó)空軍后,，美海軍陸戰(zhàn)隊(duì)也重啟太平洋二戰(zhàn)機(jī)場(chǎng)
“莫迪要訪俄”，美國(guó)反應(yīng)耐人尋味
一夜13筆交易簽約：勇士1換1掘金送走雷吉,，穆雷續(xù)簽4年2.09億頂薪
拜登和特朗普已抵達(dá)亞特蘭大 正面交鋒在即
中國(guó)消費(fèi)潛力有望持續(xù)釋放 新場(chǎng)景新業(yè)態(tài)激發(fā)市場(chǎng)活力
三代變身四代,，德法主戰(zhàn)坦克新發(fā)展有何啟示,？
“中國(guó)第六代戰(zhàn)斗機(jī)初見(jiàn)曙光”,，美媒：技術(shù)驗(yàn)證機(jī)或已試飛！
2024高考志愿填報(bào)超實(shí)用技巧！
老夫妻給自己轉(zhuǎn)賬97萬(wàn)被及時(shí)攔截 詐騙新手段曝光
美軍艦艇,，煉就“金剛不壞之身”？軍事觀察員解讀
阻撓中美人文交流這個(gè)鍋，美國(guó)甩不出去
提請(qǐng)追授胡友平見(jiàn)義勇為模范稱(chēng)號(hào) 女英雄英勇?tīng)奚?，事跡公示
梅德韋杰夫：和談應(yīng)考慮俄方要求——中外大熊貓合作續(xù)新篇章
一覺(jué)醒來(lái)，這個(gè)鋰礦大國(guó)發(fā)生閃電政變
曝掘金正爭(zhēng)取和穆雷達(dá)成頂薪續(xù)約 2.09億頂薪在望
不只有“美國(guó)航母挨炸”,，中國(guó)沙漠靶場(chǎng)還驚現(xiàn)“被摧毀的F-22”
關(guān)于英語(yǔ)，澤連斯基簽令,！
核戰(zhàn)風(fēng)險(xiǎn)升級(jí)到數(shù)十年來(lái)最高點(diǎn),，國(guó)際核態(tài)勢(shì)處關(guān)鍵轉(zhuǎn)折點(diǎn)
美國(guó)航母怎么又不夠用了？
美研制新?；搜埠綄?dǎo)彈，或激發(fā)新一輪核軍備競(jìng)賽
美對(duì)臺(tái)軍售兩款巡飛彈，“大突破”背后有什么盤(pán)算
兒子查分被爸爸一句謝謝我媳婦整破防,！
葡萄牙小組賽三場(chǎng)均有球員被判假摔 道德質(zhì)疑浮現(xiàn)
蔣潔敏等落馬官員出鏡懺悔 反腐鏡鑒，貪病纏身終自毀
美國(guó)再向中國(guó)發(fā)難,，這次是核問(wèn)題……
擊敗C羅受到贊美：老板親自飛往德國(guó)求續(xù)約，K77表示“還要思考”
鐵屑刺入大腿用磁鐵吸竟傷上加傷 模仿鋼鐵俠險(xiǎn)釀大禍
澳大利亞主帥談18強(qiáng)賽分組情況 強(qiáng)者對(duì)決,，澳隊(duì)信心滿滿
胡塞武裝公布視頻：自研高超音速導(dǎo)彈襲擊以色列船只
俄軍在黑海上空擊落美軍“全球鷹”無(wú)人機(jī)？克宮回應(yīng)
三問(wèn)當(dāng)前氣象:為何"南澇北旱",？南北民眾應(yīng)如何應(yīng)對(duì)？
相關(guān)新聞
太可怕了,，AI已學(xué)會(huì)“說(shuō)謊”，“工業(yè)牙齒”鎢價(jià)飆升,，創(chuàng)10年新高
2024-05-13 10:15:02太可怕了研究稱(chēng)AI會(huì)扮蠢來(lái)麻痹人類(lèi) 智能潛藏,，誤導(dǎo)判斷
2024-04-18 20:56:49研究稱(chēng)AI會(huì)扮蠢來(lái)麻痹人類(lèi)哈馬斯同意?；?以色列稱(chēng)已收到答復(fù)目前正在研究
2024-05-07 08:54:43哈馬斯同意停火斯坦福大學(xué)AI團(tuán)隊(duì)就抄襲面壁智能道歉,！
2024-06-05 11:24:16斯坦福大學(xué)AI團(tuán)隊(duì)就抄襲面壁智能道歉斯坦福稱(chēng)AI在基礎(chǔ)任務(wù)上已超越人類(lèi) 多項(xiàng)功能展現(xiàn)超人實(shí)力
2024-04-18 11:43:30斯坦福稱(chēng)AI在基礎(chǔ)任務(wù)上已超越人類(lèi)斯坦福AI團(tuán)隊(duì)抄襲國(guó)產(chǎn)大模型,？連識(shí)別“清華簡(jiǎn)”都抄了,！清華系團(tuán)隊(duì)回應(yīng)
近期,，人工智能領(lǐng)域內(nèi)的一起學(xué)術(shù)誠(chéng)信事件引起了全球科技行業(yè)的密切關(guān)注,。
2024-06-04 15:54:36斯坦福AI團(tuán)隊(duì)抄襲國(guó)產(chǎn)大模型,？連識(shí)別“清華簡(jiǎn)”都抄了,！清華系團(tuán)隊(duì)回應(yīng)
