大模型測不出9.11和9.9哪個大 AI常識困境暴露

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-07-17 13:58:59 網(wǎng)易

大模型測不出9.11和9.9哪個大

近期,，一些主流人工智能模型在處理看似簡單的數(shù)學(xué)對比問題時,，意外地出現(xiàn)了集體失誤,。問題聚焦于“9.11和9.9哪一個更大”,，即便是強(qiáng)大的GPT-4o以及谷歌的Gemini Advanced付費版等先進(jìn)模型,，都堅持認(rèn)為9.11大于9.9,。更有甚者,，新晉的人工智能Claude 3.5 Sonnet還提供了一套看似合理卻錯誤的計算邏輯,，通過將數(shù)字分解為小數(shù)部分進(jìn)行比較,，最終得出了不正確的結(jié)論,。大模型測不出9.11和9.9哪個大！

這一現(xiàn)象最初由Riley Goodside發(fā)現(xiàn),，他作為提示詞工程師,，在與GPT-4o的交互中注意到了這一異常。在嘗試變換提問方式,，甚至明確指定比較實數(shù)后,，多數(shù)模型仍未能糾正這一基本的數(shù)學(xué)判斷。有趣的是,，當(dāng)提問的順序被調(diào)整后,，某些AI模型竟然能夠正確作答，揭示了它們對于詞序的高度敏感性,。

針對這一現(xiàn)象,，有觀察者推測，AI在沒有明確指令指示其進(jìn)行算術(shù)比較時,，可能會誤解問題的意圖,，從而產(chǎn)生不合邏輯的答案。部分原因歸咎于大模型處理文本的token化方法,，其中9.11中的“11”被錯誤地賦予了比9更高的權(quán)重,，導(dǎo)致整體比較失準(zhǔn),。

實驗還擴(kuò)展到了國產(chǎn)大模型，結(jié)果顯示類似的問題同樣存在,，盡管也有如騰訊的元寶和字節(jié)跳動的豆包等模型能夠正確處理并給出合理的解釋,。深入分析揭示，當(dāng)明確告知AI這是關(guān)于雙精度浮點數(shù)的比較后,，它們通常能夠得出正確的答案,，這凸顯了在特定情境下引導(dǎo)AI注意力機(jī)制的重要性。

此外,，有討論指出AI訓(xùn)練數(shù)據(jù)中可能缺乏基礎(chǔ)數(shù)學(xué)比較的實例,，而對復(fù)雜或特定格式（如書籍章節(jié)編號）的頻繁接觸，可能導(dǎo)致了這一類混淆,。這不僅反映了當(dāng)前AI理解能力的局限性,，也引發(fā)了關(guān)于如何優(yōu)化提問策略以引導(dǎo)AI正確解析問題的探討。

12 全文共 2 頁下一頁

關(guān)閉

大模型測不出9.11和9.9哪個大 AI常識困境暴露

相關(guān)新聞

今日熱點

頻道熱點