GPT-4被曝緩存歷史回復(fù) 一個(gè)笑話講八百遍，讓換新的也不聽
豐色發(fā)自凹非寺
量子位|公眾號(hào)QbitAI
有網(wǎng)友找到了GPT-4變“笨”的又一證據(jù),。
他質(zhì)疑：
OpenAI會(huì)緩存歷史回復(fù),，讓GPT-4直接復(fù)述以前生成過的答案。
最明顯的例子就是講笑話,。
證據(jù)顯示,，即使他將模型的temperature值調(diào)高，GPT-4仍重復(fù)同一個(gè)“科學(xué)家與原子”的回答,。
就是那個(gè)“為什么科學(xué)家不信任原子,？因?yàn)槿f物都是由它們編造/構(gòu)造（make up）出來的”的冷笑話。
在此,，按理說temperature值越大,，模型越容易生成一些意想不到的詞，不該重復(fù)同一個(gè)笑話了,。
不止如此,，即使咱們不動(dòng)參數(shù)，換一個(gè)措辭,，強(qiáng)調(diào)讓它講一個(gè)新的,、不同的笑話，也無濟(jì)于事,。
發(fā)現(xiàn)者表示：
這說明GPT-4不僅使用緩存,，還是聚類查詢而非精準(zhǔn)匹配某個(gè)提問。
這樣的好處不言而喻,，回復(fù)速度可以更快,。
不過既然高價(jià)買了會(huì)員，享受的只是這樣的緩存檢索服務(wù),，誰心里也不爽,。
還有人看完后的心情是：
如果真這樣的話，我們一直用GPT-4來評(píng)價(jià)其他大模型的回答是不是不太公平,？
當(dāng)然,，也有人不認(rèn)為這是外部緩存的結(jié)果，可能模型本身答案的重復(fù)性就有這么高：
此前已有研究表明ChatGPT在講笑話時(shí),，90%的情況下都會(huì)重復(fù)同樣的25個(gè),。
具體怎么說？
證據(jù)實(shí)錘GPT-4用緩存回復(fù)
不僅是忽略temperature值,，這位網(wǎng)友還發(fā)現(xiàn)：
更改模型的top_p值也沒用,，GPT-4就跟那一個(gè)笑話干上了,。
（top_p：用來控制模型返回結(jié)果的真實(shí)性，想要更準(zhǔn)確和基于事實(shí)的答案就把值調(diào)低,，想要多樣化的答案就調(diào)高）
唯一的破解辦法是把隨機(jī)性參數(shù)n拉高,，這樣我們就可以獲得“非緩存”的答案，得到一個(gè)新笑話,。
焦裕祿次子焦躍進(jìn)逝世 享年66歲,！
“五線明星還擺什么譜” 王驍路演被罵影院致歉
最高檢為《第二十條》連發(fā)兩篇影評(píng)
誣陷中國網(wǎng)攻、給烏克蘭F-16,，荷蘭為啥成了急先鋒,？
改進(jìn)型蘇-57將服役，或成最快超音速戰(zhàn)斗機(jī)
全國統(tǒng)一的春節(jié)噩夢,，兩個(gè)字
媒體：中東的形勢變了
美軍方：遭襲基地未能發(fā)現(xiàn)來襲無人機(jī),，也沒有能擊落無人機(jī)的武器
新姑爺?shù)谝淮紊祥T 不料壓塌老丈人床熱 然而，事情并未就此結(jié)束
你收到的情人節(jié)玫瑰99%是假的,！
制造地區(qū)緊張氣氛,？駐日韓美軍演練應(yīng)對(duì)“大規(guī)模傷亡”
多次“擔(dān)憂”中國船只研究活動(dòng),，印度為何力阻中國科考船進(jìn)印度洋,？
日記者觀摩日美大規(guī)模海上軍演,，中國偵察艦抵近美航母
最高檢為《第二十條》連發(fā)兩篇影評(píng)
五路財(cái)神都有誰熱 他們分別代表著不同的財(cái)運(yùn)和財(cái)富,，深受人們的敬仰和崇拜
賈玲雷佳音帶爸爸客串熱辣滾燙 為故事增添了更多的溫情與真實(shí)
坎貝爾出任美副國務(wù)卿,，美媒：主張與華競爭而非對(duì)抗
西方對(duì)俄羅斯能源制裁到底坑了誰,？
俄軍事專家：扎盧日內(nèi)“頌揚(yáng)”俄軍是“煙幕彈”
《我們一起搖太陽》將退出春節(jié)檔熱 2月15日為該片在春節(jié)檔上映的最后一天
焦裕祿次子焦躍進(jìn)逝世 享年66歲！
烏軍轉(zhuǎn)向混合戰(zhàn)略,，擬對(duì)俄境內(nèi)展開大規(guī)模無人機(jī)攻擊
出島機(jī)票緊張票價(jià)過萬 海南官方回應(yīng)：建議避免從三亞直飛
五臺(tái)山景區(qū)桶裝水是從廁所水管接的？景區(qū)：平時(shí)也喝這個(gè) 將改善相關(guān)設(shè)施
一覺醒來，巴格達(dá)告急
視覺盛宴,！八一飛行表演隊(duì)亮相沙特國際防務(wù)展
力阻中國科考船進(jìn)印度洋,，印度到底在怕啥,？
日本又?jǐn)嚺欠牵?/a>
內(nèi)塔尼亞胡反對(duì),！布林肯與以軍參謀長單獨(dú)會(huì)晤被取消
“錢輩”請(qǐng)和我交往熱 初五寺廟打卡熱,，大批年輕人喊話財(cái)神爺
“沖突至今最嚴(yán)重！”
張藝謀劉德華都打不過熊出沒熱 春節(jié)檔黑馬電影征服全年齡段
烏稱擊沉俄黑海艦隊(duì)大型登陸艦 “凱撒·庫尼科夫”號(hào)
“五線明星還擺什么譜” 王驍路演被罵影院致歉
農(nóng)村老人沉迷刷APP掙錢：一天看七小時(shí)才賺兩三塊
相關(guān)新聞
馬化騰回應(yīng)早期微信“偷窺”用戶相冊(cè)：圖片緩存加速造成的誤會(huì)
2024-01-08 11:23:45馬化騰談早期微信“偷窺”相冊(cè)蘇有朋回復(fù)舒淇 媽媽說 美麗的女人都會(huì)嚇人
?蘇有朋轉(zhuǎn)發(fā)回復(fù)舒淇：“媽媽說美麗的女人都會(huì)嚇人而且很嚇” 都給咱有朋哥嚇到模糊了
2023-11-23 11:01:19蘇有朋回復(fù)舒淇民政部回復(fù)龍年不宜結(jié)婚：荒唐迷信 沒有科學(xué)依據(jù)
2024-01-25 08:03:47民政部回復(fù)龍年不宜結(jié)婚林俊杰回復(fù)Angelababy 兩人曾合作《可惜沒如果》
2023-08-21 13:26:25林俊杰回復(fù)Angelababy微視頻｜銘記歷史 吾輩自強(qiáng)
2023-08-15 22:00:45微視頻｜銘記歷史官方回應(yīng)冰雪大世界主持人疑打廣告“會(huì)有確切回復(fù)”
2024-01-15 15:51:18官方回應(yīng)冰雪大世界主持人疑打廣告
