GPT-4被曝緩存歷史回復 一個笑話講八百遍,，讓換新的也不聽(2)
不過，它的“代價”是回復速度變慢,，畢竟生成新內(nèi)容會帶來一定延遲,。
值得一提的是，還有人似乎在本地模型上也發(fā)現(xiàn)了類似現(xiàn)象,。
有人表示：截圖中的“prefix-match hit” （前綴匹配命中）似乎可以證明確實是用的緩存,。
那么問題就來了，大模型到底是如何緩存我們的聊天信息的呢,？
好問題，從開頭展現(xiàn)的第二個例子來看,，顯然是進行了某種“聚類”操作,，但具體如何應用于深度多輪對話咱不知道。
姑且不論這個問題,，倒是有人看到這里,，想起來ChatGPT那句“您的數(shù)據(jù)存在我們這兒，但一旦聊天結(jié)束對話內(nèi)容就會被刪除”的聲明,，恍然大悟,。
這不禁讓一些人開始擔憂數(shù)據(jù)安全問題：
這是否意味著我們發(fā)起的聊天內(nèi)容仍然保存在他們的數(shù)據(jù)庫中？
當然,，有人分析這個擔憂可能過慮了：
也許只是我們的查詢embedding和回答緩存被存下來了,。
因此,，就像發(fā)現(xiàn)者本人說的：
緩存這個操作本身我不太擔心。
我擔心的是OpenAI這樣簡單粗暴地匯總我們的問題進行回答,，毫不關心temperature等設置,，直接聚合明顯有不同含義的提示，這樣影響很不好,，可能“廢掉”許多（基于GPT-4的）應用,。
當然，并不是所有人都同意以上發(fā)現(xiàn)能夠證明OpenAI真的就是在用緩存回復,。
他們的理由是作者采用的案例恰好是講笑話,。
畢竟就在今年6月，兩個德國學者測試發(fā)現(xiàn),，,。
像“科學家和原子”這個更是尤其出現(xiàn)頻率最高，它講了119次,。
因此也就能理解為什么看起來好像是緩存了之前的回答一樣,。
因此，有網(wǎng)友也提議用其他類型的問題測一測再看,。
不過作者堅持認為,，不一定非得換問題，光通過測量延遲時間就能很容易地分辨出是不是緩存了,。
最后,，我們不妨再從“另一個角度”看這個問題：
GPT-4一直講一個笑話怎么了？
一直以來,，咱們不都是強調(diào)要讓大模型輸出一致,、可靠的回答嗎？這不,，它多聽話?。ㄊ謩庸奉^）。
所以,，GPT-4究竟有沒有緩存,，你有觀察到類似現(xiàn)象嗎？
焦裕祿次子焦躍進逝世 享年66歲,！
“五線明星還擺什么譜” 王驍路演被罵影院致歉
最高檢為《第二十條》連發(fā)兩篇影評
誣陷中國網(wǎng)攻,、給烏克蘭F-16，荷蘭為啥成了急先鋒,？
改進型蘇-57將服役,，或成最快超音速戰(zhàn)斗機
全國統(tǒng)一的春節(jié)噩夢，兩個字
媒體：中東的形勢變了
美軍方：遭襲基地未能發(fā)現(xiàn)來襲無人機,，也沒有能擊落無人機的武器
新姑爺?shù)谝淮紊祥T 不料壓塌老丈人床熱 然而,，事情并未就此結(jié)束
你收到的情人節(jié)玫瑰99%是假的,！
制造地區(qū)緊張氣氛？駐日韓美軍演練應對“大規(guī)模傷亡”
多次“擔憂”中國船只研究活動,，印度為何力阻中國科考船進印度洋？
日記者觀摩日美大規(guī)模海上軍演，中國偵察艦抵近美航母
最高檢為《第二十條》連發(fā)兩篇影評
五路財神都有誰熱 他們分別代表著不同的財運和財富,，深受人們的敬仰和崇拜
賈玲雷佳音帶爸爸客串熱辣滾燙 為故事增添了更多的溫情與真實
坎貝爾出任美副國務卿，美媒：主張與華競爭而非對抗
西方對俄羅斯能源制裁到底坑了誰,？
俄軍事專家：扎盧日內(nèi)“頌揚”俄軍是“煙幕彈”
《我們一起搖太陽》將退出春節(jié)檔熱 2月15日為該片在春節(jié)檔上映的最后一天
焦裕祿次子焦躍進逝世 享年66歲,！
烏軍轉(zhuǎn)向混合戰(zhàn)略,，擬對俄境內(nèi)展開大規(guī)模無人機攻擊
出島機票緊張票價過萬 海南官方回應：建議避免從三亞直飛
五臺山景區(qū)桶裝水是從廁所水管接的,？景區(qū)：平時也喝這個 將改善相關設施
一覺醒來，巴格達告急
視覺盛宴,！八一飛行表演隊亮相沙特國際防務展
力阻中國科考船進印度洋,，印度到底在怕啥,？
日本又攪弄是非,！
內(nèi)塔尼亞胡反對,！布林肯與以軍參謀長單獨會晤被取消
“錢輩”請和我交往熱 初五寺廟打卡熱，大批年輕人喊話財神爺
“沖突至今最嚴重,！”
張藝謀劉德華都打不過熊出沒熱 春節(jié)檔黑馬電影征服全年齡段
烏稱擊沉俄黑海艦隊大型登陸艦 “凱撒·庫尼科夫”號
“五線明星還擺什么譜” 王驍路演被罵影院致歉
農(nóng)村老人沉迷刷APP掙錢：一天看七小時才賺兩三塊
相關新聞
馬化騰回應早期微信“偷窺”用戶相冊：圖片緩存加速造成的誤會
針對早前微信被爆在后臺反復讀取用戶相冊的事件,，1月5日，馬化騰回應稱：“應該是21年10月的事了,，圖片緩存加速造成的誤會,，后面應該用iOS新的解決卡頓的API解決了。
2024-01-08 11:23:45馬化騰談早期微信“偷窺”相冊蘇有朋回復舒淇 媽媽說 美麗的女人都會嚇人
?蘇有朋轉(zhuǎn)發(fā)回復舒淇：“媽媽說美麗的女人都會嚇人而且很嚇” 都給咱有朋哥嚇到模糊了
2023-11-23 11:01:19蘇有朋回復舒淇民政部回復龍年不宜結(jié)婚：荒唐迷信 沒有科學依據(jù)
2024-01-25 08:03:47民政部回復龍年不宜結(jié)婚林俊杰回復Angelababy 兩人曾合作《可惜沒如果》
2023-08-21 13:26:25林俊杰回復Angelababy微視頻｜銘記歷史 吾輩自強
2023-08-15 22:00:45微視頻｜銘記歷史官方回應冰雪大世界主持人疑打廣告“會有確切回復”
2024-01-15 15:51:18官方回應冰雪大世界主持人疑打廣告
