全球掀DeepSeek復(fù)現(xiàn)狂潮硅谷巨頭神話崩塌,！

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-01-26 16:20:37 新浪財經(jīng)

硅谷正經(jīng)歷由中國公司引發(fā)的重大變革。全美都在擔(dān)憂全球人工智能的中心是否已經(jīng)轉(zhuǎn)向中國,。此時,，全球范圍內(nèi)掀起了復(fù)現(xiàn)DeepSeek模型的熱潮,。正如LeCun所說：“這是開源對閉源的一次勝利?！边@些討論引發(fā)了人們對數(shù)百億美元支出必要性的質(zhì)疑,，甚至有人預(yù)測中國量化基金可能會導(dǎo)致納斯達克崩盤。

全球掀DeepSeek復(fù)現(xiàn)狂潮

未來,，大模型時代可能進入一個分水嶺：高性能模型不再僅限于算力巨頭,，而是每個人都能擁有。UC伯克利博士生潘家怡及其團隊在CountDown游戲中復(fù)現(xiàn)了DeepSeek R1-Zero,，結(jié)果令人滿意,。實驗表明,，通過強化學(xué)習(xí),，3B的基礎(chǔ)語言模型也能自我驗證和搜索，成本不到30美元即可見證“啊哈”時刻,。該項目名為TinyZero,，采用R1-Zero算法，給定基礎(chǔ)語言模型,、提示和真實獎勵信號后運行強化學(xué)習(xí),。模型從簡單輸出開始，逐步進化出自我糾正和搜索策略,。

全球掀DeepSeek復(fù)現(xiàn)狂潮硅谷巨頭神話崩塌,！

消融實驗中，研究人員使用了Qwen-2.5-Base的不同參數(shù)規(guī)模（0.5B,、1.5B,、3B,、7B）。結(jié)果顯示,，0.5B模型只能猜測解決方案,，而從1.5B開始，模型學(xué)會了搜索,、自我驗證和修正解決方案,，從而獲得更高分?jǐn)?shù)。研究還發(fā)現(xiàn),，額外的指令微調(diào)并非必要,，這支持了R1-Zero的設(shè)計決策。此外,，具體的RL算法并不重要,，PPO、GRPO,、PRIME等算法都能帶來不錯的性能表現(xiàn),。

全球掀DeepSeek復(fù)現(xiàn)狂潮硅谷巨頭神話崩塌！

港科大助理教授何俊賢的團隊僅用8K樣本,，在7B模型上復(fù)現(xiàn)了DeepSeek-R1-Zero和DeepSeek-R1的訓(xùn)練,，取得了顯著成果。他們在AIME基準(zhǔn)上實現(xiàn)了33.3%的準(zhǔn)確率,，在AMC上為62.5%,，在MATH上為77.2%。這一表現(xiàn)不僅超越了Qwen2.5-Math-7B-Instruct,，還能與使用更多數(shù)據(jù)和復(fù)雜組件的PRIME和rStar-MATH相媲美,。他們使用純PPO方法訓(xùn)練Qwen2.5-7B-SimpleRL-Zero，并采用MATH數(shù)據(jù)集中的8K樣本,。Qwen2.5-7B-SimpleRL則先進行Long CoT監(jiān)督微調(diào),，再進行強化學(xué)習(xí)。兩種方法都只使用相同的8K MATH樣本,。在第44步時,，模型出現(xiàn)了自我反思能力，并表現(xiàn)出更長的CoT推理能力,。

12 全文共 2 頁下一頁

關(guān)閉

全球掀DeepSeek復(fù)現(xiàn)狂潮 硅谷巨頭神話崩塌,！

相關(guān)新聞

今日熱點

頻道熱點

全球掀DeepSeek復(fù)現(xiàn)狂潮硅谷巨頭神話崩塌,！