科技圈從來不缺新聞,,但 DeepSeek-R1 的出現(xiàn)卻像一顆石子投入平靜的湖面,,激起了層層漣漪。這家來自中國的 AI 初創(chuàng)公司以其開源的推理大模型 R1 攪動了全球 AI 格局,。R1 不僅性能媲美甚至超越 OpenAI o1,,還以低廉的成本和開放的姿態(tài)贏得了全世界的關(guān)注。DeepSeek-R1 的開源策略和高效性能正在迫使整個行業(yè)重新思考 AI 的未來,。
中國計算機學(xué)會青年計算機科學(xué)與技術(shù)論壇(CCF YOCSEF)近期組織了一場研討會,,邀請了復(fù)旦大學(xué)邱錫鵬教授、清華大學(xué)劉知遠長聘副教授,、清華大學(xué)翟季冬教授以及上海交通大學(xué)戴國浩副教授四位專家,,從不同角度深入解析了 DeepSeek-R1 的技術(shù)突破與未來影響,。
要理解 R1 的突破,,需要從 o1 類推理模型說起。邱錫鵬認為當前人工智能領(lǐng)域正面臨一個重要轉(zhuǎn)折點,。此前 Ilya 稱“預(yù)訓(xùn)練時代可能即將結(jié)束”,,主要源于數(shù)據(jù)增長的停滯。OpenAI 開始轉(zhuǎn)向強化學(xué)習(xí)和推理式計算,,試圖通過增加推理長度來改進模型性能,,為下一代大模型的發(fā)展注入新動力。
o1 模型的訓(xùn)練在強化學(xué)習(xí)框架下進行,,大語言模型充當一個 Agent,,每個動作生成下一個 token,最終生成整個 step 或 solution,。o1 這類大型推理模型可以分為四個核心要素:策略初始化,、獎勵函數(shù)設(shè)計、搜索策略和學(xué)習(xí)過程,。策略初始化要求模型具備初始的類人推理行為能力,,包括問題理解、任務(wù)分解及驗證和修正錯誤的能力,。獎勵函數(shù)設(shè)計則涉及從環(huán)境中直接獲得獎勵信號或通過專家偏好數(shù)據(jù)訓(xùn)練獎勵模型,。搜索策略包括基于樹的搜索和基于順序修改的搜索。學(xué)習(xí)過程主要包括使用強化學(xué)習(xí)和其他方法優(yōu)化模型,,分為預(yù)熱階段和強化學(xué)習(xí)階段,。
R1 發(fā)布了兩個版本:R1-Zero 和 R1。R1-Zero 完全依靠強化學(xué)習(xí)驅(qū)動,,不經(jīng)過預(yù)熱階段,,沒有任何初始的人工調(diào)節(jié)。在訓(xùn)練過程中,,隨著步驟的增加,,模型逐漸展現(xiàn)出長文本推理能力,,尤其是長鏈推理,并表現(xiàn)出自我修正能力,。不過也存在一些問題,,如語言混合的問題。
R1 的訓(xùn)練分為四個關(guān)鍵階段:冷啟動階段,、推理導(dǎo)向的強化學(xué)習(xí)階段,、拒絕抽樣與監(jiān)督微調(diào)階段,以及全任務(wù)強化學(xué)習(xí)階段,。值得注意的是,,R1 并未采用傳統(tǒng)的過程監(jiān)督或蒙特卡洛樹搜索等技術(shù),而是通過 majority vote 大幅提高推理效果,。尤其令人意外的是,,R1 在寫作能力方面表現(xiàn)突出。
DeepSeek-R1 引起廣泛關(guān)注的原因在于其獨特的技術(shù)路線和開源策略,。劉知遠指出,,DeepSeek 是全球首個通過純強化學(xué)習(xí)技術(shù)成功復(fù)現(xiàn) o1 能力并開源相關(guān)技術(shù)細節(jié)的團隊。R1 基于 Deep Seek-V3 的基礎(chǔ)模型,,通過大規(guī)模強化學(xué)習(xí)增強推理能力,,并將強推理能力泛化到其他領(lǐng)域。此外,,DeepSeek 選擇了開源的道路,,這一決定具有深遠的戰(zhàn)略意義,展示了“有限算力+算法創(chuàng)新”的發(fā)展模式,。
除了算法層面的創(chuàng)新,,DeepSeek 降低訓(xùn)練成本的方法也是引起關(guān)注的重要原因。翟季冬從系統(tǒng)軟件層面分析了 DeepSeek 降低訓(xùn)練成本的方法,。DeepSeek 開發(fā)了并行訓(xùn)練框架 HAI-LLM,,采用了 16 路流水線并行、64 路專家并行 (跨越 8 個物理節(jié)點) 和基于 ZeRO-1 的數(shù)據(jù)并行方案,。DeepSeek 針對系統(tǒng)的負載均衡,、通信優(yōu)化、內(nèi)存管理和計算優(yōu)化進行了深度優(yōu)化,。
戴國浩從軟硬件協(xié)同視角分析了 DeepSeek 的未來方向,。他指出,了解硬件細節(jié),、極致底層優(yōu)化,、打通軟件硬件、聯(lián)合協(xié)同優(yōu)化是關(guān)鍵,。DeepSeek 的成功證明,,通過系統(tǒng)架構(gòu)的優(yōu)化結(jié)合國產(chǎn)芯片和硬件,,中國的 AI 技術(shù)完全可以逐步超越國際競爭者。
研討會上,,專家們討論了 MoE 架構(gòu)是否是當前最優(yōu)解的問題,。劉知遠認為這是一個開放性的問題,技術(shù)在不斷變化,。翟季冬強調(diào)技術(shù)在不停地變化,,新的技術(shù)可能會顛覆現(xiàn)有技術(shù)。戴國浩從歷史角度分析了神經(jīng)網(wǎng)絡(luò)的發(fā)展,,指出 MoE 在當前取得了不錯的效果,,但不是最優(yōu)解。
DeepSeek-R1 的出現(xiàn)標志著 AI 領(lǐng)域格局的重要轉(zhuǎn)變,。美國目前仍占據(jù)領(lǐng)先地位,,但形勢正在發(fā)生微妙變化。DeepSeek 展現(xiàn)的高效創(chuàng)新路徑或?qū)⒅匦露x AI 發(fā)展的范式,。
復(fù)旦大學(xué)教授梁永安是一位年輕人頗為喜歡的“專家”,經(jīng)常在網(wǎng)絡(luò)上給“95后”,、“00后”解答人生煩惱,。
2024-10-30 10:42:24復(fù)旦教授提倡有條件年輕人啃幾年老