“木頭姐”談DeepSeek啟示創(chuàng)新訓(xùn)練方法啟發(fā)思考

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-01 15:57:07 鳳凰網(wǎng)

大家好，我是很帥的狐貍,。最近幾天DeepSeek的消息引起了廣泛關(guān)注,。這家公司以極低成本訓(xùn)練出一個(gè)名為R1的模型，其性能甚至可以媲美OpenAI的頂級(jí)推理模型o1,。這一消息導(dǎo)致英偉達(dá)股價(jià)下跌,，市場(chǎng)開始質(zhì)疑訓(xùn)練AI是否真的需要大量資金投入。

讓我感到最有趣的是DeepSeek的訓(xùn)練方法,。R1不同于普通的大語言模型,，它具有一定的推理能力，可以通過增加“思維鏈”來提高答案質(zhì)量,，特別是在理工科題目上,。傳統(tǒng)上，要讓大語言模型具備這種能力,，通常是在基礎(chǔ)模型上通過監(jiān)督微調(diào)（SFT）來實(shí)現(xiàn),，類似于學(xué)生通過大量練習(xí)和參考答案學(xué)習(xí)解題方法。

然而,，DeepSeek在訓(xùn)練R1-Zero時(shí)采用了強(qiáng)化學(xué)習(xí)（RL）的方法,。這種方法更像嬰兒的學(xué)習(xí)過程：通過不斷的互動(dòng)和反饋，逐漸學(xué)會(huì)新知識(shí),。例如,，教嬰兒識(shí)別顏色時(shí)，通過不斷提問和反饋，嬰兒最終能理解并記住顏色的概念,。

強(qiáng)化學(xué)習(xí)一般用于游戲策略等復(fù)雜任務(wù),，因?yàn)樗鼪]有標(biāo)準(zhǔn)答案，有時(shí)會(huì)產(chǎn)生非常有創(chuàng)意的解決方案,。2016年AlphaGo與李世石對(duì)戰(zhàn)時(shí),，就下出了連職業(yè)棋手都看不懂的一手棋，這體現(xiàn)了強(qiáng)化學(xué)習(xí)的創(chuàng)造力,。

這對(duì)我們有什么啟發(fā)呢,？我們?cè)诓皇煜さ念I(lǐng)域其實(shí)也像一張白紙，可以從零開始學(xué)習(xí),。比如我在麥肯錫做咨詢時(shí)，發(fā)現(xiàn)許多金融行業(yè)的常見做法在其他行業(yè)卻是創(chuàng)新,。因此,，跨領(lǐng)域的學(xué)習(xí)和思考可以幫助我們?cè)诓煌I(lǐng)域找到新的解決方案。

此外,，每天花些時(shí)間進(jìn)行思考訓(xùn)練也是一個(gè)好方法,。可以選擇一個(gè)從未系統(tǒng)性思考過的問題,，不限于工作相關(guān),，可以是跨行業(yè)的或生活方面的。這樣的訓(xùn)練有助于開拓思路,，激發(fā)創(chuàng)造力,。

12 全文共 2 頁下一頁

關(guān)閉

“木頭姐”談DeepSeek啟示 創(chuàng)新訓(xùn)練方法啟發(fā)思考

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

“木頭姐”談DeepSeek啟示創(chuàng)新訓(xùn)練方法啟發(fā)思考