“木頭姐”談DeepSeek啟示創(chuàng)新訓(xùn)練方法啟發(fā)思考

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-01 15:57:07 鳳凰網(wǎng)

大家好,，我是很帥的狐貍,。最近幾天DeepSeek的消息引起了廣泛關(guān)注。這家公司以極低成本訓(xùn)練出一個(gè)名為R1的模型,，其性能甚至可以媲美OpenAI的頂級(jí)推理模型o1。這一消息導(dǎo)致英偉達(dá)股價(jià)下跌,，市場(chǎng)開(kāi)始質(zhì)疑訓(xùn)練AI是否真的需要大量資金投入,。

讓我感到最有趣的是DeepSeek的訓(xùn)練方法。R1不同于普通的大語(yǔ)言模型,，它具有一定的推理能力,，可以通過(guò)增加“思維鏈”來(lái)提高答案質(zhì)量，特別是在理工科題目上,。傳統(tǒng)上,，要讓大語(yǔ)言模型具備這種能力，通常是在基礎(chǔ)模型上通過(guò)監(jiān)督微調(diào)（SFT）來(lái)實(shí)現(xiàn),，類(lèi)似于學(xué)生通過(guò)大量練習(xí)和參考答案學(xué)習(xí)解題方法,。

然而，DeepSeek在訓(xùn)練R1-Zero時(shí)采用了強(qiáng)化學(xué)習(xí)（RL）的方法,。這種方法更像嬰兒的學(xué)習(xí)過(guò)程：通過(guò)不斷的互動(dòng)和反饋,，逐漸學(xué)會(huì)新知識(shí)。例如,，教嬰兒識(shí)別顏色時(shí),，通過(guò)不斷提問(wèn)和反饋，嬰兒最終能理解并記住顏色的概念,。

強(qiáng)化學(xué)習(xí)一般用于游戲策略等復(fù)雜任務(wù),，因?yàn)樗鼪](méi)有標(biāo)準(zhǔn)答案，有時(shí)會(huì)產(chǎn)生非常有創(chuàng)意的解決方案,。2016年AlphaGo與李世石對(duì)戰(zhàn)時(shí),，就下出了連職業(yè)棋手都看不懂的一手棋,，這體現(xiàn)了強(qiáng)化學(xué)習(xí)的創(chuàng)造力。

這對(duì)我們有什么啟發(fā)呢,？我們?cè)诓皇煜さ念I(lǐng)域其實(shí)也像一張白紙,，可以從零開(kāi)始學(xué)習(xí)。比如我在麥肯錫做咨詢(xún)時(shí),，發(fā)現(xiàn)許多金融行業(yè)的常見(jiàn)做法在其他行業(yè)卻是創(chuàng)新,。因此，跨領(lǐng)域的學(xué)習(xí)和思考可以幫助我們?cè)诓煌I(lǐng)域找到新的解決方案,。

此外,，每天花些時(shí)間進(jìn)行思考訓(xùn)練也是一個(gè)好方法?？梢赃x擇一個(gè)從未系統(tǒng)性思考過(guò)的問(wèn)題,，不限于工作相關(guān)，可以是跨行業(yè)的或生活方面的,。這樣的訓(xùn)練有助于開(kāi)拓思路,，激發(fā)創(chuàng)造力。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

“木頭姐”談DeepSeek啟示 創(chuàng)新訓(xùn)練方法啟發(fā)思考

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

“木頭姐”談DeepSeek啟示創(chuàng)新訓(xùn)練方法啟發(fā)思考