OpenAI喜提姚班學(xué)霸姚順雨

清華姚班學(xué)霸姚順雨,，官宣加入了OpenAI,。

而就是這么一則簡短的消息,，卻引來了圈內(nèi)眾人的圍觀和祝福,，來感受一下這個feel：

其中不乏像OpenAI前沿研究主管、美國IOI教練

Mark Chen

,，以及AI領(lǐng)域的教授、投資人等等。

那么這位姚順雨,，到底為何能夠引來如此關(guān)注？

從他過往的履歷來看,，我們可以提煉出這樣幾個關(guān)鍵詞：

• 清華姚班

• 姚班聯(lián)席會主席

• 清華大學(xué)學(xué)生說唱社聯(lián)合創(chuàng)始人

• 普林斯頓計算機博士

△姚順雨,，圖源：個人主頁

但除了較為亮點的履歷之外,，真正讓姚順雨步入公眾的視野，還是因為他的多項科研成果：

• 思維樹

  （Tree of Thoughts）

  ：讓LLM反復(fù)思考,，大幅提高推理能力,。

• SWE-bench

  ：一個大模型能力評估數(shù)據(jù)集。

• SWE-agent

  ：一個開源AI程序員,。

毫不夸張的說,，幾乎每項研究都在圈里產(chǎn)生了不小的漣漪；并且非常明顯的一點是,，它們都是深深圍繞著

大模型

而展開,。

這或許也正應(yīng)了姚順雨此次官宣里的一句話：

是時候?qū)⒀芯吭妇稗D(zhuǎn)變?yōu)楝F(xiàn)實了。

至于這個“研究愿景”,，我們繼續(xù)深入了解一下,。

研究關(guān)鍵詞：Language Agents

如果縱觀姚順雨的主頁，尤其是論文研究部分,，就不難發(fā)現(xiàn)有一個出鏡頻率極高的詞組——Language Agents,。

包括在他X主頁中的簡介，第一句話上來也是Language Agents：

而這,，也正是他博士畢業(yè)論文的題目：

Language Agents: From Next-Token Prediction to Digital Automation

,。

Language Agents，即

語言智能體

,，是姚順雨提出來了一種新的智能體類別,。

和傳統(tǒng)智能體不同的是，這種方法是將語言模型用于智能體的推理和行動,，主打一個讓它們實現(xiàn)

數(shù)字自動化

（Digital Automation）

,。

至于具體的實現(xiàn)方法，則有三個關(guān)鍵技術(shù)

（均有獨立的論文）

,，它們分別是：

• ReAct

  ：一種將推理和行動相結(jié)合的方法,，通過語言模型生成推理軌跡和行動，來解決各種語言推理和決策任務(wù),。

• 思維樹

  ：一種基于樹搜索的方法,，通過生成和評估多個思維路徑來解決復(fù)雜問題，提高語言模型的推理能力,。

• CoALA

  ：一個概念框架,，用于組織和設(shè)計語言代理，包括內(nèi)存,、行動空間和決策制定等方面,。

以ReAct為例，研究是將語言模型的動作空間擴充為動作集和語言空間的并集,。

語言空間中的動作

（即思維或推理軌跡）

不影響外部環(huán)境,，但能通過對當前上下文的推理來更新上下文,，可以支持未來的推理或行動。

例如在下圖展示的對話中,，采用ReAct的方法,，可以引導(dǎo)智能體把“產(chǎn)生想法→采取行動→觀察結(jié)果”這個過程進行循環(huán)。

如此一來,，便可以結(jié)合推理的軌跡和操作,，允許模型進行動態(tài)的推理，讓智能體的決策和最終結(jié)果變得更優(yōu),。

若是把ReAct的方法歸結(jié)為讓智能體

“reason to act”

,，那么下一個方法，即

思維樹

,，則重在讓智能體

“reason to plan”

思維樹是把問題表示為在樹結(jié)構(gòu)上的搜索，每個節(jié)點是一個狀態(tài),，代表部分解決方案,，分支對應(yīng)于修改狀態(tài)的操作。

它主要涉及四個問題：

• 思維分解：將復(fù)雜問題分解為一系列中間步驟,，每個步驟都可以看作是樹的一個節(jié)點,。

• 思維生成：利用語言模型生成每個節(jié)點的潛在思維，這些思維是解決問題的中間步驟或策略,。

• 狀態(tài)評估：通過語言模型對每個節(jié)點的狀態(tài)進行評估,，判斷其在解決問題中的進展和潛力。

• 搜索算法：采用不同的搜索算法

  （如廣度優(yōu)先搜索BFS或深度優(yōu)先搜索DFS）

  來探索思維樹,，找到最優(yōu)的解決方案,。

將思維樹應(yīng)用到“24點”游戲中，與此前的思維鏈

（CoT）

相比,，準確率有了明顯提高,。

至于Language Agents中的最后一個關(guān)鍵技術(shù)，即

CoALA

,，則是一種用于組織和設(shè)計語言智能體的概念框架,。

從下面的結(jié)構(gòu)圖來看，它大致分為信息存儲,、行動空間和決策制定三大模塊,。

信息存儲是指語言智能體將信息存儲在多個內(nèi)存模塊中，包括短期工作記憶和長期記憶

（如語義記憶,、情景記憶和程序記憶）

,。

這些內(nèi)存模塊用于存儲不同類型的信息，如感知輸入、知識,、經(jīng)驗等，并在智能體的決策過程中發(fā)揮作用,。

除此之外,，CoALA將智能體的行動空間分為外部行動和內(nèi)部行動；外部行動涉及與外部環(huán)境的交互,，如控制機器人,、與人類交流或在數(shù)字環(huán)境中執(zhí)行操作。

內(nèi)部行動則與智能體的內(nèi)部狀態(tài)和記憶交互,，包括推理,、檢索和學(xué)習(xí)等操作。

最終,，語言智能體會通過決策制定過程選擇要執(zhí)行的行動,；而這個過程也是會根據(jù)各種因素、反饋,，從中找出最優(yōu)解,。

除此之外，還有像開源AI程序員的工作

SWE-agent

等,，也在圈里廣泛傳播,。

但我們從姚順雨眾多的科研課題中，除了Language Agents之外,，還能看到他所追求的另一個關(guān)鍵詞——

計算的思維

,。

而這一點，其實在他念本科的時候便已經(jīng)有所透露,。

在即將奔赴普林斯頓大學(xué)攻讀計算機博士學(xué)位前,，作為2015級學(xué)長，姚順雨曾在清華2019年各類型自主選拔復(fù)試的開營儀式上向復(fù)試考生分享了本人在清華的學(xué)習(xí)成長經(jīng)歷,。

相關(guān)內(nèi)容記錄在他自己寫的名為“你在清華姚班學(xué)到了什么,？姚順雨：足以改變世界”的文章中。

當時他從理論和實踐兩方面重點分享了計算的思維,，并透露覺得四年下來,，

最大的收獲就是計算的思維

：

從理論上我們現(xiàn)在看到很多不可能做到的事情。所謂理論指導(dǎo)實踐,，我覺得更多的是說,，我們得從一個高度理解一個系統(tǒng)的能力極限和事情難易，然后再選擇能做的,、有意義的事情去做,。

和陽光開朗大男孩tag鎖死，姚順雨還分享了因清華南方浸潤計劃項目，前往阿根廷的經(jīng)歷：

我遇到了一群阿根廷的孩子……英語并不是世界通用的,，阿根廷人說西班牙語,。我曾經(jīng)試圖學(xué)西班牙語，但是我放棄了,，因為我學(xué)計算機,，我拿出了谷歌翻譯。我跟他們說北京的故宮和長城……

△來源：清華招生公眾號

在他看來,，這個時代,，計算能和任何學(xué)科相結(jié)合，而世界很大,，在清華可以做你想做的事,。

說完姚順雨，姚班還有哪些人在搞大模型,？

爆火的大模型,，姚班還有誰在搞？

不得不提的有

馬騰宇

和

陳丹琦

,。

倆人當年是同班同學(xué),，清華姚班2008級校友，并且之后都拿了具有“諾獎風向標”之稱的斯隆獎,。

馬騰宇博士就讀于普林斯頓大學(xué),，導(dǎo)師是理論計算機科學(xué)家、兩屆哥德爾獎得主Sanjeev Arora教授,。

博士畢業(yè)后,，MIT、哈佛,、斯坦福等頂尖高校都給了他助理教授的Offer,，馬騰宇最終選擇了斯坦福。

去年年底,，馬騰宇還正式宣布大模型創(chuàng)業(yè)了——創(chuàng)立Voyage AI,，透露將帶隊打造目前最好的嵌入模型，還會提供專注于某個領(lǐng)域或企業(yè)的定制化模型,。

斯坦福人工智能實驗室主任Christopher Manning,、AI領(lǐng)域著名華人學(xué)者李飛飛等三名教授擔任Voyage AI的學(xué)術(shù)顧問。

陳丹琦這邊,，清華姚班完成本科學(xué)業(yè)后,，2018年又在斯坦福大學(xué)拿下博士學(xué)位，主攻NLP,，最終成為普林斯頓大學(xué)計算機科學(xué)系助理教授,、普林斯頓語言與智能項目副主任,，共同領(lǐng)導(dǎo)普林斯頓NLP小組。

其個人主頁顯示,，“這些天主要被開發(fā)大模型吸引”,，正在研究主題包括：

• 檢索如何在下一代模型中發(fā)揮重要作用，提高真實性,、適應(yīng)性,、可解釋性和可信度。

• 大模型的低成本訓(xùn)練和部署,，改進訓(xùn)練方法、數(shù)據(jù)管理,、模型壓縮和下游任務(wù)適應(yīng)優(yōu)化,。

• 還對真正增進對當前大模型功能和局限性理解的工作感興趣，無論在經(jīng)驗上還是理論上,。

陳丹琦團隊的大模型工作,，量子位也有持續(xù)關(guān)注。

比如,，提出的大模型降本大法——數(shù)據(jù)選擇算法LESS,，只篩選出與任務(wù)最相關(guān)5%數(shù)據(jù)來進行指令微調(diào)，效果比用整個數(shù)據(jù)集還要好,。

而指令微調(diào)正是讓基礎(chǔ)模型成為類ChatGPT助手模型的關(guān)鍵一步,。

提出爆火的“羊駝剪毛”大法——LLM-Shearing大模型剪枝法，只用3%的計算量,、5%的成本取得SOTA,，統(tǒng)治了1B-3B規(guī)模的開源大模型。

除了這兩位,，業(yè)界,、學(xué)術(shù)界姚班校友在搞大模型的還有很多。

之前火爆全網(wǎng)的大模型原生應(yīng)用《完蛋,！我被大模型包圍了》及其續(xù)作《我把大模型玩壞了》,，就是由姚班學(xué)霸帶隊開發(fā)的。

游戲作者

范浩強

,，曠視6號員工,。當年以IOI金牌、保送清華姚班,、高二實習(xí)等傳奇事跡被譽為天才少年,。如今他已是曠視科技研究總經(jīng)理，谷歌學(xué)術(shù)h-index 32的行業(yè)大佬,。

馬斯克xAI首個研究成果——Tensor Programs VI,，共同一作中也有姚班校友的身影。

Tensor Programs VI是xAI創(chuàng)始成員、丘成桐弟子楊格

（Greg Yang）

之前Tensor Programs系列工作的延續(xù),，論文重點探討了“如何訓(xùn)練無限深度網(wǎng)絡(luò)”,。

據(jù)說Tensor Programs相關(guān)成果，在GPT-4中已有應(yīng)用,。為解讀論文,，楊格本人當時還專門在X上進行了一場直播分享。

共同一作

Dingli Yu

,，本科畢業(yè)于清華姚班,，目前Dingli Yu也快要在普林斯頓計算機科學(xué)系博士畢業(yè)了。

還有很多很多…………

說回這次姚順雨被挖到OpenAI,，OpenAI這邊的招聘動作還在繼續(xù),。

OpenAI工程師Karina Nguyen發(fā)布最新招聘帖：

OpenAI模型行為團隊招人啦！這是一個集設(shè)計工程與訓(xùn)練后研究于一體的夢想職位,，也是世界上最稀有的工作??

我們使用諸如RLHF/RLAIF等對齊方法定義模型核心行為,，以體現(xiàn)基本價值觀并提升AGI的創(chuàng)造性智能。通過這些成果,，我們與產(chǎn)品+模型設(shè)計及工程團隊共同開創(chuàng)AI界面和交互新模式,，這將影響數(shù)百萬用戶……

有意思的是，Karina Nguyen其實之前是Anthropic AI

（Claude團隊）

研究員,，去年五月還和思維鏈“開山論文”一作,、OpenAI的Jason Wei一同在X

（原Twitter）

上進行提示詞決斗。

沒想到Karina Nguyen這么快就跳槽到了OpenAI……

順便提一嘴,，就在昨天有消息爆料,，谷歌DeepMind研究員Thibault Sottiaux也被挖到了OpenAI。

要知道,，Thibault Sottiaux在Gemini初代和Gemini 1.5等論文中都是核心貢獻者,。

由此可見大模型賽道目前火爆程度，各家搶賽道的搶賽道,，搶人的搶人,。

One More Thing

跟姚順雨同年從清華畢業(yè)的，還有2位姚順yu,！

清華大學(xué)官方在2019年三位姚順yu畢業(yè)時,，發(fā)了一條微博，還曬了三人的合照,。

除了現(xiàn)已加入OpenAI的姚順雨,，還有一個姚順雨是來自

人文學(xué)院

日語專業(yè)的一位女生。

另一位姚順yu是姚順

宇

,，來自

物理系

,，他是2018年本科生特獎得主,，本科期間就以第一作者在物理頂刊PRL

（Physical Review Letters）

上發(fā)表論文兩篇、PRB

（Physical Review B）

一篇,。

OpenAI喜提姚班學(xué)霸姚順雨,！