Anthropic CEO：“強(qiáng)大AI”最早2026年到來(lái),，比諾貝爾獎(jiǎng)獲得者更聰明

就在2024諾貝爾物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)都頒給了AI之際，Anthropic CEO Dario Amodei也發(fā)表一篇展望AGI對(duì)世界影響的長(zhǎng)文,。

這篇文章題為「Machines of Loving Grace」，副標(biāo)題為「AI能如何改變世界,，創(chuàng)造更美好的未來(lái),？」。

他在里面提出：AI將把一個(gè)世紀(jì)的科研進(jìn)展壓縮到了5-10年,。Anthropic CEO：“強(qiáng)大AI”最早2026年到來(lái),，比諾貝爾獎(jiǎng)獲得者更聰明。

擁有強(qiáng)大AI的世界,，會(huì)是什么樣子

作為Anthropic的CEO,，Dario Amodei經(jīng)常會(huì)思考和討論強(qiáng)大AI的風(fēng)險(xiǎn)，并且研究如何降低這些風(fēng)險(xiǎn),。

Amodei表示,，很多人會(huì)因此覺(jué)得自己是個(gè)悲觀主義者，但完全不是這么回事,。

他之所以關(guān)注AI風(fēng)險(xiǎn),，是因?yàn)樗J(rèn)為，這是我們與光明未來(lái)之間的唯一障礙,。

在他看來(lái),，大多數(shù)人低估了AI可能帶來(lái)巨大潛力，同時(shí)也低估了AI風(fēng)險(xiǎn)可能有多糟糕,。

而在這篇長(zhǎng)文中,，Amodei試圖描繪出積極前景的樣貌——如果一切順利，擁有強(qiáng)大AI的世界會(huì)是什么樣,。

他對(duì)此有足夠的自信：即使大多數(shù)細(xì)節(jié)最終是錯(cuò)誤的,，也能把握住未來(lái)發(fā)展的大方向。

為什么要著重討論風(fēng)險(xiǎn)

Amodei也強(qiáng)調(diào),，之所以要著重討論風(fēng)險(xiǎn),，是出于以下原因：

1. 最大化影響力

AI技術(shù)的好處由強(qiáng)大的市場(chǎng)力量驅(qū)動(dòng)，因此不可避免,。而風(fēng)險(xiǎn)雖然并非注定發(fā)生,，人類的行動(dòng)卻可以極大改變它們出現(xiàn)的可能性。

2. 避免給人宣傳的印象

不要讓人覺(jué)得自己在做宣傳,，或者轉(zhuǎn)移人們對(duì)AI缺點(diǎn)的注意力,。

3. 避免自吹自擂

Amodei對(duì)很多圈內(nèi)公眾人物討論AGI的方式感到反感,，仿佛他們是引領(lǐng)眾生走向救贖的先知一樣。

「把公司看作是能夠單方面塑造世界的力量是很危險(xiǎn)的,，同樣,，用類似宗教的方式來(lái)看待實(shí)際的技術(shù)目標(biāo)也是相當(dāng)危險(xiǎn)的?！?/p>

4. 避免貼上科幻的標(biāo)簽

有些激進(jìn)群體會(huì)以過(guò)于「科幻」的腔調(diào)討論AI,，比如意識(shí)上傳、探索太空,、賽博朋克,。這種腔調(diào)不知不覺(jué)中帶來(lái)了一大堆文化偏見(jiàn)，以及一些無(wú)法明確的假設(shè),。

結(jié)果就是,，這些討論常常看起來(lái)像是某個(gè)小眾群體的一廂情愿,，反而讓大多數(shù)人望而卻步,。

但Amodei也認(rèn)為，討論一個(gè)擁有先進(jìn)AI的美好世界是什么樣子,，十分重要,。

以下是他認(rèn)為最具前景的五個(gè)類別：

1. 生命科學(xué)與生理健康

2. 神經(jīng)科學(xué)與心理健康

3. 經(jīng)濟(jì)與貧困

4. 和平與治理

5. 工作與意義

Amodei在生物學(xué)和神經(jīng)科學(xué)兩個(gè)領(lǐng)域都有專業(yè)經(jīng)驗(yàn)，對(duì)經(jīng)濟(jì)發(fā)展也有一定了解,。通常,，他的預(yù)測(cè)都是相當(dāng)前衛(wèi)的。

Amodei認(rèn)為,，如果能召集一群各領(lǐng)域?qū)＜覄?chuàng)作一個(gè)更全面,、更有洞察力的版本，會(huì)很有價(jià)值,。

而自己的嘗試,，可以被視為一個(gè)起點(diǎn)。

基本假設(shè)與分析框架

Amodei界定了先進(jìn)AI的含義：觸發(fā)5-10年發(fā)展期的技術(shù)閾值,。

他不喜歡使用AGI這個(gè)術(shù)語(yǔ),，因此使用「強(qiáng)大的AI」（powerful AI）這個(gè)說(shuō)法。

Amodei認(rèn)為,，強(qiáng)大的AI最早可能在2026年問(wèn)世,。

通用人工智能（AGI）是一個(gè)不夠精確的術(shù)語(yǔ)，它已經(jīng)積累了太多科幻元素和過(guò)度炒作,。相比之下,，我更喜歡用「強(qiáng)大的人工智能」或「專家級(jí)科學(xué)和工程」這樣的說(shuō)法

所謂「強(qiáng)大的AI」是指一個(gè)AI模型在形式上可能類似于當(dāng)今的大語(yǔ)言模型，盡管它可能基于不同的架構(gòu)，可能涉及多個(gè)交互模型,，并可能采用不同的訓(xùn)練方法,。

具體來(lái)說(shuō)，它將具有以下特性——

- 就單純的智力水平而言,，它在大多數(shù)相關(guān)領(lǐng)域——如生物學(xué),、編程、數(shù)學(xué),、工程,、寫(xiě)作等方面都超越了諾貝爾獎(jiǎng)級(jí)別的獲得者。這意味著它能夠證明尚未解決的數(shù)學(xué)定理,，創(chuàng)作出極高水平的小說(shuō),，從零開(kāi)始編寫(xiě)復(fù)雜的代碼庫(kù)。

- 具備了所有可供人類進(jìn)行虛擬工作的交互方式,，包括文本、音頻,、視頻,、鼠標(biāo)和鍵盤(pán)控制以及互聯(lián)網(wǎng)訪問(wèn)。它可以利用這些交互方式進(jìn)行任何行動(dòng),、通信或遠(yuǎn)程操作,。執(zhí)行時(shí)的技能，也都超越了世界上最頂尖的人類專家,。

- 它不僅被動(dòng)地回答問(wèn)題,，還可以接受需要數(shù)小時(shí)、數(shù)天甚至數(shù)周才能完成的任務(wù),，然后像一個(gè)聰明的員工一樣獨(dú)立完成任務(wù),，必要時(shí)會(huì)主動(dòng)尋求澄清。

- 它沒(méi)有實(shí)體形態(tài),，但可以通過(guò)計(jì)算機(jī)控制現(xiàn)有的物理工具,、機(jī)器人或?qū)嶒?yàn)室設(shè)備；理論上,，它甚至可以為自己設(shè)計(jì),、使用機(jī)器人或設(shè)備。

- 用于訓(xùn)練模型的計(jì)算資源可以重新配置,，以運(yùn)行數(shù)百萬(wàn)個(gè)模型實(shí)例（這與預(yù)計(jì)到2027年左右的大規(guī)模計(jì)算集群能力相匹配）,。該模型能以人類速度的10到100倍來(lái)吸收信息和生成行動(dòng)。然而,，它可能會(huì)受到所交互的物理世界或軟件響應(yīng)時(shí)間的限制,。

- 這數(shù)百萬(wàn)個(gè)副本中的每一個(gè)，都可以獨(dú)立地執(zhí)行不相關(guān)的任務(wù)，或者在需要時(shí)像人類團(tuán)隊(duì)協(xié)作一樣工作,。甚至可以對(duì)不同的分組進(jìn)行微調(diào),，使其特別擅長(zhǎng)某些特定任務(wù)。

我們可以將其概括為「數(shù)據(jù)中心里的天才國(guó)家」,。

顯然,，這樣一個(gè)實(shí)體能夠非常快速地解決極難的問(wèn)題,，但要確定具體有多快并非易事,。

Amodei認(rèn)為，兩種「極端」立場(chǎng)都是錯(cuò)誤的,。

首先,，你可能會(huì)認(rèn)為世界會(huì)在幾秒或幾天內(nèi)瞬間改變（所謂「奇點(diǎn)」），因?yàn)閺?qiáng)大的智能會(huì)不斷自我完善,，幾乎立即解決所有可能的科學(xué),、工程和操作任務(wù)。

這種觀點(diǎn)的問(wèn)題在于,，存在真實(shí)的物理和實(shí)際限制,，例如在構(gòu)建硬件或生物實(shí)驗(yàn)上。智能可能非常強(qiáng)大,，但它并不是神奇魔法,。

其次，如果你認(rèn)為技術(shù)進(jìn)步已經(jīng)飽和,，或者受到現(xiàn)實(shí)世界數(shù)據(jù)或社會(huì)因素的限制,，超人類智能幾乎不會(huì)帶來(lái)任何改變，這也同樣不可信,。

在數(shù)百個(gè)科學(xué)和社會(huì)問(wèn)題上,，一群真正聰明的人會(huì)大大加快進(jìn)展（假設(shè)的天才國(guó)家就能做到）。

Amodei看來(lái),，真相可能是這兩種極端情況的混合,，因任務(wù)和領(lǐng)域而異，細(xì)節(jié)非常微妙,。

他認(rèn)為,，就像經(jīng)濟(jì)學(xué)家經(jīng)常討論「生產(chǎn)要素」，在AI時(shí)代,，我們也應(yīng)該討論智能的邊際回報(bào),，弄清與智能互補(bǔ)的其他因素，以及智能水平很高時(shí),，哪些因素會(huì)成為限制因素,。

「在這項(xiàng)任務(wù)中，更聰明能帶來(lái)多大幫助，在什么時(shí)間尺度上,？」這是概念化一個(gè)強(qiáng)大AI世界的正確方式,。

Amodei猜測(cè)，限制智能或與智能互補(bǔ)的因素包括：

- 外部世界的速度

智能體需要在世界中互動(dòng)操作才能完成任務(wù)并學(xué)習(xí),。但世界的運(yùn)轉(zhuǎn)速度是有限的,。

細(xì)胞和動(dòng)物以固定速度運(yùn)行，因此對(duì)它們的實(shí)驗(yàn)需要一定的時(shí)間,，可能不可縮減的,。硬件、材料科學(xué),、任何涉及與人交流的事物,，甚至現(xiàn)有的軟件基礎(chǔ)設(shè)施也是如此。

此外,，在科學(xué)領(lǐng)域,，通常需要進(jìn)行多次連續(xù)實(shí)驗(yàn)，每次實(shí)驗(yàn)都從前一次實(shí)驗(yàn)中學(xué)習(xí)或在其基礎(chǔ)上進(jìn)行,。

所有這些意味著,，完成一個(gè)重大項(xiàng)目——例如開(kāi)發(fā)癌癥治療方法——的速度可能有一個(gè)不可縮減的最小值，即使智能繼續(xù)提高,，這個(gè)最小值也無(wú)法進(jìn)一步縮短。

- 對(duì)數(shù)據(jù)的需求

在缺乏原始數(shù)據(jù)的情況下,，即使智能更高也無(wú)濟(jì)于事,。當(dāng)今的粒子物理學(xué)家非常聰明，已經(jīng)開(kāi)發(fā)了一系列理論,，但由于粒子加速器數(shù)據(jù)有限,，他們?nèi)狈x擇這些理論的數(shù)據(jù)。

如果擁有強(qiáng)大的智能,，他們是否會(huì)做得更好,？（除了加快更大加速器的建造速度）

- 內(nèi)在復(fù)雜性

有些事物本質(zhì)上是不可預(yù)測(cè)或混沌的，即使是最強(qiáng)大的AI,，也無(wú)法比今天的人類或計(jì)算機(jī)更好地預(yù)測(cè)或理清它們,。

例如，即使非常強(qiáng)大的AI,，在一般情況下也只能比今天的人類和計(jì)算機(jī)在混沌系統(tǒng)（如三體問(wèn)題）中稍微多預(yù)測(cè)一點(diǎn)點(diǎn),。

- 來(lái)自人類的約束

許多事情如果不違法、不傷害人類或不擾亂社會(huì)就無(wú)法完成,。一個(gè)對(duì)齊的AI不會(huì)想做這些事情,。

許多人類社會(huì)結(jié)構(gòu)是低效甚至有害的，但如果要同時(shí)尊重臨床試驗(yàn)的法律要求、人們改變習(xí)慣的意愿或政府行為等約束,，就很難改變這些結(jié)構(gòu),。

核能、超音速飛行,，甚至電梯,，都在技術(shù)上運(yùn)作良好，但影響被法規(guī)或錯(cuò)誤的恐懼大大減弱,。

- 物理定律

有些物理定律似乎是不可打破的,。不可能以超光速旅行。布丁無(wú)法恢復(fù)到未攪拌狀態(tài),。

芯片每平方厘米只能容納這么多晶體管,，否則就會(huì)不可靠。計(jì)算需要每擦除一位所需的最小能量,，這限制了世界上計(jì)算的密度,。

進(jìn)一步的區(qū)別，是基于時(shí)間尺度,。

短期內(nèi)的嚴(yán)格限制,，在長(zhǎng)期內(nèi)可能更容易被智能改變。

例如,，智能可能被用來(lái)開(kāi)發(fā)新的實(shí)驗(yàn)范式,，使我們能夠在體外獲得以前只能通過(guò)活體動(dòng)物實(shí)驗(yàn)獲得的知識(shí)，或者用來(lái)建造收集新數(shù)據(jù)所需的工具（例如更大的粒子加速器）,，或者（在倫理限度內(nèi)）找到突破人為限制的方法,。

因此，我們可以設(shè)想這樣一個(gè)場(chǎng)景：智能最初受到其他生產(chǎn)要素的嚴(yán)重制約,，但隨著時(shí)間的推移,，智能本身越來(lái)越多地繞過(guò)這些要素，即使它們永遠(yuǎn)不會(huì)完全消失,。

關(guān)鍵問(wèn)題是這一切發(fā)生的速度有多快,，以及按什么順序發(fā)生。

生命科學(xué)與生理健康

在科學(xué)進(jìn)步的諸多領(lǐng)域中,，生物學(xué)可能是最有潛力直接且明確改善人類生活質(zhì)量的領(lǐng)域,。

在過(guò)去的一個(gè)世紀(jì)里，一些最古老的人類疾?。ㄈ缣旎ǎ┙K被戰(zhàn)勝,，但還有更多疾病仍然存在。

除了治愈疾病,，生命科學(xué)原則上可以通過(guò)延長(zhǎng)健康的人類壽命,、增加對(duì)我們自身生物過(guò)程的控制和自由度,。

并且，它能解決我們目前認(rèn)為是人類生存條件不可改變的日常問(wèn)題,，來(lái)提升人類健康的基本水平,。

直接將智能應(yīng)用于生物學(xué)的主要挑戰(zhàn)是——數(shù)據(jù)、物理世界的速度和內(nèi)在復(fù)雜性（事實(shí)上,，這三者都是相互關(guān)聯(lián)的）,。

在涉及臨床試驗(yàn)的后期階段，人類約束也在發(fā)揮作用,。

接下來(lái),，讓我們逐一分析這些因素。

對(duì)細(xì)胞,、動(dòng)物甚至化學(xué)過(guò)程的實(shí)驗(yàn),，均受到物理世界速度的限制：

許多生物學(xué)實(shí)驗(yàn)方案涉及培養(yǎng)細(xì)菌或其他細(xì)胞，或者僅僅是等待化學(xué)反應(yīng)發(fā)生,，這有時(shí)可能需要幾天甚至幾周的時(shí)間,，而且沒(méi)有明顯的方法可以加快速度。

更別提動(dòng)物實(shí)驗(yàn),，可能需要幾個(gè)月（或更長(zhǎng)時(shí)間）,，人類實(shí)驗(yàn)通常需要幾年（對(duì)于長(zhǎng)期結(jié)果研究甚至可能需要幾十年）。

與此相關(guān)的是,，數(shù)據(jù)質(zhì)量往往存在問(wèn)題：總是缺乏清晰,、明確的數(shù)據(jù)。

這些數(shù)據(jù)能夠?qū)⒏信d趣的生物效應(yīng),，與其他成千上萬(wàn)個(gè)干擾因素隔離開(kāi)來(lái),，或者能在給定過(guò)程中進(jìn)行因果干預(yù)，或者直接測(cè)量某些效應(yīng)（而不是以某種間接或不精確的方式推斷其后果）,。

即使是大規(guī)模的,、定量的分子數(shù)據(jù),，也存在噪聲并且遺漏了很多信息,。

比如這些蛋白質(zhì)在哪些類型的細(xì)胞中？在細(xì)胞的哪個(gè)部分,？在細(xì)胞周期的哪個(gè)階段,？

造成這些數(shù)據(jù)問(wèn)題的部分原因是，生物系統(tǒng)的內(nèi)在復(fù)雜性,。

一張人類新陳代謝生物化學(xué)圖表中,，若想分離出復(fù)雜系統(tǒng)的任何部分影響非常困難，更不用說(shuō)以精確,、可預(yù)測(cè)方式干預(yù)這一系統(tǒng),。

此外,，除了在人體上進(jìn)行實(shí)驗(yàn)所需的固有時(shí)間外，實(shí)際的臨床試驗(yàn)還涉及大量程序和監(jiān)管要求,。

鑒于這些困難,，許多生物學(xué)家長(zhǎng)期以來(lái)一直對(duì)AI和更廣泛的「大數(shù)據(jù)」在生物學(xué)中的價(jià)值持懷疑態(tài)度。

從歷史上看,，在過(guò)去30年里,，將自己的技能應(yīng)用于生物學(xué)的數(shù)學(xué)家、計(jì)算機(jī)科學(xué)家和物理學(xué)家取得了巨大的成功,，但并沒(méi)有產(chǎn)生最初期望的那種真正變革性的影響,。

AlphaFold（背后創(chuàng)造者因此獲得諾貝爾獎(jiǎng)）和AlphaProteo等，這樣的重大革命性突破,，減弱了一些懷疑,。

但仍存在一種看法，認(rèn)為AI只在有限的情況下有用（并將繼續(xù)如此）,。

一個(gè)常見(jiàn)的說(shuō)法是,，「AI可以更好地分析你的數(shù)據(jù)，但它不能產(chǎn)生更多的數(shù)據(jù)或改善數(shù)據(jù)的質(zhì)量,。Garbage in, garbage out」,。

Amodei認(rèn)為，這種悲觀的觀點(diǎn)是以錯(cuò)誤的方式看待AI,。

我們應(yīng)該將其視為一個(gè)AI生物學(xué)家,，能夠執(zhí)行生物學(xué)家所做的所有任務(wù)。

包括現(xiàn)實(shí)世界中,，設(shè)計(jì)和進(jìn)行實(shí)驗(yàn),， 并發(fā)明新的生物學(xué)方法或測(cè)量技術(shù)等。

正是通過(guò)加速整個(gè)研究過(guò)程,，AI才能真正推動(dòng)生物學(xué)的快速發(fā)展,。

更確切地說(shuō)，生物學(xué)進(jìn)步很大一部分來(lái)自真正極少數(shù)的發(fā)現(xiàn),。

而這發(fā)現(xiàn)通常與廣泛的測(cè)量工具或技術(shù)有關(guān),，它們?cè)试S對(duì)生物系統(tǒng)進(jìn)行精確但通用或可編程的干預(yù)。

每年可能大約有1項(xiàng)這樣的重大發(fā)現(xiàn),，但它們共同推動(dòng)了生物學(xué)超過(guò)50%的進(jìn)展,。

這些發(fā)現(xiàn)之所以如此強(qiáng)大，正是因?yàn)樗鼈兺黄屏藘?nèi)在復(fù)雜性和數(shù)據(jù)限制,，直接增加了我們對(duì)生物過(guò)程的理解和控制能力,。

每十年僅僅誕生幾個(gè)關(guān)鍵發(fā)現(xiàn)，就能推動(dòng)了我們對(duì)生物學(xué)的基本科學(xué)理解,，還推動(dòng)了許多最強(qiáng)大的醫(yī)療治療方法的發(fā)展,。

這里有一些例子：

- CRISPR：一種允許對(duì)生物中的任何基因進(jìn)行實(shí)時(shí)編輯的技術(shù)（用任意其他序列替換任意基因序列）,。

- 各種用于精確觀察正在發(fā)生的事情的顯微鏡技術(shù)：先進(jìn)的光學(xué)顯微鏡（包括各種熒光技術(shù)、特殊光學(xué)等）,、電子顯微鏡,、原子力顯微鏡等。

- 基因組測(cè)序和合成,，在過(guò)去幾十年里,。成本已經(jīng)下降了幾個(gè)數(shù)量級(jí)。

- 光遺傳學(xué),，允許通過(guò)照射光線激發(fā)神經(jīng)元,。

- mRNA疫苗，原則上允許我們?cè)O(shè)計(jì)針對(duì)任何東西的疫苗,，然后快速適應(yīng),。

- 細(xì)胞療法，如CAR-T,，允許將免疫細(xì)胞從體內(nèi)取出并「重新編程」,，以攻擊任何東西。

- 理論突破,，如疾病的病原體理論或認(rèn)識(shí)到免疫系統(tǒng)與癌癥之間的聯(lián)系,。

以上列舉的這些所有技術(shù)，是因?yàn)樗胩岢鲆粋€(gè)關(guān)鍵的主張——

如果有更多有才華,、創(chuàng)造力的研究人員,，這些技術(shù)的發(fā)現(xiàn)速度可能會(huì)提高10倍或更多。

為什么Amodei這么認(rèn)為,？

因?yàn)楫?dāng)我們?cè)噲D確定「智力回報(bào)」時(shí),，應(yīng)該養(yǎng)成提出某些問(wèn)題的習(xí)慣，而這些問(wèn)題的答案就是原因,。

首先,，這些發(fā)現(xiàn)通常是由極少數(shù)研究人員做出的，往往是同一批人反復(fù)做出,，這表明是技能而非隨機(jī)搜索（后者可能表明冗長(zhǎng)的實(shí)驗(yàn)是限制因素）,。

其次，它們往往「本可以」比實(shí)際早幾年被發(fā)現(xiàn)：例如,，CRISPR是細(xì)菌免疫系統(tǒng)中自然存在的一個(gè)組成部分,，自80年代就已為人所知,，但人們花了25年才意識(shí)到它可以被重新用于一般的基因編輯,。

第三，成功的項(xiàng)目往往是小規(guī)模的,，或最初人們認(rèn)為不太有前途的后續(xù)想法,，而不是大規(guī)模資金支持的努力,。這表明推動(dòng)發(fā)現(xiàn)的不僅僅是大規(guī)模的資源集中，而是創(chuàng)新能力,。

最后,，盡管這些發(fā)現(xiàn)中有一些具有「順序依賴性」，這再次可能造成實(shí)驗(yàn)延遲,。不過(guò),，許多也許是大多數(shù)，都是獨(dú)立的,，意味著可以同時(shí)并行進(jìn)行多項(xiàng)工作,。

這些事實(shí)都在表明，如果科學(xué)家更聰明,，更善于在人類擁有的大量生物學(xué)知識(shí)之間建立聯(lián)系,，就有數(shù)百個(gè)這樣的發(fā)現(xiàn)等待被做出。

AlphaFold/AlphaProteo在解決重要問(wèn)題方面比人類更有效取得成功,。

盡管經(jīng)過(guò)了數(shù)十年精心設(shè)計(jì)的物理建模,，為我們提供了一個(gè)概念驗(yàn)證（盡管是在狹窄領(lǐng)域使用一個(gè)狹窄工具），應(yīng)該為我們指明前進(jìn)的方向,。

因此,，Amodei猜測(cè)強(qiáng)大的AI至少可以將這些發(fā)現(xiàn)的速度提高10倍，讓我們?cè)?-10年內(nèi)獲得未來(lái)50-100年的生物學(xué)進(jìn)展,。

為什么不是100倍,？

也許這是可能的，但在這里,，順序依賴性和實(shí)驗(yàn)時(shí)間都變得重要,。

另一種說(shuō)法是,，Amodei認(rèn)為存在一個(gè)不可避免的恒定延遲：實(shí)驗(yàn)和硬件設(shè)計(jì)有一定的「延遲」，需要進(jìn)行最少次數(shù)的迭代,，以學(xué)習(xí)那些無(wú)法通過(guò)邏輯推導(dǎo)出的東西。

但在此基礎(chǔ)上,，可能實(shí)現(xiàn)大規(guī)模并行,。

從更積極的角度來(lái)看，AI加持的生物科學(xué)可能會(huì)通過(guò)開(kāi)發(fā)更好的細(xì)胞實(shí)驗(yàn)?zāi)Ｐ停ㄉ踔潦悄M）,，減少臨床試驗(yàn)中迭代的需求,。

這在開(kāi)發(fā)抗衰老過(guò)程的藥物方面尤其重要，因?yàn)樗ダ线^(guò)程持續(xù)數(shù)十年,，我們需要更快的迭代循環(huán),。

綜上所述，Amodei的基本預(yù)測(cè)是,，AI生物學(xué)和醫(yī)學(xué)將使人類生物學(xué)家在未來(lái)50-100年內(nèi)可能取得的進(jìn)展,，壓縮到5-10年內(nèi)完成,。

Amodei將這稱為「壓縮的21世紀(jì)」。

盡管預(yù)測(cè)強(qiáng)大的AI在幾年內(nèi)能做什么,，本質(zhì)上仍然困難且具有推測(cè)性,，但思考「人類在未來(lái)100年內(nèi)獨(dú)立能做什么？」,，這個(gè)問(wèn)題卻有一定的現(xiàn)實(shí)基礎(chǔ),。

以下列出了我們可能期待的內(nèi)容：

（這并非基于任何嚴(yán)格的方法論，幾乎肯定會(huì)在細(xì)節(jié)上被證明是錯(cuò)誤的,，但它試圖傳達(dá)我們應(yīng)該期待的總體變革程度）

- 可靠地預(yù)防和治療幾乎所有自然傳染病

- 消除大多數(shù)癌癥

- 對(duì)遺傳疾病有效預(yù)防和治療

- 預(yù)防阿爾茲海默癥

- 改善對(duì)大多數(shù)疾病治療

- 「生物自由」

- 人類壽命翻倍

一旦人類壽命達(dá)到150歲,，我們可能就能達(dá)到「逃逸速度」（指延長(zhǎng)壽命的速度超過(guò)衰老的速度），為目前活著的大多數(shù)人爭(zhēng)取足夠的時(shí)間,，使他們能夠想活多久就活多久,，盡管當(dāng)然不能保證這在生物學(xué)上是可能的。

如果所有這些在7-12年內(nèi)實(shí)現(xiàn)（這將符合激進(jìn)的人工智能發(fā)展進(jìn)程）,，世界將會(huì)有多么不同,。

毫無(wú)疑問(wèn)，這將是人類的一次巨大勝利,，一次性消除了困擾人類數(shù)千年的大多數(shù)災(zāi)難,。

神經(jīng)科學(xué)與心理健康

上一節(jié)主要關(guān)注的是身體疾病和生物學(xué)，沒(méi)有涉及神經(jīng)科學(xué)或心理健康,。

但是,，神經(jīng)科學(xué)是生物學(xué)的一個(gè)分支學(xué)科，心理健康與身體健康同樣重要,。事實(shí)上,，心理健康對(duì)人類福祉的影響甚至比身體健康更直接。

數(shù)億人由于成癮,、抑郁,、精神分裂癥、低功能自閉癥,、創(chuàng)傷后應(yīng)激障礙,、精神病態(tài)或智力障礙等問(wèn)題而生活質(zhì)量極低；更多的數(shù)十億人正在與更輕微的日常問(wèn)題作斗爭(zhēng),。

與一般的生物學(xué)領(lǐng)域一樣,，在AI的發(fā)展下，我們可能不僅能解決問(wèn)題,，還能提高人類生活體驗(yàn)的基本水平,。

Amodei在以上為生物學(xué)制定的基本框架同樣適用于神經(jīng)科學(xué)，也就是說(shuō)，這個(gè)領(lǐng)域同樣是被少數(shù)的與測(cè)量或精準(zhǔn)干預(yù)工具有關(guān)的發(fā)現(xiàn)而推動(dòng)的,，比如最近的光遺傳學(xué)、CLARITY,、膨脹顯微鏡等等,。

此外，許多通用的細(xì)胞生物學(xué)方法也可以直接應(yīng)用于神經(jīng)科學(xué),，這些進(jìn)展的速度同樣會(huì)被人工智能加速,。

出于同樣的原因，「未來(lái)5-10年內(nèi)完成100年的進(jìn)展」,，也同樣適用于神經(jīng)科學(xué),。

與生物學(xué)一樣，20世紀(jì)以來(lái),，神經(jīng)科學(xué)的進(jìn)展也是飛快且巨大的,。

例如，已經(jīng)實(shí)現(xiàn)腦機(jī)接口的我們,，事實(shí)上直到20世紀(jì)50年代才真正理解神經(jīng)元如何以及為什么會(huì)放電,。

因此，我們有理由期待,，人工智能加速的神經(jīng)科學(xué)將在幾年內(nèi)產(chǎn)生快速進(jìn)展,。

我們應(yīng)該在這個(gè)基本圖景中添加一點(diǎn)，那就是過(guò)去幾年中學(xué)到的,，或正在學(xué)習(xí)到的,，一些關(guān)于人工智能本身的知識(shí)，可能會(huì)幫助推進(jìn)神經(jīng)科學(xué),，即使神經(jīng)科學(xué)研究仍然只由人類來(lái)進(jìn)行,。

首先，「可解釋性」是一個(gè)明顯的例子,。

盡管表面上,，生物神經(jīng)元和人工神經(jīng)元以完全不同的方式運(yùn)作，但「簡(jiǎn)單單元組成的的分布式,、訓(xùn)練過(guò)的網(wǎng)絡(luò)如何協(xié)同工作以執(zhí)行重要計(jì)算」,，這個(gè)基本問(wèn)題是相同的。

舉例來(lái)說(shuō),，AI系統(tǒng)可解釋性研究人員發(fā)現(xiàn)的一種計(jì)算機(jī)制,，最近在小鼠大腦中被重新發(fā)現(xiàn)。

論文地址：https://www.biorxiv.org/content/10.1101/2023.03.15.532836v1

相比真實(shí)神經(jīng)網(wǎng)絡(luò),，對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行實(shí)驗(yàn)要容易得多,，因此AI可解釋性很可能成為提高我們對(duì)神經(jīng)科學(xué)理解的工具。

此外，強(qiáng)大的人工智能本身可能比人類更能開(kāi)發(fā)和應(yīng)用這個(gè)工具,。

除了可解釋性之外,，我們從AI那里學(xué)到的關(guān)于智能系統(tǒng)如何訓(xùn)練的知識(shí)，很可能在神經(jīng)科學(xué)領(lǐng)域引發(fā)一場(chǎng)革命,。

Amodei本人在從事神經(jīng)科學(xué)研究時(shí)發(fā)現(xiàn),，曾經(jīng)很多人關(guān)注的關(guān)于「學(xué)習(xí)」的問(wèn)題，現(xiàn)在看來(lái)是錯(cuò)誤的,，因?yàn)槟菚r(shí)還沒(méi)有「擴(kuò)展假說(shuō)」（scaling hypothesis）,，或Rich Sutton提出的「the bitter lesson」這樣的概念。

大量數(shù)據(jù)加上簡(jiǎn)單的目標(biāo)函數(shù)就可以驅(qū)動(dòng)極其復(fù)雜行為,，這個(gè)想法使得理解目標(biāo)函數(shù)和架構(gòu)偏差（architectural biases）變得更有意思,，同時(shí)也讓「涌現(xiàn)」過(guò)程的復(fù)雜計(jì)算細(xì)節(jié)（emergent computation）變得不那么有趣。

Amodei表示,，近年來(lái)自己并沒(méi)有密切關(guān)注這個(gè)領(lǐng)域,，但能隱約感覺(jué)到，計(jì)算神經(jīng)科學(xué)家們?nèi)匀粵](méi)有完全吸收這個(gè)教訓(xùn),。

他自己對(duì)擴(kuò)展假說(shuō)的態(tài)度一直：「啊哈,，原來(lái)如此——這在高層次上解釋了智能是如何運(yùn)作的，以及為什么能如此容易地進(jìn)化,?！?/p>

然而，這似乎并不是大多數(shù)神經(jīng)科學(xué)家的觀點(diǎn),。部分原因是擴(kuò)展假說(shuō)作為「智能的秘密」,，甚至在AI領(lǐng)域內(nèi)也沒(méi)有被完全接受。

神經(jīng)科學(xué)家應(yīng)該嘗試將這一基本洞見(jiàn)與人腦的特點(diǎn)（生物物理限制,、進(jìn)化歷史,、拓?fù)浣Y(jié)構(gòu)、運(yùn)動(dòng)和感覺(jué)輸入/輸出的細(xì)節(jié)）結(jié)合起來(lái),，以試圖解決神經(jīng)科學(xué)的一些關(guān)鍵難題,。

有些人可能正在這樣做，但還不夠,；除了人類科學(xué)家,，AI也將更有效地利用這個(gè)視角來(lái)加速進(jìn)展。

AI的四條加速路徑

Amodei預(yù)計(jì),，AI將通過(guò)四條不同的路徑加速神經(jīng)科學(xué)進(jìn)展,，希望這些路徑能夠共同作用，以治愈精神疾病并改善大腦功能：

- 傳統(tǒng)的分子生物學(xué),、化學(xué)和遺傳學(xué)

AI可能通過(guò)相同的機(jī)制加速這一進(jìn)程,。有許多藥物可以調(diào)節(jié)神經(jīng)遞質(zhì),，以改變大腦功能、影響警覺(jué)性或感知,、改變情緒等,，而AI可以幫助我們發(fā)明更多這樣的藥物。AI可能還會(huì)加速對(duì)精神疾病遺傳基礎(chǔ)的研究,。

- 精細(xì)神經(jīng)測(cè)量和干預(yù)

這是能夠測(cè)量大量單個(gè)神經(jīng)元或神經(jīng)元回路的活動(dòng),，并進(jìn)行干預(yù)以改變它們行為的能力。光遺傳學(xué)和神經(jīng)探針是能夠在活體生物中進(jìn)行測(cè)量和干預(yù)的技術(shù),，一些非常先進(jìn)的方法（如分子計(jì)時(shí)器）也已被提出,，并且在原則上似乎可行,。

- 先進(jìn)的計(jì)算神經(jīng)科學(xué)

如上所述,，現(xiàn)代AI的具體見(jiàn)解和整體思路都可能應(yīng)用于系統(tǒng)神經(jīng)科學(xué)的問(wèn)題，包括揭示精神病或情緒障礙等復(fù)雜精神疾病的真正原因,。

- 行為干預(yù)

精神病學(xué)和心理學(xué)在20世紀(jì)已經(jīng)發(fā)展出了廣泛的行為干預(yù)技術(shù),；可以推斷，AI也可以加速這些技術(shù)的發(fā)展,，包括開(kāi)發(fā)新方法和幫助患者堅(jiān)持現(xiàn)有方法,。

更廣泛地說(shuō)，「AI教練」的概念似乎非常有前景,，它可以幫助你成為最好的自己,，研究你的互動(dòng)，幫助你學(xué)會(huì)更有效地行事,。

AI+神經(jīng)科學(xué)的「烏托邦」未來(lái)

Amodei認(rèn)為,，這四條進(jìn)展路徑會(huì)共同作用。即使沒(méi)有AI的參與,，也有望在未來(lái)100年內(nèi)實(shí)現(xiàn)大多數(shù)精神疾病的治愈或預(yù)防——因此,，在AI加速的5-10年內(nèi)可能會(huì)完成。

具體來(lái)說(shuō),，他猜測(cè)可能會(huì)發(fā)生以下情況：

- 大多數(shù)精神疾病可能可以被治愈

像PTSD,、抑郁癥、精神分裂癥,、成癮等疾病可以通過(guò)上述四個(gè)方向的某種組合得到解釋和有效治療,。

答案可能是「生化上出了問(wèn)題」和「神經(jīng)網(wǎng)絡(luò)在高層次上出了問(wèn)題」的某種組合。

也就是說(shuō),，這是一個(gè)系統(tǒng)神經(jīng)科學(xué)的問(wèn)題,。測(cè)量和干預(yù)的工具，尤其是在活體人類中使用的工具,，似乎可能導(dǎo)致快速迭代和進(jìn)展,。

- 非常「結(jié)構(gòu)性」的情況可能更難處理，但并非不可能

一些證據(jù)表明,，反社會(huì)人格障礙與明顯的神經(jīng)解剖學(xué)差異有關(guān)——該類患者的某些腦區(qū)域可能只是更小或發(fā)育不良,。某些智力障礙可能也是如此。

重構(gòu)大腦聽(tīng)起來(lái)很困難,，但這似乎也是一項(xiàng)對(duì)智力回報(bào)很高的任務(wù),。也許有某種方法可以誘導(dǎo)成年大腦回到早期或更具可塑性的狀態(tài)，從而重塑它,。

Amodei的直覺(jué)是,，對(duì)AI對(duì)此的作用持樂(lè)觀態(tài)度。

- 有效地通過(guò)基因預(yù)防精神疾病似乎是可能的

大多數(shù)精神疾病部分是可遺傳的,，全基因組關(guān)聯(lián)研究（GWAS）開(kāi)始在識(shí)別相關(guān)因素方面取得進(jìn)展,，這些因素通常數(shù)量眾多。

可能可以通過(guò)胚胎篩選預(yù)防大多數(shù)這些疾病,。一個(gè)區(qū)別是,，精神疾病更可能是多基因的。

無(wú)論如何,，AI加速的神經(jīng)科學(xué)或許會(huì)幫我們弄清這些事情,。

當(dāng)然，對(duì)復(fù)雜特征進(jìn)行胚胎篩選會(huì)引發(fā)一些社會(huì)問(wèn)題,，并且會(huì)有爭(zhēng)議,，但Amodei猜測(cè)大多數(shù)人會(huì)支持對(duì)嚴(yán)重或致殘的精神疾病進(jìn)行篩選。

- 不被認(rèn)為是臨床疾病的日常問(wèn)題也能解決

大多數(shù)人都有一些日常心理問(wèn)題,，達(dá)不到臨床疾病的程度,。有些人容易發(fā)怒，有些人難以集中注意力或經(jīng)?；杌栌?，有些人膽小或焦慮，或適應(yīng)不了變化反應(yīng),。

已經(jīng)存在一些藥物可以幫助提高警覺(jué)性或注意力,，但還有可能性?？赡苓€存在許多藥物尚未被發(fā)現(xiàn),，或者可能有創(chuàng)新的干預(yù)方式,，如靶向光刺激或磁場(chǎng),。

考慮到人類在20世紀(jì)開(kāi)發(fā)了多少調(diào)節(jié)認(rèn)知功能和情緒狀態(tài)的藥物，Amodei對(duì)「壓縮的21世紀(jì)」非常樂(lè)觀,，屆時(shí)每個(gè)人都可以讓自己的大腦表現(xiàn)更好,，擁有更充實(shí)的日常體驗(yàn),。

- 人類的日常體驗(yàn)可以變得更加豐富多彩

許多人都曾有過(guò)頓悟、靈感迸發(fā),、充滿同情,、獲得成就感、超越自我,、感受愛(ài)與美,，或是達(dá)到冥想般平靜的非凡經(jīng)歷。

這些體驗(yàn)的性質(zhì)和頻率在不同人之間以及同一個(gè)人在不同時(shí)間有很大差異,，有時(shí)也可以通過(guò)各種藥物觸發(fā)。

這就表明,，可能體驗(yàn)的空間是非常廣闊的,，人們生活中可以有更大比例由這些非凡時(shí)刻組成?？赡苓€可以全面提高各種認(rèn)知功能,。

這也許是神經(jīng)科學(xué)版本的「生物自由」或「延長(zhǎng)壽命」,。

在科幻小說(shuō)描述AI時(shí),，經(jīng)常出現(xiàn)一個(gè)討論的話題——「意識(shí)上傳」。

這個(gè)概念指的是捕捉人腦的模式和動(dòng)態(tài),，并將其實(shí)例化為軟件,。Amodei認(rèn)為上傳在理論上幾乎肯定是可能的。

但在實(shí)踐中,，即使有強(qiáng)大的AI，它也面臨著重大的技術(shù)和社會(huì)挑戰(zhàn),，這可能使它超出了所討論的5-10年的時(shí)間范圍,。

總的來(lái)說(shuō)，AI加速的神經(jīng)科學(xué)很可能會(huì)大大改善大多數(shù)精神疾病的治療,，甚至治愈疾病,，并顯著擴(kuò)展「認(rèn)知和心理自由」以及人類的認(rèn)知和情感能力。

這種進(jìn)步將與前一節(jié)描述的一樣具有顛覆性,。

總結(jié)

通過(guò)上述各種主題,，Amodei試圖描繪出一個(gè)既有可能在AI一切順利的情況下實(shí)現(xiàn)，又比當(dāng)今世界更美好的愿景,。

Amodei不知道這個(gè)世界是否現(xiàn)實(shí),，即使是現(xiàn)實(shí)的，也離不開(kāi)許多勇敢和專注的人付出巨大努力和奮斗,。

每個(gè)人（包括AI公司）都需要盡自己的一份力量,，既要防范風(fēng)險(xiǎn),，又要充分實(shí)現(xiàn)利益。

但這又是一個(gè)值得為之奮斗的世界,。

如果這一切真的在5-10年內(nèi)發(fā)生——大多數(shù)疾病被擊敗,，生物和認(rèn)知自由的增長(zhǎng)，每個(gè)看到這一切的人都會(huì)為之感到驚訝,。

從某種意義上說(shuō),，這里描繪的愿景是極其激進(jìn)的：

這不是幾乎任何人都期望在未來(lái)十年發(fā)生的事，很可能會(huì)被許多人視為荒謬的幻想,。

甚至,，有些人可能不認(rèn)為這是可取的；

但同時(shí),，它又有一種顯而易見(jiàn)的特質(zhì)——仿佛是注定的——好像許多不同的嘗試去設(shè)想一個(gè)美好的世界必然會(huì)大致引向這里,。

盡管如此，這仍是一件具有超凡的美的事物,。我們有機(jī)會(huì)在使其成為現(xiàn)實(shí)的過(guò)程中扮演一個(gè)小角色,。

參考資料：

https://darioamodei.com/machines-of-loving-grace