兩年倒數(shù)！Anthropic CEO萬字長文預(yù)言：「強(qiáng)大AI」26年降臨,，智力擊敗諾獎(jiǎng)得主(5)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-14 10:31:36 36氪

例如,，即使非常強(qiáng)大的AI，在一般情況下也只能比今天的人類和計(jì)算機(jī)在混沌系統(tǒng)（如三體問題）中稍微多預(yù)測一點(diǎn)點(diǎn),。

- 來自人類的約束

許多事情如果不違法,、不傷害人類或不擾亂社會(huì)就無法完成,。一個(gè)對齊的AI不會(huì)想做這些事情。

許多人類社會(huì)結(jié)構(gòu)是低效甚至有害的,，但如果要同時(shí)尊重臨床試驗(yàn)的法律要求、人們改變習(xí)慣的意愿或政府行為等約束,，就很難改變這些結(jié)構(gòu),。

核能、超音速飛行,，甚至電梯,，都在技術(shù)上運(yùn)作良好，但影響被法規(guī)或錯(cuò)誤的恐懼大大減弱,。

- 物理定律

有些物理定律似乎是不可打破的,。不可能以超光速旅行。布丁無法恢復(fù)到未攪拌狀態(tài),。

芯片每平方厘米只能容納這么多晶體管,，否則就會(huì)不可靠。計(jì)算需要每擦除一位所需的最小能量,，這限制了世界上計(jì)算的密度,。

進(jìn)一步的區(qū)別，是基于時(shí)間尺度,。

短期內(nèi)的嚴(yán)格限制,，在長期內(nèi)可能更容易被智能改變。

例如,，智能可能被用來開發(fā)新的實(shí)驗(yàn)范式,，使我們能夠在體外獲得以前只能通過活體動(dòng)物實(shí)驗(yàn)獲得的知識，或者用來建造收集新數(shù)據(jù)所需的工具（例如更大的粒子加速器）,，或者（在倫理限度內(nèi)）找到突破人為限制的方法,。

因此，我們可以設(shè)想這樣一個(gè)場景：智能最初受到其他生產(chǎn)要素的嚴(yán)重制約,，但隨著時(shí)間的推移,，智能本身越來越多地繞過這些要素，即使它們永遠(yuǎn)不會(huì)完全消失,。

關(guān)鍵問題是這一切發(fā)生的速度有多快,，以及按什么順序發(fā)生,。

生命科學(xué)與生理健康

在科學(xué)進(jìn)步的諸多領(lǐng)域中，生物學(xué)可能是最有潛力直接且明確改善人類生活質(zhì)量的領(lǐng)域,。

在過去的一個(gè)世紀(jì)里,，一些最古老的人類疾病（如天花）終被戰(zhàn)勝,，但還有更多疾病仍然存在,。

關(guān)閉

今日熱點(diǎn)