加速計(jì)算帶來的結(jié)果確實(shí)非凡,，但其實(shí)現(xiàn)過程并不容易。為什么它能節(jié)省這么多錢,，但人們卻沒有更早地采用這種技術(shù)呢,？原因就在于它的實(shí)施難度太大,。

沒有現(xiàn)成的軟件可以簡單地通過加速編譯器運(yùn)行，然后應(yīng)用程序就能瞬間提速100倍,。這既不符合邏輯也不現(xiàn)實(shí),。如果這么容易，那么CPU廠商早就這樣做了,。

事實(shí)上,，要實(shí)現(xiàn)加速，軟件必須進(jìn)行全面重寫,。這是整個(gè)過程中最具挑戰(zhàn)性的部分。軟件需要被重新設(shè)計(jì),、重新編碼,，以便將原本在CPU上運(yùn)行的算法轉(zhuǎn)化為可以在加速器上并行運(yùn)行的格式。

這項(xiàng)計(jì)算機(jī)科學(xué)研究雖然困難,，但我們在過去的20年里已經(jīng)取得了顯著的進(jìn)展,。例如，我們推出了廣受歡迎的cuDNN深度學(xué)習(xí)庫,，它專門處理神經(jīng)網(wǎng)絡(luò)加速,。我們還為人工智能物理模擬提供了一個(gè)庫，適用于流體動力學(xué)等需要遵守物理定律的應(yīng)用,。另外,，我們還有一個(gè)名為Aerial的新庫,，它利用CUDA加速5G無線電技術(shù)，使我們能夠像軟件定義互聯(lián)網(wǎng)網(wǎng)絡(luò)一樣,，用軟件定義和加速電信網(wǎng)絡(luò),。

這些加速能力不僅提升了性能，還幫助我們將整個(gè)電信行業(yè)轉(zhuǎn)化為一種與云計(jì)算類似的計(jì)算平臺,。此外,，Coolitho計(jì)算光刻平臺也是一個(gè)很好的例子，它極大地提升了芯片制造過程中計(jì)算最密集的部分——掩模制作的效率,。臺積電等公司已經(jīng)開始使用Coolitho進(jìn)行生產(chǎn),，不僅顯著節(jié)省了能源，而且大幅降低了成本,。他們的目標(biāo)是通過加速技術(shù)棧,，為算法的更進(jìn)一步發(fā)展和制造更深更窄的晶體管所需的龐大計(jì)算能力做好準(zhǔn)備。

Pair of Bricks是我們引以為傲的基因測序庫,，它擁有世界領(lǐng)先的基因測序吞吐量,。而Co OPT則是一個(gè)令人矚目的組合優(yōu)化庫，能夠解決路線規(guī)劃,、優(yōu)化行程,、旅行社問題等復(fù)雜難題。人們普遍認(rèn)為,，這些問題需要量子計(jì)算機(jī)才能解決,，但我們卻通過加速計(jì)算技術(shù)，創(chuàng)造了一個(gè)運(yùn)行極快的算法,，成功打破了23項(xiàng)世界紀(jì)錄,，至今我們?nèi)员３种恳粋€(gè)主要的世界紀(jì)錄。

Coup Quantum是我們開發(fā)的量子計(jì)算機(jī)仿真系統(tǒng),。對于想要設(shè)計(jì)量子計(jì)算機(jī)或量子算法的研究人員來說,，一個(gè)可靠的模擬器是必不可少的。在沒有實(shí)際量子計(jì)算機(jī)的情況下,，英偉達(dá)CUDA——我們稱之為世界上最快的計(jì)算機(jī)——成為了他們的首選工具,。我們提供了一個(gè)模擬器，能夠模擬量子計(jì)算機(jī)的運(yùn)行,，幫助研究人員在量子計(jì)算領(lǐng)域取得突破,。這個(gè)模擬器已經(jīng)被全球數(shù)十萬研究人員廣泛使用，并被集成到所有領(lǐng)先的量子計(jì)算框架中,，為世界各地的科學(xué)超級計(jì)算機(jī)中心提供了強(qiáng)大的支持,。

此外，我們還推出了數(shù)據(jù)處理庫Kudieff,，專門用于加速數(shù)據(jù)處理過程,。數(shù)據(jù)處理占據(jù)了當(dāng)今云支出的絕大部分,，因此加速數(shù)據(jù)處理對于節(jié)省成本至關(guān)重要。QDF是我們開發(fā)的加速工具,，能夠顯著提升世界上主要數(shù)據(jù)處理庫的性能,，如Spark、Pandas,、Polar以及NetworkX等圖處理數(shù)據(jù)庫,。

這些庫是生態(tài)系統(tǒng)中的關(guān)鍵組成部分，它們使得加速計(jì)算得以廣泛應(yīng)用,。如果沒有我們精心打造的如cuDNN這樣的特定領(lǐng)域庫,，僅憑CUDA，全球深度學(xué)習(xí)科學(xué)家可能無法充分利用其潛力,，因?yàn)镃UDA與TensorFlow,、PyTorch等深度學(xué)習(xí)框架中使用的算法之間存在顯著差異。這就像在沒有OpenGL的情況下進(jìn)行計(jì)算機(jī)圖形學(xué)設(shè)計(jì),，或是在沒有SQL的情況下進(jìn)行數(shù)據(jù)處理一樣不切實(shí)際,。

這些特定領(lǐng)域的庫是我們公司的寶藏，我們目前擁有超過350個(gè)這樣的庫,。正是這些庫讓我們在市場中保持開放和領(lǐng)先,。今天，我將向你們展示更多令人振奮的例子,。

就在上周,，谷歌宣布他們已經(jīng)在云端部署了QDF，并成功加速了Pandas,。Pandas是世界上最受歡迎的數(shù)據(jù)科學(xué)庫,，被全球1000萬數(shù)據(jù)科學(xué)家所使用，每月下載量高達(dá)1.7億次,。它就像是數(shù)據(jù)科學(xué)家的Excel,，是他們處理數(shù)據(jù)的得力助手。

現(xiàn)在,，只需在谷歌的云端數(shù)據(jù)中心平臺Colab上點(diǎn)擊一下,，你就可以體驗(yàn)到由QDF加速的Pandas帶來的強(qiáng)大性能。這種加速效果確實(shí)令人驚嘆,，就像你們剛剛看到的演示一樣,，它幾乎瞬間就完成了數(shù)據(jù)處理任務(wù),。

CUDA實(shí)現(xiàn)良性循環(huán)

CUDA已經(jīng)達(dá)到了一個(gè)人們所稱的臨界點(diǎn),，但現(xiàn)實(shí)情況比這要好。CUDA已經(jīng)實(shí)現(xiàn)一個(gè)良性的發(fā)展循環(huán),?；仡櫄v史和各種計(jì)算架構(gòu),、平臺的發(fā)展，我們可以發(fā)現(xiàn)這樣的循環(huán)并不常見,。以微處理器CPU為例,，它已經(jīng)存在了60年，但其加速計(jì)算的方式在這漫長的歲月里并未發(fā)生根本性改變,。

要創(chuàng)建一個(gè)新的計(jì)算平臺往往面臨著“先有雞還是先有蛋”的困境,。沒有開發(fā)者的支持，平臺很難吸引用戶,；而沒有用戶的廣泛采用,，又難以形成龐大的安裝基礎(chǔ)來吸引開發(fā)者。這個(gè)困境在過去20年中一直困擾著多個(gè)計(jì)算平臺的發(fā)展,。

然而,，通過持續(xù)不斷地推出特定領(lǐng)域的庫和加速庫，我們成功打破了這一困境,。如今,，我們已在全球擁有500萬開發(fā)者，他們利用CUDA技術(shù)服務(wù)于從醫(yī)療保健,、金融服務(wù)到計(jì)算機(jī)行業(yè),、汽車行業(yè)等幾乎每一個(gè)主要行業(yè)和科學(xué)領(lǐng)域。

隨著客戶群的不斷擴(kuò)大,，OEM和云服務(wù)提供商也開始對我們的系統(tǒng)產(chǎn)生興趣,，這進(jìn)一步推動了更多系統(tǒng)進(jìn)入市場。這種良性循環(huán)為我們創(chuàng)造了巨大的機(jī)遇,，使我們能夠擴(kuò)大規(guī)模,，增加研發(fā)投入，從而推動更多應(yīng)用的加速發(fā)展,。

每一次應(yīng)用的加速都意味著計(jì)算成本的顯著降低,。正如我之前展示的，100倍的加速可以帶來高達(dá)97.96%,，即接近98%的成本節(jié)省,。隨著我們將計(jì)算加速從100倍提升至200倍，再飛躍至1000倍,，計(jì)算的邊際成本持續(xù)下降,，展現(xiàn)出了令人矚目的經(jīng)濟(jì)效益。

當(dāng)然,，我們相信,，通過顯著降低計(jì)算成本，市場,、開發(fā)者,、科學(xué)家和發(fā)明家將不斷發(fā)掘出消耗更多計(jì)算資源的新算法,。直至某個(gè)時(shí)刻，一種深刻的變革將悄然發(fā)生,。當(dāng)計(jì)算的邊際成本變得如此低廉時(shí),，全新的計(jì)算機(jī)使用方式將應(yīng)運(yùn)而生。

事實(shí)上,，這種變革正在我們眼前上演,。過去十年間，我們利用特定算法將計(jì)算的邊際成本降低了驚人的100萬倍,。如今,，利用互聯(lián)網(wǎng)上的所有數(shù)據(jù)來訓(xùn)練大語言模型已成為一種合乎邏輯且理所當(dāng)然的選擇，不再受到任何質(zhì)疑,。

這個(gè)想法——打造一臺能夠處理海量數(shù)據(jù)以自我編程的計(jì)算機(jī)——正是人工智能崛起的基石,。人工智能的崛起之所以成為可能，完全是因?yàn)槲覀儓?jiān)信,，如果我們讓計(jì)算變得越來越便宜,，總會有人找到巨大的用途。如今,，CUDA的成功已經(jīng)證明了這一良性循環(huán)的可行性,。

隨著安裝基礎(chǔ)的持續(xù)擴(kuò)大和計(jì)算成本的持續(xù)降低，越來越多的開發(fā)者得以發(fā)揮他們的創(chuàng)新潛能,，提出更多的想法和解決方案,。這種創(chuàng)新力推動了市場需求的激增。現(xiàn)在我們正站在一個(gè)重大轉(zhuǎn)折點(diǎn)上,。然而,，在我進(jìn)一步展示之前，我想強(qiáng)調(diào)的是,，如果不是CUDA和現(xiàn)代人工智能技術(shù)——尤其是生成式人工智能的突破,，以下我所要展示的內(nèi)容將無法實(shí)現(xiàn)。

這就是“地球2號”項(xiàng)目——一個(gè)雄心勃勃的設(shè)想,，旨在創(chuàng)建地球的數(shù)字孿生體,。我們將模擬整個(gè)地球的運(yùn)行，以預(yù)測其未來變化,。通過這樣的模擬,，我們可以更好地預(yù)防災(zāi)難，更深入地理解氣候變化的影響,，從而讓我們能夠更好地適應(yīng)這些變化,，甚至現(xiàn)在就開始改變我們的行為和習(xí)慣。

“地球2號”項(xiàng)目可能是世界上最具挑戰(zhàn)性、最雄心勃勃的項(xiàng)目之一,。我們每年都在這個(gè)領(lǐng)域取得顯著的進(jìn)步，而今年的成果尤為突出?，F(xiàn)在,，請?jiān)试S我為大家展示這些令人振奮的進(jìn)展。

在不遠(yuǎn)的將來,，我們將擁有持續(xù)的天氣預(yù)報(bào)能力,，覆蓋地球上的每一平方公里。你將始終了解氣候?qū)⑷绾巫兓?，這種預(yù)測將不斷運(yùn)行,，因?yàn)槲覀冇?xùn)練了人工智能，而人工智能所需的能量又極為有限,。這將是一個(gè)令人難以置信的成就,。我希望你們會喜歡它，而更加重要的是,，這一預(yù)測實(shí)際上是由Jensen AI做出的,，而非我本人。我設(shè)計(jì)了它,，但最終的預(yù)測由Jensen AI來呈現(xiàn),。

由于我們致力于不斷提高性能并降低成本，研究人員在2012年發(fā)現(xiàn)了CUDA,，那是英偉達(dá)與人工智能的首次接觸,。那一天對我們而言至關(guān)重要，因?yàn)槲覀冏龀隽嗣髦堑倪x擇,，與科學(xué)家們緊密合作,，使深度學(xué)習(xí)成為可能。AlexNet的出現(xiàn)實(shí)現(xiàn)了計(jì)算機(jī)視覺的巨大突破,。

AI超算的崛起,，起初并不被認(rèn)同