12月5日,美國(guó)大孟菲斯商會(huì)宣布,馬斯克的人工智能初創(chuàng)公司xAI計(jì)劃將其超級(jí)計(jì)算機(jī)項(xiàng)目Colossus的算力擴(kuò)大十倍,,未來(lái)將搭載100萬(wàn)塊GPU,以對(duì)抗谷歌,、OpenAI和Anthropic等競(jìng)爭(zhēng)對(duì)手。Colossus被認(rèn)為是世界上最大的超級(jí)計(jì)算機(jī)之一,,也是建設(shè)速度最快的超級(jí)計(jì)算機(jī)項(xiàng)目,,馬斯克僅用了3個(gè)月就完成了該計(jì)算機(jī)集群的建設(shè)。英偉達(dá)創(chuàng)始人黃仁勛曾表示,,這種規(guī)模的數(shù)據(jù)中心通常需要三年才能建成,,稱馬斯克的成就為“奇跡”。
目前,,Colossus運(yùn)行著由10萬(wàn)多塊英偉達(dá)GPU組成的集群,,這些芯片用于訓(xùn)練xAI的聊天機(jī)器人Grok,。盡管如此,Grok的用戶數(shù)量仍少于市場(chǎng)領(lǐng)導(dǎo)者OpenAI的ChatGPT或谷歌的Gemini,。馬斯克計(jì)劃中的Colossus擴(kuò)張預(yù)計(jì)需要數(shù)百億美元的投資,,還需大規(guī)模的服務(wù)器供電和冷卻系統(tǒng)支持。
除了xAI,,英偉達(dá),、戴爾和超微電腦等公司也將在孟菲斯擴(kuò)張。今年早些時(shí)候,,戴爾和超微電腦宣布將為xAI提供服務(wù)器機(jī)架。xAI今年已融資約110億美元,,大部分資金被用于購(gòu)買英偉達(dá)的GPU芯片,。
根據(jù)網(wǎng)站LessWrong的數(shù)據(jù),全球擁有最多GPU的公司包括谷歌,、微軟,、Meta、亞馬遜以及xAI,。如果以H100芯片算力來(lái)計(jì)算,,谷歌目前擁有100萬(wàn)至150萬(wàn)塊等效H100,明年預(yù)計(jì)達(dá)到350萬(wàn)至420萬(wàn)塊,;微軟擁有75萬(wàn)至90萬(wàn)塊等效H100,,明年預(yù)計(jì)達(dá)到250萬(wàn)至310萬(wàn)塊;Meta擁有55萬(wàn)至65萬(wàn)塊等效H100,,明年預(yù)計(jì)達(dá)到190萬(wàn)至250萬(wàn)塊,;亞馬遜擁有25萬(wàn)至40萬(wàn)塊等效H100,明年預(yù)計(jì)達(dá)到130萬(wàn)至160萬(wàn)塊,;xAI擁有10萬(wàn)塊等效H100,,明年預(yù)計(jì)達(dá)到55萬(wàn)至100萬(wàn)塊。這意味著,,xAI要趕上這些科技巨頭還需要付出很大努力,。
目前,xAI使用了大約2萬(wàn)塊H100訓(xùn)練Grok 2大模型,,并計(jì)劃用10萬(wàn)塊H100訓(xùn)練Grok 3大模型,。隨著英偉達(dá)最新一代Blackwell芯片開(kāi)始大量出貨,馬斯克宣稱將在2025年夏天部署一個(gè)有30萬(wàn)塊Blackwell芯片的運(yùn)算集群,。一份2024 AI現(xiàn)狀報(bào)告對(duì)Blackwell芯片采購(gòu)量進(jìn)行了估算,,大型云計(jì)算公司正在大規(guī)模采購(gòu)英偉達(dá)的GB200系統(tǒng):微軟介于70萬(wàn)到140萬(wàn)塊之間,谷歌為40萬(wàn)塊,,OpenAI也將擁有至少40萬(wàn)塊,,亞馬遜AWS為36萬(wàn)塊,。
過(guò)去一年中,科技公司在爭(zhēng)奪人工智能芯片資源方面投入巨大,,并積極建設(shè)AI基礎(chǔ)設(shè)施,。風(fēng)投機(jī)構(gòu)Menlo Ventures的數(shù)據(jù)顯示,生成式AI市場(chǎng)的收入預(yù)計(jì)將在十年內(nèi)超過(guò)1萬(wàn)億美元,,而今年企業(yè)在生成式AI上的支出激增500%,。
2024中國(guó)算力大會(huì)將于9月27日至29日在河南鄭州舉行,,華為將參與此次大會(huì),,主題定為“共贏算力新時(shí)代”
2024-09-25 09:12:00華為將參加2024中國(guó)算力大會(huì)