12月5日,,美國大孟菲斯商會宣布,,馬斯克的人工智能初創(chuàng)公司xAI計劃將其超級計算機項目Colossus的算力擴大十倍,,未來將搭載100萬塊GPU,,以對抗谷歌,、OpenAI和Anthropic等競爭對手,。Colossus被認為是世界上最大的超級計算機之一,,也是建設速度最快的超級計算機項目,,馬斯克僅用了3個月就完成了該計算機集群的建設,。英偉達創(chuàng)始人黃仁勛曾表示,,這種規(guī)模的數(shù)據(jù)中心通常需要三年才能建成,稱馬斯克的成就為“奇跡”,。
目前,,Colossus運行著由10萬多塊英偉達GPU組成的集群,這些芯片用于訓練xAI的聊天機器人Grok,。盡管如此,,Grok的用戶數(shù)量仍少于市場領導者OpenAI的ChatGPT或谷歌的Gemini。馬斯克計劃中的Colossus擴張預計需要數(shù)百億美元的投資,,還需大規(guī)模的服務器供電和冷卻系統(tǒng)支持,。
除了xAI,英偉達,、戴爾和超微電腦等公司也將在孟菲斯擴張,。今年早些時候,戴爾和超微電腦宣布將為xAI提供服務器機架,。xAI今年已融資約110億美元,,大部分資金被用于購買英偉達的GPU芯片。
根據(jù)網(wǎng)站LessWrong的數(shù)據(jù),,全球擁有最多GPU的公司包括谷歌,、微軟、Meta,、亞馬遜以及xAI,。如果以H100芯片算力來計算,谷歌目前擁有100萬至150萬塊等效H100,,明年預計達到350萬至420萬塊,;微軟擁有75萬至90萬塊等效H100,,明年預計達到250萬至310萬塊;Meta擁有55萬至65萬塊等效H100,,明年預計達到190萬至250萬塊,;亞馬遜擁有25萬至40萬塊等效H100,明年預計達到130萬至160萬塊,;xAI擁有10萬塊等效H100,,明年預計達到55萬至100萬塊。這意味著,,xAI要趕上這些科技巨頭還需要付出很大努力,。
目前,xAI使用了大約2萬塊H100訓練Grok 2大模型,,并計劃用10萬塊H100訓練Grok 3大模型,。隨著英偉達最新一代Blackwell芯片開始大量出貨,馬斯克宣稱將在2025年夏天部署一個有30萬塊Blackwell芯片的運算集群,。一份2024 AI現(xiàn)狀報告對Blackwell芯片采購量進行了估算,,大型云計算公司正在大規(guī)模采購英偉達的GB200系統(tǒng):微軟介于70萬到140萬塊之間,谷歌為40萬塊,,OpenAI也將擁有至少40萬塊,,亞馬遜AWS為36萬塊。
過去一年中,,科技公司在爭奪人工智能芯片資源方面投入巨大,,并積極建設AI基礎設施。風投機構Menlo Ventures的數(shù)據(jù)顯示,,生成式AI市場的收入預計將在十年內超過1萬億美元,,而今年企業(yè)在生成式AI上的支出激增500%。
AI基礎設施的競爭日益激烈,,馬斯克的人工智能初創(chuàng)公司xAI計劃大幅擴展其位于孟菲斯基地的Colossus超級計算機,目標是將圖形處理單元(GPU)數(shù)量提升至100萬個
2024-12-06 10:19:30100萬個GPU2024中國算力大會將于9月27日至29日在河南鄭州舉行,,華為將參與此次大會,主題定為“共贏算力新時代”
2024-09-25 09:12:00華為將參加2024中國算力大會