2月13日,一位英偉達(dá)代理商透露,,春節(jié)后第一周,,兩家中國(guó)科技企業(yè)為了支撐開(kāi)源大模型DeepSeek的推理服務(wù),緊急采購(gòu)了L20 GPU算力設(shè)備,。與去年客戶下單時(shí)反復(fù)考慮和比價(jià)的情況不同,,現(xiàn)在連庫(kù)存的禁售型號(hào)都被搶購(gòu)一空。
DeepSeek的出現(xiàn)改變了市場(chǎng)對(duì)高性能GPU作為AI賽道核心的傳統(tǒng)看法,,導(dǎo)致英偉達(dá)作為高性能GPU的主要供應(yīng)商被市場(chǎng)看空,。但近期情況顯示,無(wú)論是高性能的H系列GPU還是RTX 40系列高端顯卡,,英偉達(dá)的產(chǎn)品再次變得供不應(yīng)求,。
目前,接入DeepSeek的企業(yè)已達(dá)數(shù)百家,,涉及國(guó)內(nèi)云服務(wù),、互聯(lián)網(wǎng)、手機(jī),、芯片,、金融、醫(yī)療、汽車等行業(yè),。迅速增長(zhǎng)的用戶量為這些企業(yè)帶來(lái)了巨大收益:云服務(wù)借此兜售算力,,芯片企業(yè)推廣產(chǎn)品,車企以更低的成本升級(jí)軟件,,上市公司市值也得以提升,。一家IT廠商表示,其調(diào)用DeepSeek的平臺(tái)在上線首日增加了上萬(wàn)用戶,,現(xiàn)有算力已經(jīng)無(wú)法滿足需求,,團(tuán)隊(duì)不得不緊急調(diào)配更多英偉達(dá)GPU。
并行科技董事長(zhǎng)陳健指出,,當(dāng)前企業(yè)在DeepSeek模型推理過(guò)程中爆發(fā)了大量的算力需求,。盡管市面上有十幾款國(guó)產(chǎn)GPU品牌,但在性能,、穩(wěn)定性和生態(tài)方面仍與英偉達(dá)存在差距,,因此英偉達(dá)卡仍然是企業(yè)的首選。
DeepSeek發(fā)布后,,英偉達(dá)股價(jià)經(jīng)歷了過(guò)去一年來(lái)最大跌幅17%,,但自2月3日起開(kāi)始反彈,回升了13%,。某國(guó)內(nèi)模型廠商人士認(rèn)為,,DeepSeek的出現(xiàn)讓業(yè)界反思算力泡沫,但隨著提供和使用模型的個(gè)人及企業(yè)數(shù)量激增,,大量模型推理再次推升了對(duì)英偉達(dá)卡的需求,。
DeepSeek雖然展示了強(qiáng)大的推理能力和優(yōu)秀的文采,但提供服務(wù)所需的硬件配置非常高,,至少需要兩臺(tái)H800卡才能運(yùn)行,。相比之下,大多數(shù)基礎(chǔ)模型只需要一臺(tái)4090卡就能運(yùn)行,。不過(guò),開(kāi)發(fā)者通常會(huì)將超過(guò)600B參數(shù)量的模型進(jìn)行蒸餾,,壓縮到更低參數(shù)規(guī)模后再用于商業(yè)化,。預(yù)計(jì)幾個(gè)月后完成蒸餾后,上線DeepSeek的企業(yè)可以節(jié)省一些推理算力,。
調(diào)查英偉達(dá)是中國(guó)GPU自主化一步險(xiǎn)棋
2024-12-11 09:32:34調(diào)查英偉達(dá)是中國(guó)GPU自主化一步險(xiǎn)棋