雖然谷歌早在2020年,,就在自家的數(shù)據(jù)中心上部署了當(dāng)時最強(qiáng)的AI芯片——TPU v4,。
但直到今年的4月4日,谷歌才首次公布了這臺AI超算的技術(shù)細(xì)節(jié),。
Google 4日發(fā)布論文,,公開其中一部AI超級計算機(jī)的詳細(xì)資訊,聲稱比競爭對手Nvidia的系統(tǒng)運(yùn)算更快,、功耗更低,。
Google已經(jīng)構(gòu)建一套系統(tǒng),其中包括超過4,000個TPU,,并結(jié)合執(zhí)行和訓(xùn)練AI模型的定制化零件,,這部以TPU為基礎(chǔ)的AI超級計算機(jī)稱為TPU v4。它從2020年開始運(yùn)行,,用于訓(xùn)練自家PaLM模型超過50天,。
“在性能,、可擴(kuò)展性、可用性上TPU v4成為大型語言模型的主力”,,Google研究人員表示,,TPU v4能比Nvidia A100組成類似大小的系統(tǒng),運(yùn)算快1.2~1.7倍,,功耗低1.3~1.9倍,。不過,Google的TPU并未與Nvidia最新AI芯片H100進(jìn)行比較,,因?yàn)楹笳咄瞥霾痪?,且采用更先進(jìn)的制程。
另一方面,,由學(xué)術(shù)界和產(chǎn)業(yè)人士組成的人工智能領(lǐng)袖聯(lián)盟制定出MLPerf基準(zhǔn),,在5日公布全產(chǎn)業(yè)AI芯片測試結(jié)果和排名。對此Nvidia首席執(zhí)行官黃仁勛表示,,Nvidia H100的測試結(jié)果明顯優(yōu)于上一代,。
“今日MLPerf 3.0突顯出以Hopper架構(gòu)為基礎(chǔ)的H100,其性能是A100的4倍”,,黃仁勛在官方博客寫道,,并認(rèn)為下一階段的生成式AI(Generative AI)需要新的基礎(chǔ)設(shè)施,以訓(xùn)練高性能的大型語言模型,。
AI所需的大量算力是相當(dāng)昂貴的,,于是Nvidia、Google等產(chǎn)業(yè)人士大多專注于開發(fā)新的芯片,、光學(xué)連接零件等,,或從軟件技術(shù)方面著手,以減少大量運(yùn)算所需的功耗,。
Google被認(rèn)為是AI領(lǐng)域的主要先驅(qū),,旗下研究人員在過去10年已經(jīng)取得重要進(jìn)展。然而隨著OpenAI推出ChatGPT,,引爆人工智能熱潮,,部分人士認(rèn)為GoogleAI技術(shù)商業(yè)化方面明顯落后,這也迫使Google現(xiàn)在競相發(fā)布產(chǎn)品并試圖證明沒有揮霍領(lǐng)先優(yōu)勢,。
原標(biāo)題:在成都,,探索大運(yùn)之城的科技創(chuàng)新這是7月22日在成都高新體育中心多功能館外拍攝的臨時訓(xùn)練氣膜館(無人機(jī)照片)。
2023-07-25 08:39:57探索大運(yùn)之城的科技創(chuàng)新冬天來了,你是否感覺到了寒冷的氣息,?今年進(jìn)入12月以來,,我國遭遇了多次寒潮和冷空氣的侵襲,導(dǎo)致中東部地區(qū)氣溫頻繁下降,,甚至出現(xiàn)了罕見的雨雪冰凍天氣,。
2023-12-25 13:05:21大范圍大回暖開始原標(biāo)題:31省份前三季度人均可支配收入公布 上海北京超6萬元國家統(tǒng)計局網(wǎng)站最新公布了31個省份前三季度居民人均可支配收入情況。
2023-10-30 16:03:4431省份前三季度人均可支配收入公布近日,有消息稱英偉達(dá)公司的H100 AI GPU的利潤率高達(dá)1000%,,這一數(shù)字可能讓人們感到震驚,。
2023-08-18 14:36:07英偉達(dá)H100【#投資者押注美聯(lián)儲明年中期將降息##國際油價累計跌超15%#】上周公布的一系列經(jīng)濟(jì)數(shù)據(jù)顯示美國通脹持續(xù)降溫、經(jīng)濟(jì)增長放緩
2023-11-20 13:34:14國際油價累計跌超15%