00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá),，史上最快AI芯片Sohu推理性能超H100二十倍

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-06-27 13:20:08 財(cái)聯(lián)社

00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá)，史上最快AI芯片Sohu推理性能超H100二十倍

加密貨幣礦機(jī)曾因2013年ASIC芯片的誕生而經(jīng)歷了一場(chǎng)革命,，該芯片專(zhuān)為比特幣挖礦設(shè)計(jì),，極大提升了挖礦效率。如今,，硅谷初創(chuàng)企業(yè)Etched再次引起轟動(dòng),，他們研發(fā)的ASIC芯片Sohu專(zhuān)為AI的Transformer模型定制，提供了比主流大模型公司采用的方案更高效,、成本更低的計(jì)算選擇。

Etched由Gavin Uberti和Chris Zhu創(chuàng)立于2022年,，其Sohu芯片在推理Llama-3 70B模型時(shí),，速度據(jù)稱(chēng)比英偉達(dá)的H100快20倍，同時(shí)能耗顯著減少,。公司近期完成了1.2億美元融資,，投資方包括Primary Venture Partners、Positive Sum Ventures以及多位行業(yè)知名人士,。

00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá),，史上最快AI芯片Sohu推理性能超H100二十倍

Sohu芯片的出現(xiàn)，預(yù)示著在AI推理領(lǐng)域可能打破英偉達(dá)GPU主導(dǎo)的局面,，推動(dòng)AI計(jì)算格局的重繪,。Etched通過(guò)專(zhuān)注于Transformer模型，簡(jiǎn)化了軟件開(kāi)發(fā)流程并增強(qiáng)了特定的AI運(yùn)算能力,，使客戶(hù)能在不大幅改動(dòng)模型代碼的前提下調(diào)整超參數(shù),，提高了靈活性和定制化水平。

盡管如此,，Sohu芯片的未來(lái)與Transformer模型的持續(xù)流行緊密相關(guān),。創(chuàng)始人Uberti承認(rèn)，若Transformer被新算法取代,，公司將面臨挑戰(zhàn),，反之則可能成為行業(yè)巨頭,。

在AI硬件競(jìng)爭(zhēng)中，不只是初創(chuàng)公司,，大型云服務(wù)提供商也通過(guò)自研或合作開(kāi)發(fā)ASIC芯片加入競(jìng)爭(zhēng),。例如，博通報(bào)告中提到的定制人工智能加速器需求增長(zhǎng),，反映了這一趨勢(shì),。雖然有關(guān)字節(jié)跳動(dòng)與博通合作開(kāi)發(fā)AI ASIC芯片的消息被否認(rèn)，但行業(yè)動(dòng)態(tài)顯示ASIC在AI領(lǐng)域的應(yīng)用正逐漸擴(kuò)大,。

國(guó)盛證券分析指出,，ASIC芯片的普及與算力成本的下降對(duì)大模型的廣泛應(yīng)用至關(guān)重要，AI芯片市場(chǎng)將經(jīng)歷多次迭代升級(jí),，最終促進(jìn)人工智能的全面發(fā)展,。在此背景下，建議關(guān)注包括一線晶圓廠,、ASIC設(shè)計(jì)領(lǐng)頭羊,、散熱方案提供商及ASIC芯片制造商等產(chǎn)業(yè)鏈關(guān)鍵環(huán)節(jié)，特別推薦了幾家ASIC芯片公司作為投資參考,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá),，史上最快AI芯片Sohu推理性能超H100二十倍

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)