00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá),，史上最快AI芯片Sohu推理性能超H100二十倍

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-06-27 13:20:08 財(cái)聯(lián)社

加密貨幣礦機(jī)曾因2013年ASIC芯片的誕生而經(jīng)歷了一場(chǎng)革命，該芯片專為比特幣挖礦設(shè)計(jì),，極大提升了挖礦效率,。如今，硅谷初創(chuàng)企業(yè)Etched再次引起轟動(dòng),，他們研發(fā)的ASIC芯片Sohu專為AI的Transformer模型定制,，提供了比主流大模型公司采用的方案更高效、成本更低的計(jì)算選擇,。

Etched由Gavin Uberti和Chris Zhu創(chuàng)立于2022年,，其Sohu芯片在推理Llama-3 70B模型時(shí)，速度據(jù)稱比英偉達(dá)的H100快20倍,，同時(shí)能耗顯著減少,。公司近期完成了1.2億美元融資，投資方包括Primary Venture Partners,、Positive Sum Ventures以及多位行業(yè)知名人士,。

00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá)，史上最快AI芯片Sohu推理性能超H100二十倍

Sohu芯片的出現(xiàn),，預(yù)示著在AI推理領(lǐng)域可能打破英偉達(dá)GPU主導(dǎo)的局面,，推動(dòng)AI計(jì)算格局的重繪。Etched通過(guò)專注于Transformer模型,，簡(jiǎn)化了軟件開發(fā)流程并增強(qiáng)了特定的AI運(yùn)算能力,，使客戶能在不大幅改動(dòng)模型代碼的前提下調(diào)整超參數(shù),，提高了靈活性和定制化水平。

盡管如此,，Sohu芯片的未來(lái)與Transformer模型的持續(xù)流行緊密相關(guān),。創(chuàng)始人Uberti承認(rèn)，若Transformer被新算法取代,，公司將面臨挑戰(zhàn),，反之則可能成為行業(yè)巨頭。

在AI硬件競(jìng)爭(zhēng)中,，不只是初創(chuàng)公司,，大型云服務(wù)提供商也通過(guò)自研或合作開發(fā)ASIC芯片加入競(jìng)爭(zhēng)。例如,，博通報(bào)告中提到的定制人工智能加速器需求增長(zhǎng),，反映了這一趨勢(shì)。雖然有關(guān)字節(jié)跳動(dòng)與博通合作開發(fā)AI ASIC芯片的消息被否認(rèn),，但行業(yè)動(dòng)態(tài)顯示ASIC在AI領(lǐng)域的應(yīng)用正逐漸擴(kuò)大,。

國(guó)盛證券分析指出，ASIC芯片的普及與算力成本的下降對(duì)大模型的廣泛應(yīng)用至關(guān)重要,，AI芯片市場(chǎng)將經(jīng)歷多次迭代升級(jí)，最終促進(jìn)人工智能的全面發(fā)展,。在此背景下,，建議關(guān)注包括一線晶圓廠、ASIC設(shè)計(jì)領(lǐng)頭羊,、散熱方案提供商及ASIC芯片制造商等產(chǎn)業(yè)鏈關(guān)鍵環(huán)節(jié),，特別推薦了幾家ASIC芯片公司作為投資參考。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

00后華裔小哥哈佛輟學(xué)組團(tuán)挑戰(zhàn)英偉達(dá),，史上最快AI芯片Sohu推理性能超H100二十倍

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)