00后華裔小哥哈佛輟學(xué)組團挑戰(zhàn)英偉達，史上最快AI芯片Sohu推理性能超H100二十倍

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-06-27 13:20:08 財聯(lián)社

00后華裔小哥哈佛輟學(xué)組團挑戰(zhàn)英偉達,，史上最快AI芯片Sohu推理性能超H100二十倍

加密貨幣礦機曾因2013年ASIC芯片的誕生而經(jīng)歷了一場革命,，該芯片專為比特幣挖礦設(shè)計，極大提升了挖礦效率,。如今,，硅谷初創(chuàng)企業(yè)Etched再次引起轟動，他們研發(fā)的ASIC芯片Sohu專為AI的Transformer模型定制,，提供了比主流大模型公司采用的方案更高效,、成本更低的計算選擇。

Etched由Gavin Uberti和Chris Zhu創(chuàng)立于2022年,，其Sohu芯片在推理Llama-3 70B模型時,，速度據(jù)稱比英偉達的H100快20倍,，同時能耗顯著減少。公司近期完成了1.2億美元融資,，投資方包括Primary Venture Partners,、Positive Sum Ventures以及多位行業(yè)知名人士。

00后華裔小哥哈佛輟學(xué)組團挑戰(zhàn)英偉達,，史上最快AI芯片Sohu推理性能超H100二十倍

Sohu芯片的出現(xiàn),，預(yù)示著在AI推理領(lǐng)域可能打破英偉達GPU主導(dǎo)的局面，推動AI計算格局的重繪,。Etched通過專注于Transformer模型,，簡化了軟件開發(fā)流程并增強了特定的AI運算能力，使客戶能在不大幅改動模型代碼的前提下調(diào)整超參數(shù),，提高了靈活性和定制化水平,。

盡管如此，Sohu芯片的未來與Transformer模型的持續(xù)流行緊密相關(guān),。創(chuàng)始人Uberti承認,，若Transformer被新算法取代，公司將面臨挑戰(zhàn),，反之則可能成為行業(yè)巨頭,。

在AI硬件競爭中，不只是初創(chuàng)公司,，大型云服務(wù)提供商也通過自研或合作開發(fā)ASIC芯片加入競爭,。例如，博通報告中提到的定制人工智能加速器需求增長,，反映了這一趨勢,。雖然有關(guān)字節(jié)跳動與博通合作開發(fā)AI ASIC芯片的消息被否認，但行業(yè)動態(tài)顯示ASIC在AI領(lǐng)域的應(yīng)用正逐漸擴大,。

國盛證券分析指出,，ASIC芯片的普及與算力成本的下降對大模型的廣泛應(yīng)用至關(guān)重要，AI芯片市場將經(jīng)歷多次迭代升級,，最終促進人工智能的全面發(fā)展,。在此背景下，建議關(guān)注包括一線晶圓廠,、ASIC設(shè)計領(lǐng)頭羊,、散熱方案提供商及ASIC芯片制造商等產(chǎn)業(yè)鏈關(guān)鍵環(huán)節(jié)，特別推薦了幾家ASIC芯片公司作為投資參考,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

00后華裔小哥哈佛輟學(xué)組團挑戰(zhàn)英偉達，史上最快AI芯片Sohu推理性能超H100二十倍

相關(guān)新聞

今日熱點

頻道熱點