權(quán)威機(jī)構(gòu)發(fā)布生成式AI技術(shù)棧排名商湯科技國(guó)內(nèi)領(lǐng)跑

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-12-28 09:46:48 量子位

商湯科技在GenAI（生成式AI）技術(shù)棧領(lǐng)域位居國(guó)內(nèi)榜首,，其創(chuàng)新實(shí)力和應(yīng)用落地廣泛。根據(jù)權(quán)威研究機(jī)構(gòu)弗若斯特沙利文與頭豹研究院聯(lián)合發(fā)布的《2024年中國(guó)GenAI技術(shù)棧市場(chǎng)報(bào)告》,，商湯科技超越了阿里云,、百度智能云和華為云，在增長(zhǎng)指數(shù)和創(chuàng)新指數(shù)上均排名國(guó)內(nèi)第一，全球僅次于亞馬遜云科技,。

報(bào)告指出,，商湯科技積極投入技術(shù)創(chuàng)新，為用戶提供行業(yè)領(lǐng)先的自研模型與高性能國(guó)產(chǎn)化的推理引擎,，并建立了包括機(jī)器與人工審核,、安全評(píng)測(cè)與內(nèi)容安全策略迭代升級(jí)在內(nèi)的完整性安全管理方案，成為GenAI技術(shù)棧領(lǐng)域的領(lǐng)導(dǎo)者,。

GenAI技術(shù)棧是連接硬件設(shè)施層與終端用戶交互的中間層,，集成了基礎(chǔ)模型、數(shù)據(jù)處理,、模型訓(xùn)練調(diào)優(yōu),、模型部署監(jiān)控等技術(shù)和工具，提供從模型初始化到部署全過(guò)程的一站式解決方案,。報(bào)告從創(chuàng)新和增長(zhǎng)兩個(gè)維度對(duì)GenAI技術(shù)棧競(jìng)爭(zhēng)力進(jìn)行了分析,。商湯科技在這兩個(gè)維度中均排名全球第二、國(guó)內(nèi)第一,。

在創(chuàng)新方面,，商湯科技在資源利用率優(yōu)化管理、緩存與記憶,、精煉壓縮模型三大模塊得分最高,，展現(xiàn)了高效資源利用率優(yōu)化能力、高效的緩存與記憶能力和精煉的壓縮模型能力,。例如,，商湯自研高性能大模型推理引擎在相同算力及電力成本下將每秒請(qǐng)求數(shù)提升4倍，萬(wàn)卡集群GPU資源利用率最高達(dá)到80%以上,。此外,，商湯通過(guò)數(shù)據(jù)飛輪機(jī)制實(shí)現(xiàn)自我強(qiáng)化的反饋循環(huán)，提升模型性能,，并在代碼小浣熊辦公助手和代碼助手應(yīng)用場(chǎng)景中,，通過(guò)模型體積壓縮實(shí)現(xiàn)了顯存節(jié)省和速度提升。

在增長(zhǎng)方面,，商湯科技在“行業(yè)客戶與場(chǎng)景方案”模塊得分最高,，展示了其生成式AI落地應(yīng)用的廣度和深度。商湯“日日新”大模型已在金融,、醫(yī)療,、Copilot助手、擬人交互,、智能終端等關(guān)鍵領(lǐng)域確立了領(lǐng)先地位,。商湯科技還與各行業(yè)頭部企業(yè)緊密合作，助力運(yùn)營(yíng)商提高算力資源利用，幫助媒體創(chuàng)新內(nèi)容生產(chǎn)模式,，提供了豐富的標(biāo)桿案例與行業(yè)經(jīng)驗(yàn),。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

權(quán)威機(jī)構(gòu)發(fā)布生成式AI技術(shù)棧排名 商湯科技國(guó)內(nèi)領(lǐng)跑

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

權(quán)威機(jī)構(gòu)發(fā)布生成式AI技術(shù)棧排名商湯科技國(guó)內(nèi)領(lǐng)跑