隨著DeepSeek的爆火,個(gè)人用戶部署AI大模型迅速走紅,。例如,“80塊打造個(gè)人語(yǔ)音助手”,、“150塊DIY豆包智能機(jī)器人”等低成本方案吸引了眾多關(guān)注。科技界圍繞AI降本的努力已持續(xù)多時(shí)。DeepSeek在算法層面的優(yōu)化降低了推理成本,,為國(guó)產(chǎn)算力芯片和計(jì)算集群網(wǎng)絡(luò)的發(fā)展?fàn)幦×烁嗫臻g。軟硬件成本的減少也促進(jìn)了國(guó)內(nèi)AI應(yīng)用的發(fā)展,,形成了正向循環(huán),。
越來(lái)越多的個(gè)人開(kāi)發(fā)者嘗試低成本AI模型部署,使公眾意識(shí)到AI普惠時(shí)代已經(jīng)到來(lái),,端側(cè)AI落地迫在眉睫,。PC產(chǎn)品被認(rèn)為是端側(cè)AI模型落地的第一站。供應(yīng)鏈人士認(rèn)為,,更大的潛力在于智能眼鏡,、AI玩具等應(yīng)用中。DeepSeek帶來(lái)的輕量化模型將對(duì)智能終端行業(yè)產(chǎn)生積極影響,。
“80塊買(mǎi)一塊開(kāi)發(fā)板,,按照教程進(jìn)行硬件連接和固件燒錄,就能接入DeepSeek等大模型,,打造個(gè)人語(yǔ)音助手系統(tǒng),。”技術(shù)社群中有開(kāi)發(fā)者分享了這樣的實(shí)踐,。此外,,花150元還能自行搭建一個(gè)豆包智能機(jī)器人,358元?jiǎng)t能搭建具備手勢(shì)識(shí)別和觸摸交互功能的機(jī)器人,。這些方案大多基于樂(lè)鑫科技的ESP系列芯片,。淘寶上搜索ESP32關(guān)鍵詞,可以找到多個(gè)商家售賣(mài)開(kāi)發(fā)板或套件,,價(jià)格從20元到340元不等,。一套80元的聊天機(jī)器人ESP32-S3開(kāi)發(fā)套件全網(wǎng)銷(xiāo)量已超1000件,而40元的ESP32-S3開(kāi)發(fā)板月售超過(guò)1萬(wàn)件,。消費(fèi)者以個(gè)人開(kāi)發(fā)者為主,,購(gòu)買(mǎi)商品后,商家會(huì)提供教學(xué)視頻和技術(shù)支持,。
樂(lè)鑫科技的ESP32-S3芯片支持高性能圖像識(shí)別,、語(yǔ)音喚醒和識(shí)別等應(yīng)用。開(kāi)發(fā)者稱(chēng),,該芯片可在本地離線運(yùn)行一些AI模型,如語(yǔ)音識(shí)別,、人臉識(shí)別和移動(dòng)檢測(cè),,但大部分自然語(yǔ)言對(duì)話仍需線上接入大語(yǔ)言模型,。恒玄科技、中科藍(lán)訊,、炬芯科技等公司的SoC芯片也在終端AI部署中有所應(yīng)用,。例如,恒玄科技的BECO嵌入式AI協(xié)處理器與主CPU核心配合工作,,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,,保持低功耗。炬芯科技在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,,采用基于SRAM的存內(nèi)計(jì)算技術(shù),,并逐步升級(jí)為CPU、DSP加NPU的三核異構(gòu)計(jì)算架構(gòu),,打造低功耗端側(cè)AI算力,。
DeepSeek的出現(xiàn)進(jìn)一步打開(kāi)了端側(cè)AI落地的應(yīng)用想象空間。通過(guò)蒸餾,,大模型推理能力可遷移至小參數(shù)模型,,大幅提升AI部署靈活性。光大證券分析師劉凱表示,,蒸餾模型有多個(gè)版本,,盡管蒸餾會(huì)損失部分能力,但更小的參數(shù)意味著更大的靈活性,。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型并部署至各類(lèi)終端產(chǎn)品中,,預(yù)計(jì)將助力硬件銷(xiāo)量提升,并涌現(xiàn)更多基于AI服務(wù)的付費(fèi)點(diǎn),。
產(chǎn)業(yè)鏈人士看好DeepSeek對(duì)AI端側(cè)的積極影響,。一家存儲(chǔ)芯片廠商人士表示,DeepSeek對(duì)AI端側(cè)存儲(chǔ)有積極作用,,特別看好智能眼鏡中的應(yīng)用,。未來(lái)智能眼鏡的存儲(chǔ)容量可能還會(huì)增加。另一家消費(fèi)電子配套芯片公司人士稱(chēng),,盡管他們的產(chǎn)品位于產(chǎn)業(yè)鏈上游,,但仍感受到DeepSeek為智能終端行業(yè)帶來(lái)的積極影響,預(yù)計(jì)今年國(guó)內(nèi)智能眼鏡市場(chǎng)將迎來(lái)爆發(fā),。
華安證券分析師陳耀波表示,,端側(cè)實(shí)現(xiàn)AI能力需要端側(cè)AI大模型的落地。國(guó)內(nèi)手機(jī)整機(jī)廠商均已推出文檔摘要,、AI修圖等端側(cè)AI功能,。基于DeepSeekR1在推理能力上的出色表現(xiàn),,若能進(jìn)入AI智能終端,,將推出具有強(qiáng)大AI功能的產(chǎn)品,,有望提升用戶體驗(yàn)。光大證券建議關(guān)注恒玄科技,、中科藍(lán)訊等SoC芯片商以及普冉股份,、兆易創(chuàng)新等零部件環(huán)節(jié)。
PC產(chǎn)品同時(shí)具備生產(chǎn)力工具和個(gè)人智能管家兩大屬性,,被認(rèn)為是端側(cè)模型落地的首站,。搭載龍芯中科3A6000處理器的信創(chuàng)PC已宣布實(shí)現(xiàn)DeepSeek本地化部署。誠(chéng)邁科技表示,,DeepSeek實(shí)現(xiàn)本地部署后,,無(wú)需依賴云端服務(wù)器,避免了因網(wǎng)絡(luò)波動(dòng)或服務(wù)器過(guò)載導(dǎo)致的服務(wù)中斷,,并保障了信息安全,。在黨政機(jī)關(guān)等敏感信息場(chǎng)景中,用戶可通過(guò)本地部署DeepSeek完成多項(xiàng)工作,,防止數(shù)據(jù)外泄,。
國(guó)產(chǎn)GPU廠商沐曦與聯(lián)想合作推出了面向敏捷部署的DeepSeek智能體一體機(jī)。該產(chǎn)品深度融合主流大模型庫(kù),,并通過(guò)私有化部署實(shí)現(xiàn)安全合規(guī)及高度定制化能力,。實(shí)測(cè)數(shù)據(jù)顯示,在相同并發(fā)條件下,,沐曦曦思N260 GPU在Qwen2.5-14B模型推理實(shí)測(cè)性能達(dá)到NVIDIA L20 GPU的110%-130%,,支持本地部署各種參數(shù)蒸餾模型推理。
除了本地化部署,,DeepSeek作為開(kāi)源模型還通過(guò)各大云計(jì)算平臺(tái)向中小企業(yè)及個(gè)人用戶提供AI服務(wù)資源,。業(yè)內(nèi)人士表示,目前DeepSeek處于開(kāi)源狀態(tài),,云計(jì)算平臺(tái)遵循開(kāi)源協(xié)議均可使用,。近期DeepSeek的火熱使得算力平臺(tái)需求明顯增多?;谥髁髟破脚_(tái)異構(gòu)計(jì)算方案,,DeepSeek推動(dòng)了國(guó)產(chǎn)大算力芯片和異構(gòu)計(jì)算方案被市場(chǎng)接納,進(jìn)一步降低了AI訓(xùn)練成本,。
阿里,、騰訊、超算互聯(lián)網(wǎng)等算力平臺(tái)均已上線DeepSeek系列模型,。以阿里云為例,,用戶無(wú)需編寫(xiě)代碼即可云上一鍵部署DeepSeek-V3、DeepSeek-R1,,簡(jiǎn)化了AI模型的開(kāi)發(fā)流程,。超算互聯(lián)網(wǎng)平臺(tái)則提供不限量免費(fèi)體驗(yàn)服務(wù),。整體來(lái)看,DeepSeek確實(shí)讓更多AI應(yīng)用落地的軟硬件成本有所減少,,強(qiáng)化了國(guó)產(chǎn)AI從算法、算力到應(yīng)用的生態(tài)閉環(huán),。