隨著DeepSeek的爆火,個(gè)人用戶部署AI大模型迅速走紅,。例如,“80塊打造個(gè)人語音助手”,、“150塊DIY豆包智能機(jī)器人”等低成本方案吸引了眾多關(guān)注??萍冀鐕@AI降本的努力已持續(xù)多時(shí),。DeepSeek在算法層面的優(yōu)化降低了推理成本,為國產(chǎn)算力芯片和計(jì)算集群網(wǎng)絡(luò)的發(fā)展?fàn)幦×烁嗫臻g,。軟硬件成本的減少也促進(jìn)了國內(nèi)AI應(yīng)用的發(fā)展,,形成了正向循環(huán)。
越來越多的個(gè)人開發(fā)者嘗試低成本AI模型部署,,使公眾意識到AI普惠時(shí)代已經(jīng)到來,,端側(cè)AI落地迫在眉睫。PC產(chǎn)品被認(rèn)為是端側(cè)AI模型落地的第一站,。供應(yīng)鏈人士認(rèn)為,,更大的潛力在于智能眼鏡,、AI玩具等應(yīng)用中,。DeepSeek帶來的輕量化模型將對智能終端行業(yè)產(chǎn)生積極影響。
“80塊買一塊開發(fā)板,,按照教程進(jìn)行硬件連接和固件燒錄,,就能接入DeepSeek等大模型,打造個(gè)人語音助手系統(tǒng),?!奔夹g(shù)社群中有開發(fā)者分享了這樣的實(shí)踐。此外,,花150元還能自行搭建一個(gè)豆包智能機(jī)器人,,358元?jiǎng)t能搭建具備手勢識別和觸摸交互功能的機(jī)器人。這些方案大多基于樂鑫科技的ESP系列芯片,。淘寶上搜索ESP32關(guān)鍵詞,,可以找到多個(gè)商家售賣開發(fā)板或套件,,價(jià)格從20元到340元不等。一套80元的聊天機(jī)器人ESP32-S3開發(fā)套件全網(wǎng)銷量已超1000件,,而40元的ESP32-S3開發(fā)板月售超過1萬件,。消費(fèi)者以個(gè)人開發(fā)者為主,購買商品后,,商家會(huì)提供教學(xué)視頻和技術(shù)支持,。
樂鑫科技的ESP32-S3芯片支持高性能圖像識別、語音喚醒和識別等應(yīng)用,。開發(fā)者稱,,該芯片可在本地離線運(yùn)行一些AI模型,如語音識別,、人臉識別和移動(dòng)檢測,,但大部分自然語言對話仍需線上接入大語言模型。恒玄科技,、中科藍(lán)訊,、炬芯科技等公司的SoC芯片也在終端AI部署中有所應(yīng)用。例如,,恒玄科技的BECO嵌入式AI協(xié)處理器與主CPU核心配合工作,,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,保持低功耗,。炬芯科技在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,,采用基于SRAM的存內(nèi)計(jì)算技術(shù),并逐步升級為CPU,、DSP加NPU的三核異構(gòu)計(jì)算架構(gòu),,打造低功耗端側(cè)AI算力。
DeepSeek的出現(xiàn)進(jìn)一步打開了端側(cè)AI落地的應(yīng)用想象空間,。通過蒸餾,,大模型推理能力可遷移至小參數(shù)模型,大幅提升AI部署靈活性,。光大證券分析師劉凱表示,,蒸餾模型有多個(gè)版本,盡管蒸餾會(huì)損失部分能力,,但更小的參數(shù)意味著更大的靈活性,。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型并部署至各類終端產(chǎn)品中,預(yù)計(jì)將助力硬件銷量提升,,并涌現(xiàn)更多基于AI服務(wù)的付費(fèi)點(diǎn),。
產(chǎn)業(yè)鏈人士看好DeepSeek對AI端側(cè)的積極影響。一家存儲芯片廠商人士表示,DeepSeek對AI端側(cè)存儲有積極作用,,特別看好智能眼鏡中的應(yīng)用,。未來智能眼鏡的存儲容量可能還會(huì)增加。另一家消費(fèi)電子配套芯片公司人士稱,,盡管他們的產(chǎn)品位于產(chǎn)業(yè)鏈上游,,但仍感受到DeepSeek為智能終端行業(yè)帶來的積極影響,預(yù)計(jì)今年國內(nèi)智能眼鏡市場將迎來爆發(fā),。
華安證券分析師陳耀波表示,,端側(cè)實(shí)現(xiàn)AI能力需要端側(cè)AI大模型的落地。國內(nèi)手機(jī)整機(jī)廠商均已推出文檔摘要,、AI修圖等端側(cè)AI功能,。基于DeepSeekR1在推理能力上的出色表現(xiàn),,若能進(jìn)入AI智能終端,,將推出具有強(qiáng)大AI功能的產(chǎn)品,有望提升用戶體驗(yàn),。光大證券建議關(guān)注恒玄科技,、中科藍(lán)訊等SoC芯片商以及普冉股份、兆易創(chuàng)新等零部件環(huán)節(jié),。
PC產(chǎn)品同時(shí)具備生產(chǎn)力工具和個(gè)人智能管家兩大屬性,,被認(rèn)為是端側(cè)模型落地的首站。搭載龍芯中科3A6000處理器的信創(chuàng)PC已宣布實(shí)現(xiàn)DeepSeek本地化部署,。誠邁科技表示,,DeepSeek實(shí)現(xiàn)本地部署后,無需依賴云端服務(wù)器,,避免了因網(wǎng)絡(luò)波動(dòng)或服務(wù)器過載導(dǎo)致的服務(wù)中斷,,并保障了信息安全。在黨政機(jī)關(guān)等敏感信息場景中,,用戶可通過本地部署DeepSeek完成多項(xiàng)工作,,防止數(shù)據(jù)外泄。
國產(chǎn)GPU廠商沐曦與聯(lián)想合作推出了面向敏捷部署的DeepSeek智能體一體機(jī),。該產(chǎn)品深度融合主流大模型庫,,并通過私有化部署實(shí)現(xiàn)安全合規(guī)及高度定制化能力,。實(shí)測數(shù)據(jù)顯示,,在相同并發(fā)條件下,沐曦曦思N260 GPU在Qwen2.5-14B模型推理實(shí)測性能達(dá)到NVIDIA L20 GPU的110%-130%,,支持本地部署各種參數(shù)蒸餾模型推理,。
除了本地化部署,DeepSeek作為開源模型還通過各大云計(jì)算平臺向中小企業(yè)及個(gè)人用戶提供AI服務(wù)資源。業(yè)內(nèi)人士表示,,目前DeepSeek處于開源狀態(tài),,云計(jì)算平臺遵循開源協(xié)議均可使用。近期DeepSeek的火熱使得算力平臺需求明顯增多,?;谥髁髟破脚_異構(gòu)計(jì)算方案,DeepSeek推動(dòng)了國產(chǎn)大算力芯片和異構(gòu)計(jì)算方案被市場接納,,進(jìn)一步降低了AI訓(xùn)練成本,。
阿里、騰訊,、超算互聯(lián)網(wǎng)等算力平臺均已上線DeepSeek系列模型,。以阿里云為例,用戶無需編寫代碼即可云上一鍵部署DeepSeek-V3,、DeepSeek-R1,,簡化了AI模型的開發(fā)流程。超算互聯(lián)網(wǎng)平臺則提供不限量免費(fèi)體驗(yàn)服務(wù),。整體來看,,DeepSeek確實(shí)讓更多AI應(yīng)用落地的軟硬件成本有所減少,強(qiáng)化了國產(chǎn)AI從算法,、算力到應(yīng)用的生態(tài)閉環(huán),。
近日,,國產(chǎn)開源大模型DeepSeek在全球AI領(lǐng)域引起廣泛關(guān)注,。該模型憑借其出色的性價(jià)比成為全球增速最快的AI應(yīng)用之一
2025-02-06 17:52:28三大運(yùn)營商全面接入DeepSeek2月5日,華為純血鴻蒙HarmonyOS NEXT的小藝助手App正式接入了深度求索(DeepSeek)人工智能技術(shù),,智能體廣場同步上線了DeepSeek-R1 Beta版本
2025-02-06 07:16:46華為小藝助手接入DeepSeek