隨著DeepSeek的爆火,,個人用戶部署AI大模型迅速走紅。例如,“80塊打造個人語音助手”,、“150塊DIY豆包智能機器人”等低成本方案吸引了眾多關(guān)注,??萍冀鐕@AI降本的努力已持續(xù)多時,。DeepSeek在算法層面的優(yōu)化降低了推理成本,,為國產(chǎn)算力芯片和計算集群網(wǎng)絡(luò)的發(fā)展爭取了更多空間,。軟硬件成本的減少也促進了國內(nèi)AI應(yīng)用的發(fā)展,,形成了正向循環(huán)。
越來越多的個人開發(fā)者嘗試低成本AI模型部署,,使公眾意識到AI普惠時代已經(jīng)到來,,端側(cè)AI落地迫在眉睫。PC產(chǎn)品被認為是端側(cè)AI模型落地的第一站。供應(yīng)鏈人士認為,,更大的潛力在于智能眼鏡,、AI玩具等應(yīng)用中。DeepSeek帶來的輕量化模型將對智能終端行業(yè)產(chǎn)生積極影響,。
“80塊買一塊開發(fā)板,,按照教程進行硬件連接和固件燒錄,就能接入DeepSeek等大模型,,打造個人語音助手系統(tǒng),。”技術(shù)社群中有開發(fā)者分享了這樣的實踐,。此外,,花150元還能自行搭建一個豆包智能機器人,358元則能搭建具備手勢識別和觸摸交互功能的機器人,。這些方案大多基于樂鑫科技的ESP系列芯片,。淘寶上搜索ESP32關(guān)鍵詞,可以找到多個商家售賣開發(fā)板或套件,,價格從20元到340元不等,。一套80元的聊天機器人ESP32-S3開發(fā)套件全網(wǎng)銷量已超1000件,而40元的ESP32-S3開發(fā)板月售超過1萬件,。消費者以個人開發(fā)者為主,,購買商品后,商家會提供教學視頻和技術(shù)支持,。
樂鑫科技的ESP32-S3芯片支持高性能圖像識別,、語音喚醒和識別等應(yīng)用。開發(fā)者稱,,該芯片可在本地離線運行一些AI模型,,如語音識別、人臉識別和移動檢測,,但大部分自然語言對話仍需線上接入大語言模型,。恒玄科技、中科藍訊,、炬芯科技等公司的SoC芯片也在終端AI部署中有所應(yīng)用,。例如,恒玄科技的BECO嵌入式AI協(xié)處理器與主CPU核心配合工作,,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,,保持低功耗。炬芯科技在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,,采用基于SRAM的存內(nèi)計算技術(shù),,并逐步升級為CPU,、DSP加NPU的三核異構(gòu)計算架構(gòu),打造低功耗端側(cè)AI算力,。