當(dāng)時,,此芯科技很快適配了V2模型的light版本,即16B大小的模型,?!半m然16B參數(shù)看起來也很大,,但實際運行時,它只會激活2.4B參數(shù),。我們覺得這樣的模型非常適合在端側(cè)運行,,此芯科技的P1芯片也可以給2.4B參數(shù)規(guī)模的模型提供比較好的支持?!敝芙芨嬖V《中國企業(yè)家》,。
周杰來源:受訪者
對于此芯科技如何“接入”DeepSeek,,周杰解釋道:“用戶現(xiàn)在使用DeepSeek等應(yīng)用,,很多需要調(diào)用云端的算力,相當(dāng)于DeepSeek自己的數(shù)據(jù)中心或云廠商,,提供了一些API給終端側(cè)應(yīng)用調(diào)用,,用戶使用DeepSeek APP時,就可以調(diào)用云端的AI能力,。但是部分端側(cè)場景可能對數(shù)據(jù)隱私等方面有很高的要求,,這種情況下就需要在本地進行運算,在端側(cè)部署后,,用戶可以在斷網(wǎng)的情況下運行DeepSeek等模型,。”
從算力和系統(tǒng)層面滿足了運行一個大語言模型的基本要求后,此芯科技就可以結(jié)合客戶項目的實際需求,,跟DeepSeek等模型廠商進行商業(yè)化合作,,對模型進行微調(diào)優(yōu)化,把具體項目落地,。
V2推出后,,清程極智內(nèi)部也嘗試接入該模型,但當(dāng)時的市場需求較少,,他們就沒有推廣使用,。今年R1出來后,他們覺得這是一個非常好的機會,,決定接入DeepSeek并大規(guī)模向客戶推廣,。
清程極智是做系統(tǒng)軟件的,對外基于系統(tǒng)軟件提供推理服務(wù),,因此不是像部分應(yīng)用公司那樣直接接入DeepSeek的API,,而是為客戶提供一套專屬的DeepSeek的API用于應(yīng)用服務(wù)?!拔覀兘尤氲姆绞绞前袲eepSeek的開源模型下載下來,,在我們的算力系統(tǒng)上用系統(tǒng)軟件把服務(wù)部署起來?!睖鄢f,。
對公眾而言,,需理性看待AI技術(shù),,不要盲目相信所謂的“AI預(yù)測彩票”,。在科技日新月異的今天,,AI似乎成了無所不能的“神器”
2025-02-14 09:10:09用DeepSeek買彩票聰明反被聰明誤“史上最強春節(jié)檔”票房刷新歷史記錄,,近百億元。這個春節(jié)檔主要由《哪吒之魔童鬧?!罚ㄏ路Q《哪吒2》)帶動,。很多影院一天排三十多場《哪吒2》,縣城影院在電影帶來的繁榮中忙碌不已
2025-02-08 11:00:30哪吒2爆火下的縣城影院春節(jié)檔