周鴻祎談DeepSeek時代的AI安全難題新挑戰(zhàn)需新解法(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 20:32:47 21世紀(jì)經(jīng)濟(jì)報道

盡管DeepSeek快速發(fā)展,，但幻覺問題依然存在,。周鴻祎認(rèn)為，幻覺是大模型具備真智能的體現(xiàn),，也是走向AGI的基礎(chǔ),。它讓大模型體現(xiàn)出更多的創(chuàng)造性和想象力，未來能夠在科研領(lǐng)域發(fā)揮重要作用,。但在醫(yī)療,、金融等對準(zhǔn)確性要求極高的行業(yè)，幻覺確實會帶來嚴(yán)重問題?，F(xiàn)階段,，人們已經(jīng)探索出多種方案來糾正幻覺，如多個大模型交叉驗證,、搜索矯正以及企業(yè)知識庫比對等,。

周鴻祎提出，在大模型產(chǎn)業(yè)高速發(fā)展的過程中,，不發(fā)展是最大的不安全,，不能因噎廢食。AI安全問題可以分為四個層面：基座模型安全,、用戶端安全,、知識庫安全和智能體安全。他建議用專門的“安全大模型”來管理這些安全問題,。

DeepSeek的一個重要價值是讓中國AI產(chǎn)業(yè)重新找到自己的定位,。過去一窩蜂地搞“百模大戰(zhàn)”，實際上是在重復(fù)造輪子,。而DeepSeek的出現(xiàn),，讓許多大模型廠商意識到，既然DeepSeek基座模型做得好,，那就讓它做AGI,，自己則轉(zhuǎn)向模型應(yīng)用。許多擁有自研大模型的互聯(lián)網(wǎng)廠商都開始接入DeepSeek,，標(biāo)志著大模型分工時代的到來,。

周鴻祎表示，DeepSeek最利好的肯定是大模型應(yīng)用生態(tài),。過去許多創(chuàng)業(yè)者或小公司因資源有限,，難以自建模型。開源模型性能不足,，高性能模型又價格昂貴,，導(dǎo)致許多企業(yè)遲遲不敢應(yīng)用大模型,。但DeepSeek解決了這些困擾，因此今年會有大量AI應(yīng)用出現(xiàn),。對于擁有足夠算力的頭部廠商,，他們肯定會繼續(xù)研發(fā)AGI。

周鴻祎建議企業(yè)首先要找好場景,，然后結(jié)合知識庫形成專業(yè)大模型,，接著基于專業(yè)大模型打造智能體，最后將智能體接入企業(yè)工作流程,。找場景是最關(guān)鍵的第一步。大模型應(yīng)用應(yīng)走垂直化道路,，企業(yè)需在特定場景中明確大模型能解決的具體問題,，這樣才能真正做好大模型應(yīng)用。

首頁上一頁 12共 2 頁

(責(zé)任編輯：張蕾)

關(guān)閉

周鴻祎談DeepSeek時代的AI安全難題 新挑戰(zhàn)需新解法(2)

相關(guān)新聞

今日熱點

頻道熱點

周鴻祎談DeepSeek時代的AI安全難題新挑戰(zhàn)需新解法(2)