周鴻祎評價ChatGPT 大模型的發(fā)展剛剛開始,，不會被OpenAI一統(tǒng)江山(5)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-11-10 11:33:44 南方都市報

周鴻祎：

未來大模型會無處不在,。每個行業(yè)、每個人都不可避免地會用到大模型,。如果別人都用而你不會,，這將是一種降維打擊。我們希望通過大模型,，將安全專家的智慧融入其中,，使之能夠更好地感知網(wǎng)絡(luò)威脅和攻擊的發(fā)生，并快速響應(yīng),。

另一方面,，要想解決大模型本身帶來的安全問題，我們必須會研發(fā)大模型,、會訓(xùn)練大模型,，像黑盒子一樣把它打開，了解其方方面面,，才能知道這是怎么回事,、如何解決問題。所以360要跨界,，既要懂安全也要懂大模型。

從大模型定位和應(yīng)用角度來看,，奇元大模型具備充足的靈活性和可擴展性,，商業(yè)化和產(chǎn)品定位以B端用戶為主，后期將會聚焦更多的商業(yè)化應(yīng)用和垂直領(lǐng)域,，幫助用戶提升工作效率,。

今年9月，360智腦大模型已獲得備案開放,，并全面接入360搜索,、360瀏覽器等互聯(lián)網(wǎng)全端應(yīng)用，上線首周即獲300萬用戶超5000萬余次互動,。

南都：大模型落地面臨怎樣的安全風(fēng)險,？

周鴻祎：大模型是一把雙刃劍，在帶來生產(chǎn)力提升的同時,，也帶來了前所未有的安全挑戰(zhàn),。大模型帶來的安全挑戰(zhàn)可以分為短期、中期,、長期,。三個階段的風(fēng)險不斷疊加，長期存在,，是當(dāng)今世界級的難題,。

具體而言,，短期主要是技術(shù)自身的風(fēng)險，括技術(shù)攻擊,、網(wǎng)絡(luò)攻擊,、漏洞攻擊、數(shù)據(jù)攻擊等,。特別是,，如果給大模型輸入不好或受污染的訓(xùn)練數(shù)據(jù)，可能會導(dǎo)致它的結(jié)果出錯,。

中期挑戰(zhàn)來自對大模型的惡意應(yīng)用,，主要表現(xiàn)為內(nèi)容安全。大模型能成為我們每個人很好的幫手,，也能成為壞人作惡的工具,，比如幫助一個水平一般的黑客寫出更好的攻擊代碼、詐騙郵件等,。還有一個大模型幻覺問題——大模型經(jīng)常會胡說八道,，信口開河，但在某些關(guān)鍵領(lǐng)域的容錯率很低,。如何讓大模型的內(nèi)容更加可控,、可信，同時不淪為作惡的工具,，這已經(jīng)涉及超越技術(shù)范疇的問題了,。

首頁上一頁...2 3 456 全文共 6 頁下一頁

關(guān)閉

周鴻祎評價ChatGPT 大模型的發(fā)展剛剛開始,，不會被OpenAI一統(tǒng)江山(5)

相關(guān)新聞

今日熱點

頻道熱點