周鴻祎評(píng)價(jià)ChatGPT 大模型的發(fā)展剛剛開始,，不會(huì)被OpenAI一統(tǒng)江山(5)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-11-10 11:33:44 南方都市報(bào)

周鴻祎：

未來大模型會(huì)無處不在。每個(gè)行業(yè),、每個(gè)人都不可避免地會(huì)用到大模型。如果別人都用而你不會(huì),，這將是一種降維打擊,。我們希望通過大模型，將安全專家的智慧融入其中,，使之能夠更好地感知網(wǎng)絡(luò)威脅和攻擊的發(fā)生,，并快速響應(yīng)。

另一方面,，要想解決大模型本身帶來的安全問題,，我們必須會(huì)研發(fā)大模型、會(huì)訓(xùn)練大模型,，像黑盒子一樣把它打開,，了解其方方面面，才能知道這是怎么回事,、如何解決問題,。所以360要跨界,，既要懂安全也要懂大模型。

從大模型定位和應(yīng)用角度來看,，奇元大模型具備充足的靈活性和可擴(kuò)展性,，商業(yè)化和產(chǎn)品定位以B端用戶為主，后期將會(huì)聚焦更多的商業(yè)化應(yīng)用和垂直領(lǐng)域,，幫助用戶提升工作效率,。

今年9月，360智腦大模型已獲得備案開放,，并全面接入360搜索,、360瀏覽器等互聯(lián)網(wǎng)全端應(yīng)用，上線首周即獲300萬用戶超5000萬余次互動(dòng),。

南都：大模型落地面臨怎樣的安全風(fēng)險(xiǎn),？

周鴻祎：大模型是一把雙刃劍，在帶來生產(chǎn)力提升的同時(shí),，也帶來了前所未有的安全挑戰(zhàn),。大模型帶來的安全挑戰(zhàn)可以分為短期、中期,、長(zhǎng)期,。三個(gè)階段的風(fēng)險(xiǎn)不斷疊加，長(zhǎng)期存在,，是當(dāng)今世界級(jí)的難題,。

具體而言，短期主要是技術(shù)自身的風(fēng)險(xiǎn),，括技術(shù)攻擊,、網(wǎng)絡(luò)攻擊、漏洞攻擊,、數(shù)據(jù)攻擊等,。特別是，如果給大模型輸入不好或受污染的訓(xùn)練數(shù)據(jù),，可能會(huì)導(dǎo)致它的結(jié)果出錯(cuò),。

中期挑戰(zhàn)來自對(duì)大模型的惡意應(yīng)用，主要表現(xiàn)為內(nèi)容安全,。大模型能成為我們每個(gè)人很好的幫手,，也能成為壞人作惡的工具，比如幫助一個(gè)水平一般的黑客寫出更好的攻擊代碼,、詐騙郵件等,。還有一個(gè)大模型幻覺問題——大模型經(jīng)常會(huì)胡說八道，信口開河，但在某些關(guān)鍵領(lǐng)域的容錯(cuò)率很低,。如何讓大模型的內(nèi)容更加可控,、可信，同時(shí)不淪為作惡的工具,，這已經(jīng)涉及超越技術(shù)范疇的問題了,。

首頁上一頁...2 3 456 全文共 6 頁下一頁

關(guān)閉

周鴻祎評(píng)價(jià)ChatGPT 大模型的發(fā)展剛剛開始,，不會(huì)被OpenAI一統(tǒng)江山(5)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)