ChatGPT的問世不僅引領(lǐng)了新一波人工智能熱潮,,也促使網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪手段升級,。亞信安全的高級副總裁陳奮指出,以往黑客制造攻擊病毒需耗時數(shù)月,,如今借助大型模型工具,,這一過程縮短至幾分鐘,,顯著提升了攻擊效率,。這些模型對編程語言的高度理解能力,,使它們能快速識別并利用軟件漏洞。此外,,一些黑客利用AI算法進(jìn)行深度偽造視頻,,促進(jìn)了新型網(wǎng)絡(luò)詐騙的興起。
攻擊目標(biāo)也從傳統(tǒng)資產(chǎn)轉(zhuǎn)向了AI算力基礎(chǔ)設(shè)施和大型模型本身,。例如,,曾有數(shù)千臺服務(wù)器組成的美國算力集群遭黑客入侵用以挖掘比特幣,顯示出AI算力資源正成為極具吸引力的目標(biāo),。僅一年內(nèi),,已有40多種針對大型模型的攻擊手段出現(xiàn),。
應(yīng)對這一挑戰(zhàn),國內(nèi)外多家企業(yè)已推出針對大型模型的安全產(chǎn)品,。微軟,、谷歌及網(wǎng)絡(luò)安全企業(yè)如Paloalto,、CROWDSTRIKE等,,紛紛在自家安全平臺上整合了大型模型的安全功能。據(jù)統(tǒng)計,,超過80%的網(wǎng)絡(luò)安全公司正將大型模型技術(shù)融入產(chǎn)品,,30%的公司已著手大型模型安全研究,安全領(lǐng)域創(chuàng)業(yè)活動亦隨之活躍,。
針對AI技術(shù)伴生的安全隱患,,中國工程院院士張亞勤建議,從事大型模型研究的企業(yè)或機(jī)構(gòu)應(yīng)將投資的10%-30%用于相關(guān)安全風(fēng)險的研究與產(chǎn)品開發(fā),。
張亞勤強(qiáng)調(diào),,人工智能尤其是大型模型雖帶來新機(jī)遇,但也伴隨著諸多安全風(fēng)險,,包括模型自身安全,、數(shù)據(jù)安全、模型攻擊性,、不透明性及可控性等問題,。陳奮則提到了“海綿樣本攻擊”,這種攻擊能大幅增加模型的算力消耗,,導(dǎo)致響應(yīng)速度嚴(yán)重下降,,對依賴大型模型的應(yīng)用構(gòu)成潛在威脅。
AI技術(shù)的發(fā)展也促使網(wǎng)絡(luò)安全防護(hù)進(jìn)入AI對抗AI的新階段,,AI驅(qū)動的安全檢測技術(shù)成為識別和防御黑客攻擊的關(guān)鍵,。同時,大模型技術(shù)正推動網(wǎng)絡(luò)安全產(chǎn)品進(jìn)行全面革新,,未能及時轉(zhuǎn)型的安全廠商或?qū)⑹ナ袌龈偁幜?。隨著AI深入個人生活,從智能家居到智能汽車,,保護(hù)對象已從物理資產(chǎn)轉(zhuǎn)變?yōu)锳I中心,,個人隱私和數(shù)據(jù)安全面臨前所未有的挑戰(zhàn)。
眾多安全廠商已開始布局大模型安全領(lǐng)域,,如亞信安全的信立方,、奇安信的Q-GPT等。陳奮認(rèn)為,,安全問題可歸結(jié)為保護(hù)AI及其基礎(chǔ)設(shè)施的安全,,以及利用AI強(qiáng)化網(wǎng)絡(luò)安全兩個方面,。亞信安全在合作生態(tài)構(gòu)建上采取了與算力公司、科研機(jī)構(gòu)合作的策略,,以靈活獲取所需算力并提供安全解決方案,。
張亞勤主張,AI大模型的開發(fā)應(yīng)至少將10%的預(yù)算投入到安全風(fēng)險的研究與產(chǎn)品創(chuàng)新中,,并提倡對大模型實施分級管理,,對AI生成內(nèi)容進(jìn)行標(biāo)識,建立實體映射系統(tǒng)以明確責(zé)任歸屬,,以及設(shè)定安全使用的界限,。他認(rèn)為,應(yīng)對AI安全風(fēng)險是全球企業(yè)和政府共同的責(zé)任,,需要共同努力,。
隨著AI技術(shù)的飛速發(fā)展,,眾多汽車制造商正致力于將AI大模型融入汽車設(shè)計中,,以此增強(qiáng)車輛的智能化特性。
2024-04-29 17:01:49北京車展“哪吒鬧?!保河麑I大模型上車美國Axios新聞網(wǎng)最近報道,,企業(yè)家埃隆·馬斯克在洛杉磯的米爾肯研究所全球會議中提到,他的太空探索技術(shù)公司SpaceX目前在運營中“基本不依賴人工智能(AI)”
2024-05-07 22:31:40馬斯克:SpaceX和星鏈都沒用AI在遙遠(yuǎn)的未來,,地球會怎樣,取決于我們今天的選擇,。地球是全人類賴以生存的唯一家園,。珍愛地球,,人與自然和諧共生。
2024-04-22 15:49:19AI科幻大片丨珍AI地球