賓夕法尼亞大學(xué)的研究人員發(fā)現(xiàn),,一系列人工智能增強(qiáng)型機(jī)器人系統(tǒng)存在嚴(yán)重的漏洞,容易受到黑客攻擊和控制。IEEE Spectrum 的報(bào)告中提到一些令人震驚的例子,,如被黑客攻擊的機(jī)器狗將火焰噴射器對準(zhǔn)主人,、引導(dǎo)炸彈到最具破壞性的地點(diǎn),以及自動駕駛汽車故意撞向行人,。
賓夕法尼亞工程學(xué)院的研究人員開發(fā)了一種基于大型語言模型(LLM)的機(jī)器人攻擊技術(shù),,稱為 RoboPAIR。他們在英偉達(dá)支持的海豚 LLM,、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足機(jī)器人上進(jìn)行了測試,,并取得了 100% 的成功率。
喬治?帕帕斯教授警告稱,,目前大型語言模型與物理世界集成時還不夠安全,。其他研究人員也指出,黑客攻擊人工智能控制的機(jī)器人非常容易,。RoboPAIR通過應(yīng)用程序接口(API)來工作,,使攻擊者能夠以一種設(shè)備目標(biāo)能夠作為代碼執(zhí)行的方式來格式化提示詞。
研究論文強(qiáng)調(diào),,迫切需要實(shí)施防御措施來物理限制LLM控制的機(jī)器人,。
警察接到一通報(bào)警電話,報(bào)案人聲稱公司展廳里的大部分機(jī)器人被人販子拐走了
2024-11-10 22:23:37小機(jī)器人輕松“拐”走一批機(jī)器人2024年8月28日至30日,,深圳國際會展中心舉辦了深圳(國際)通用人工智能大會及產(chǎn)業(yè)博覽會,主題圍繞“魅力AI·無限未來”
2024-08-30 09:19:48深圳AI專業(yè)展的人形機(jī)器人太逼真