新美國安全中心技術(shù)和國家安全項(xiàng)目主管沙雷表示,，自主武器系統(tǒng)可能因代碼問題或黑客攻擊而失靈,，機(jī)器人攻擊人類部隊(duì),，人類無法作出反應(yīng)或局部局勢迅速升級的情況都有可能發(fā)生,。自主武器系統(tǒng)的可靠性難以測試，會“思考”的機(jī)器系統(tǒng)可能以人類操控者從未想象到的方式行事,。

美國國防部前副部長米勒認(rèn)為，自主武器系統(tǒng)在戰(zhàn)事激烈的地區(qū)執(zhí)行任務(wù)，讓機(jī)器全權(quán)負(fù)責(zé)的誘惑可能會難以抵制,，技術(shù)上的可能總是讓人們作出利于形勢的選擇。

對于自主武器系統(tǒng),，人工智能界的專家學(xué)者頻頻說“不”,，拒絕進(jìn)行相關(guān)領(lǐng)域的研發(fā)。例如,，韓國科學(xué)技術(shù)院研制的機(jī)器人曾經(jīng)贏得２０１５年美國國防部高級研究項(xiàng)目局機(jī)器人挑戰(zhàn)賽的冠軍,。據(jù)《韓國時(shí)報(bào)》報(bào)道，韓國科學(xué)技術(shù)院和軍工企業(yè)韓華系統(tǒng)合作成立研發(fā)中心,，目的就是為了研發(fā)可以“無需人工控制就能搜尋并清除目標(biāo)”的人工智能武器,。

對此，５０多名頂尖人工智能研究人員在公開信中說,，他們將抵制和韓國科學(xué)技術(shù)院的任何合作,，直到該機(jī)構(gòu)宣布不會研發(fā)任何缺乏人類控制的自主武器。韓國科學(xué)技術(shù)院隨后發(fā)表聲明說,，他們沒有研發(fā)“致命自動(dòng)武器系統(tǒng)或殺手機(jī)器人”的計(jì)劃,。

美國五角大樓“梅文計(jì)劃”始于２０１７年，旨在找到加速軍方應(yīng)用最新人工智能技術(shù)的方式,。盡管五角大樓和谷歌都表示,，谷歌的產(chǎn)品不會創(chuàng)造出無需人類操作者就能開火的自主武器系統(tǒng)，但谷歌員工在公開信中說,，參與“梅文計(jì)劃”將對谷歌的品牌和人才吸引力造成不可挽回的傷害,，谷歌不應(yīng)卷入戰(zhàn)爭，谷歌及其合約商永遠(yuǎn)不應(yīng)該發(fā)展戰(zhàn)爭科技,。

在２０１７年人工智能國際會議上,，有硅谷“鋼鐵俠”之稱的馬斯克、蘋果聯(lián)合創(chuàng)始人之一沃茲尼亞克,、研發(fā)“阿爾法圍棋”的深度思維公司哈薩比斯等人,，都曾簽署公開信，呼吁聯(lián)合國應(yīng)像禁止生化武器一樣,，禁止在戰(zhàn)爭中使用致命的自主武器和“殺手機(jī)器人”,。