前谷歌CEO反對開展“AI曼哈頓計劃” 倡導(dǎo)防御性策略

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 11:47:52 金融界

在周三發(fā)布的一份政策文件中,，前谷歌首席執(zhí)行官埃里克·施密特,、Scale AI公司首席執(zhí)行官亞歷山大·王以及人工智能安全中心主任丹·亨德里克斯表示,，美國不應(yīng)以“曼哈頓計劃”式的方式大力推動開發(fā)具有“超人”智能的人工智能系統(tǒng),，即通用人工智能（AGI）,。這份題為《超級智能戰(zhàn)略》的文件認為,，美國若積極爭取獨家掌控超級智能人工智能系統(tǒng),，可能會招致同行的強烈報復(fù),，報復(fù)形式很可能是網(wǎng)絡(luò)攻擊,，這可能會破壞國際關(guān)系的穩(wěn)定,。

文件指出，“曼哈頓計劃”假定競爭對手會默許一種持久的不平衡狀態(tài)或是全球性毀滅,，而不會采取行動去阻止它,。一開始旨在研發(fā)超級武器并實現(xiàn)全球控制的行動，有可能引發(fā)敵對的反制措施,，并加劇緊張局勢,，從而破壞這一戰(zhàn)略聲稱要維護的穩(wěn)定。這份文件由美國人工智能行業(yè)三位極具影響力的人物共同撰寫,。就在幾個月前,，美國國會一個委員會提議開展一項“曼哈頓計劃”式的行動，為通用人工智能的開發(fā)提供資金，其模式效仿的是美國在20世紀40年代的原子彈計劃,。美國能源部長克里斯·賴特最近與OpenAI聯(lián)合創(chuàng)始人格雷格·布羅克曼一同站在一個超級計算機站點前時表示,，美國正處于人工智能領(lǐng)域“新曼哈頓計劃的開端”。

《超級智能戰(zhàn)略》這份文件對近幾個月來一些美國政策制定者和行業(yè)領(lǐng)袖所倡導(dǎo)的觀點提出了挑戰(zhàn),，該觀點認為由政府支持的通用人工智能研發(fā)項目是與他國競爭的最佳方式,。在施密特、王和亨德里克斯看來,，美國在通用人工智能領(lǐng)域處于一種類似于相互確保摧毀的對峙狀態(tài),。就像全球大國不會尋求對核武器的壟斷一樣，施密特及其共同作者認為,，美國在競相主導(dǎo)極其強大的人工智能系統(tǒng)時應(yīng)持謹慎態(tài)度,。

雖然將人工智能系統(tǒng)比作核武器聽起來有些極端，但世界各國已將人工智能視為一項重要的軍事優(yōu)勢,。美國五角大樓已經(jīng)表示，人工智能正在幫助加快軍方的“殺傷鏈”速度,。施密特等人提出了一個他們稱之為“相互確保人工智能失靈”（MAIM）的概念,，即各國政府可以主動禁用具有威脅性的人工智能項目，而不是等待對手將通用人工智能武器化,。

12 全文共 2 頁下一頁

關(guān)閉

前谷歌CEO反對開展“AI曼哈頓計劃” 倡導(dǎo)防御性策略

相關(guān)新聞

今日熱點

頻道熱點