前谷歌CEO反對開展“AI曼哈頓計(jì)劃” 倡導(dǎo)防御性策略

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 11:47:52 金融界

在周三發(fā)布的一份政策文件中,，前谷歌首席執(zhí)行官埃里克·施密特,、Scale AI公司首席執(zhí)行官亞歷山大·王以及人工智能安全中心主任丹·亨德里克斯表示,，美國不應(yīng)以“曼哈頓計(jì)劃”式的方式大力推動(dòng)開發(fā)具有“超人”智能的人工智能系統(tǒng),，即通用人工智能（AGI）。這份題為《超級智能戰(zhàn)略》的文件認(rèn)為,，美國若積極爭取獨(dú)家掌控超級智能人工智能系統(tǒng),，可能會(huì)招致同行的強(qiáng)烈報(bào)復(fù)，報(bào)復(fù)形式很可能是網(wǎng)絡(luò)攻擊,，這可能會(huì)破壞國際關(guān)系的穩(wěn)定,。

文件指出,，“曼哈頓計(jì)劃”假定競爭對手會(huì)默許一種持久的不平衡狀態(tài)或是全球性毀滅，而不會(huì)采取行動(dòng)去阻止它,。一開始旨在研發(fā)超級武器并實(shí)現(xiàn)全球控制的行動(dòng)，有可能引發(fā)敵對的反制措施,，并加劇緊張局勢,，從而破壞這一戰(zhàn)略聲稱要維護(hù)的穩(wěn)定,。這份文件由美國人工智能行業(yè)三位極具影響力的人物共同撰寫,。就在幾個(gè)月前,，美國國會(huì)一個(gè)委員會(huì)提議開展一項(xiàng)“曼哈頓計(jì)劃”式的行動(dòng),，為通用人工智能的開發(fā)提供資金,，其模式效仿的是美國在20世紀(jì)40年代的原子彈計(jì)劃,。美國能源部長克里斯·賴特最近與OpenAI聯(lián)合創(chuàng)始人格雷格·布羅克曼一同站在一個(gè)超級計(jì)算機(jī)站點(diǎn)前時(shí)表示,，美國正處于人工智能領(lǐng)域“新曼哈頓計(jì)劃的開端”,。

《超級智能戰(zhàn)略》這份文件對近幾個(gè)月來一些美國政策制定者和行業(yè)領(lǐng)袖所倡導(dǎo)的觀點(diǎn)提出了挑戰(zhàn)，該觀點(diǎn)認(rèn)為由政府支持的通用人工智能研發(fā)項(xiàng)目是與他國競爭的最佳方式。在施密特,、王和亨德里克斯看來,，美國在通用人工智能領(lǐng)域處于一種類似于相互確保摧毀的對峙狀態(tài),。就像全球大國不會(huì)尋求對核武器的壟斷一樣，施密特及其共同作者認(rèn)為,，美國在競相主導(dǎo)極其強(qiáng)大的人工智能系統(tǒng)時(shí)應(yīng)持謹(jǐn)慎態(tài)度,。

雖然將人工智能系統(tǒng)比作核武器聽起來有些極端，但世界各國已將人工智能視為一項(xiàng)重要的軍事優(yōu)勢,。美國五角大樓已經(jīng)表示,，人工智能正在幫助加快軍方的“殺傷鏈”速度。施密特等人提出了一個(gè)他們稱之為“相互確保人工智能失靈”（MAIM）的概念,，即各國政府可以主動(dòng)禁用具有威脅性的人工智能項(xiàng)目,，而不是等待對手將通用人工智能武器化。

12 全文共 2 頁下一頁

關(guān)閉

前谷歌CEO反對開展“AI曼哈頓計(jì)劃” 倡導(dǎo)防御性策略

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)