倫敦當(dāng)?shù)貢r間10月18日18:00(北京時間19日01:00),,谷歌旗下的DeepMind團隊公布了進化后的最強版AlphaGo ,,代號AlphaGo Zero,。
新版本的AlphaGo究竟有多厲害?打敗李世石的AlphaGo用了3000萬盤比賽作為訓(xùn)練數(shù)據(jù),,AlphaGo Zero用了490萬盤比賽數(shù)據(jù),。經(jīng)過3天的訓(xùn)練,AlphaGo Zero就以100:0的比分完勝對陣李世石的那版AlphaGo,。
DeepMind聯(lián)合創(chuàng)始人兼CEO ,、AlphaGo之父戴密斯,?哈薩比斯(Demis Hassabis)和AlphaGo團隊負責(zé)人大衛(wèi)?席爾瓦(Dave Sliver) 等人同時在官方博客上發(fā)表文章,,詳解最強版本阿爾法狗是如何煉成的,,與前代有何不同。
哈薩比斯與學(xué)習(xí)大量人類棋譜起步的前代AlphaGo不同,,AlphaGo Zero是從“嬰兒般的白紙”開始,,通過3天數(shù)百萬盤自我對弈,走完了人類千年的圍棋歷史,,并探索出了不少橫空出世的招法,。
哈薩比斯等人專文:《AlphaGo Zero:從零開始》
席爾瓦在烏鎮(zhèn)人機峰會上發(fā)言從語音識別、圖像分類到基因和藥物研究,,人工智能發(fā)展迅速,。這些專家系統(tǒng),很多是借用海量人類經(jīng)驗和數(shù)據(jù)開發(fā)出來的,。
然而,,在有些特定問題上,人類的知識要么過于昂貴,,要么不靠譜,,要么無法獲得。因此,,人工智能研究的一個長期目標就是跳過這一步,,創(chuàng)造能在最有挑戰(zhàn)性的領(lǐng)域,不用人類輸入就達到超人水平的算法,。我們發(fā)表在《自然》期刊上的最新論文,,展示了實現(xiàn)該目標的關(guān)鍵一步。
論文介紹了首個戰(zhàn)勝人類圍棋冠軍的電腦程序AlphaGo的最新進化版本:AlphaGo Zero,。AlphaGo Zero更為強大,,可以一爭史上最強圍棋手。
AlphaGo的前幾代版本,,一開始用上千盤人類業(yè)余和專業(yè)棋手的棋譜進行訓(xùn)練,,學(xué)習(xí)如何下圍棋。AlphaGo Zero則跳過了這個步驟,,自我對弈學(xué)習(xí)下棋,,完全從亂下開始。用這種方法,,它很快超過了人類水平,,對陣此前戰(zhàn)勝人類冠軍李世石的前代AlphaGo取得了100連勝。
AlphaGo Zero之所以能當(dāng)自己的老師,是用了一種叫
強化學(xué)習(xí)的新模式,。系統(tǒng)從一個對圍棋一無所知的神經(jīng)網(wǎng)絡(luò)開始,,將該神經(jīng)網(wǎng)絡(luò)和一個強力搜索算法結(jié)合,自我對弈,。在對弈過程中,,神經(jīng)網(wǎng)絡(luò)不斷調(diào)整、升級,,預(yù)測每一步落子和最終的勝利者,。
升級后的神經(jīng)網(wǎng)絡(luò)與搜索網(wǎng)絡(luò)結(jié)合成一個更強的新版本AlphaGo Zero,如此往復(fù)循環(huán),。每過一輪,,系統(tǒng)的表現(xiàn)就提高了一點點,自我對弈的質(zhì)量也提高了一點點,。神經(jīng)網(wǎng)絡(luò)越來越準確,,AlphaGo Zero的版本也越來越強。
這種技術(shù)比此前所有版本的AlphaGo都更為強大,。這是因為,,它不再受到人類知識的限制,而能夠從嬰兒般的白紙狀態(tài),,直接向世界上最強大的棋手——AlphaGo本身學(xué)起,。
AlphaGo Zero相較前代還有幾點明顯的差別:
首先,AlphaGo Zero僅用棋盤上的黑白子作為輸入,,而前代則包括了小部分人工設(shè)計的特征輸入,。
其次,AlphaGo Zero僅用了單一的神經(jīng)網(wǎng)絡(luò),。在此前的版本中,,AlphaGo用到了“策略網(wǎng)絡(luò)”來選擇下一步棋的走法,以及使用“價值網(wǎng)絡(luò)”來預(yù)測每一步棋后的贏家,。而在新的版本中,,這兩個神經(jīng)網(wǎng)絡(luò)合二為一,從而讓它能得到更高效的訓(xùn)練和評估,。
第三,,AlphaGo Zero并不使用快速、隨機的走子方法,。在此前的版本中,,AlphaGo用的是快速走子方法,來預(yù)測哪個玩家會從當(dāng)前的局面中贏得比賽,。相反,,新版本依靠的是其高質(zhì)量的神經(jīng)網(wǎng)絡(luò)來評估下棋的局勢,。
所有這些差異,,都提高了系統(tǒng)的表現(xiàn),,使其更為普適。不過,,是算法上的變化使得系統(tǒng)更為強大和高效,。
僅僅自我對弈3天后,AlphaGo Zero就以100:0完勝了此前擊敗世界冠軍李世石的AlphaGo版本,。自我對弈40天后,,AlphaGo Zero變得更為強大,超過了此前擊敗當(dāng)今第一人柯潔的“大師”版AlphaGo,。
通過數(shù)百萬次自我對弈,,AlphaGo從零開始掌握了圍棋,在短短幾天內(nèi)就積累起了人類幾千年才有的知識,。AlphaGo Zero也發(fā)現(xiàn)了新的知識,,發(fā)展出打破常規(guī)的策略和新招,與它在對戰(zhàn)李世石和柯潔時創(chuàng)造的那些交相輝映,,卻又更勝一籌,。
這些創(chuàng)造性的時刻給了我們信心:人工智能會成為人類智慧的增強器,幫助我們解決人類正在面臨的一些嚴峻挑戰(zhàn) ,。
盡管才剛剛發(fā)展起來,,AlphaGo Zero已經(jīng)走出了通向上述目標的關(guān)鍵一步。如果類似的技術(shù)可以應(yīng)用在其他結(jié)構(gòu)性問題,,比如蛋白質(zhì)折疊,、減少能耗和尋找新材料上,就能創(chuàng)造出有益于社會的突破,。