主持人:當(dāng)你看到今天正在進(jìn)行的研究類型時(shí),,你是否認(rèn)為我們把所有的雞蛋都放在一個(gè)籃子里,,我們應(yīng)該在這個(gè)領(lǐng)域更加多樣化我們的想法?或者你認(rèn)為這是最有前途的方向然后全力以赴,?
Hinton:我認(rèn)為擁有大型模型并在多模態(tài)數(shù)據(jù)上訓(xùn)練它們,,即使只是為了預(yù)測下一個(gè)單詞,也是一種非常有前途的方法,,我們應(yīng)該全力以赴,。顯然,現(xiàn)在有很多人在做這件事??吹接泻芏嗳怂坪踉谧霪偪竦氖虑?,這很好。我認(rèn)為大多數(shù)人走這條路是可以的,,它效果很好,。
主持人:你認(rèn)為學(xué)習(xí)算法真的那么重要嗎,還是只是尺度之一,?我們是否有數(shù)百萬種方法可以達(dá)到人類水平的智能,,或者我們需要發(fā)現(xiàn)少數(shù)幾種?
Hinton:特定的學(xué)習(xí)算法是否非常重要,,或者是否有各種各樣的學(xué)習(xí)算法可以完成這項(xiàng)工作,,我不知道這個(gè)問題的答案。但在我看來,,反向傳播某種意義上是正確的做法,。獲得梯度以便更改參數(shù)使其更好地工作,這似乎是對的,,而且它也取得了驚人的成功,。
可能還有其他學(xué)習(xí)算法,它們是獲得相同梯度的替代方法,,或者將梯度轉(zhuǎn)移到其他東西上,,并且也有效。我認(rèn)為現(xiàn)在這一切都是開放的,,也是非常有趣的問題,,關(guān)于是否還有其他你可以嘗試和最大化利用的東西,可以為你提供良好的系統(tǒng),,也許大腦這樣做是因?yàn)檫@樣更容易,。但反向傳播在某種意義上是正確的做法,我們知道這樣做效果很好,。
主持人:最后一個(gè)問題,,當(dāng)您回顧您幾十年的研究歷程,您最引以為豪的成就是什么,?是你學(xué)生的成就嗎,?或者是您的研究成果?在您的整個(gè)職業(yè)生涯中,,您最引以為豪的是什么,?
Hinton:我的回答是玻爾茲曼機(jī)的學(xué)習(xí)算法。這個(gè)算法非常優(yōu)雅,,盡管在實(shí)踐中可能并不實(shí)用,但這是我和 Terry共同開發(fā)的過程中最享受的事情,也是我最引以為豪的成就,,即使它可能是錯(cuò)誤的,。