主持人:喬姆斯基會(huì)很高興看到你說他的觀點(diǎn)很荒謬,。
Hinton:喬姆斯基的許多政治觀點(diǎn)非常明智,。我很驚訝,為什么一個(gè)在中東問題上觀點(diǎn)如此明智的人,,在語言學(xué)方面會(huì)犯如此大的錯(cuò)誤,。
主持人:你認(rèn)為什么會(huì)讓這些模型有效模擬人類的意識(shí)?現(xiàn)在的 ChatGPT 每次都從頭開始,,刪除對(duì)話的記憶,。如果有一個(gè)你一生中與之交談過的人工智能助手,它能自我反省,。有一天,,你去世了,你認(rèn)為助手在那個(gè)時(shí)候會(huì)有感覺嗎,?
Hinton:我認(rèn)為他們也會(huì)有感覺,。所以我認(rèn)為,就像我們有這種感知的內(nèi)在劇場模型一樣,,我們也有一個(gè)感覺的內(nèi)在劇場模型,。這些是我能體驗(yàn)到的東西,但其他人卻不能,。我認(rèn)為那個(gè)模型同樣是錯(cuò)誤的,。我認(rèn)為,假設(shè)我說,,我想打Gary的鼻子,,我經(jīng)常這樣做。讓我們試著從內(nèi)心劇場的概念中總結(jié)出這一點(diǎn)——我真正想告訴你的是,,如果不是因?yàn)槲业念~葉受到抑制,,我就會(huì)采取行動(dòng)。所以當(dāng)談?wù)摳杏X時(shí),,我們實(shí)際上是在談?wù)摏]有限制的情況下會(huì)采取的行動(dòng),。這就是感覺的真正含義——沒有限制時(shí),我們會(huì)采取的行動(dòng),。所以沒有理由說這些東西不能有感覺,。
在 1973 年,我看到過有情感的機(jī)器人。他們在愛丁堡有一個(gè)帶有兩個(gè)夾子的機(jī)器人,,如果你把零件分開放在一塊綠色毛氈上,,它可以組裝一輛玩具車。但是你把零件堆在一起,,機(jī)器人視力不夠,,看不清零件。就會(huì)把夾子放在一起把零件敲散,,再拼一起,。要是看到一個(gè)人類這么做,你會(huì)說這個(gè)他不太理解情況,,很生氣,,所以才敲散了零件。
主持人:在我們之前的談話中,,你把人類和LLM描述為擅長做類比機(jī)器(analogy machines),。你一生中發(fā)現(xiàn)的,最有力的類比是什么,?
Hinton:我想可能對(duì)我影響很大的一種弱類比,,是宗教和符號(hào)處理之間的類比。