主持人:喬姆斯基會很高興看到你說他的觀點(diǎn)很荒謬,。
Hinton:喬姆斯基的許多政治觀點(diǎn)非常明智。我很驚訝,,為什么一個在中東問題上觀點(diǎn)如此明智的人,在語言學(xué)方面會犯如此大的錯誤。
主持人:你認(rèn)為什么會讓這些模型有效模擬人類的意識,?現(xiàn)在的 ChatGPT 每次都從頭開始,刪除對話的記憶,。如果有一個你一生中與之交談過的人工智能助手,,它能自我反省。有一天,,你去世了,,你認(rèn)為助手在那個時候會有感覺嗎,?
Hinton:我認(rèn)為他們也會有感覺,。所以我認(rèn)為,,就像我們有這種感知的內(nèi)在劇場模型一樣,我們也有一個感覺的內(nèi)在劇場模型,。這些是我能體驗(yàn)到的東西,,但其他人卻不能。我認(rèn)為那個模型同樣是錯誤的,。我認(rèn)為,,假設(shè)我說,我想打Gary的鼻子,,我經(jīng)常這樣做,。讓我們試著從內(nèi)心劇場的概念中總結(jié)出這一點(diǎn)——我真正想告訴你的是,如果不是因?yàn)槲业念~葉受到抑制,,我就會采取行動,。所以當(dāng)談?wù)摳杏X時,我們實(shí)際上是在談?wù)摏]有限制的情況下會采取的行動,。這就是感覺的真正含義——沒有限制時,,我們會采取的行動。所以沒有理由說這些東西不能有感覺,。
在 1973 年,,我看到過有情感的機(jī)器人。他們在愛丁堡有一個帶有兩個夾子的機(jī)器人,,如果你把零件分開放在一塊綠色毛氈上,,它可以組裝一輛玩具車。但是你把零件堆在一起,,機(jī)器人視力不夠,,看不清零件。就會把夾子放在一起把零件敲散,,再拼一起,。要是看到一個人類這么做,你會說這個他不太理解情況,,很生氣,,所以才敲散了零件。
主持人:在我們之前的談話中,,你把人類和LLM描述為擅長做類比機(jī)器(analogy machines),。你一生中發(fā)現(xiàn)的,最有力的類比是什么,?
Hinton:我想可能對我影響很大的一種弱類比,,是宗教和符號處理之間的類比。