主持人:?jiǎn)棠匪够鶗?huì)很高興看到你說(shuō)他的觀點(diǎn)很荒謬,。
Hinton:?jiǎn)棠匪够脑S多政治觀點(diǎn)非常明智。我很驚訝,,為什么一個(gè)在中東問(wèn)題上觀點(diǎn)如此明智的人,在語(yǔ)言學(xué)方面會(huì)犯如此大的錯(cuò)誤,。
主持人:你認(rèn)為什么會(huì)讓這些模型有效模擬人類的意識(shí),?現(xiàn)在的 ChatGPT 每次都從頭開始,,刪除對(duì)話的記憶。如果有一個(gè)你一生中與之交談過(guò)的人工智能助手,,它能自我反省,。有一天,你去世了,,你認(rèn)為助手在那個(gè)時(shí)候會(huì)有感覺(jué)嗎,?
Hinton:我認(rèn)為他們也會(huì)有感覺(jué)。所以我認(rèn)為,,就像我們有這種感知的內(nèi)在劇場(chǎng)模型一樣,,我們也有一個(gè)感覺(jué)的內(nèi)在劇場(chǎng)模型。這些是我能體驗(yàn)到的東西,,但其他人卻不能,。我認(rèn)為那個(gè)模型同樣是錯(cuò)誤的。我認(rèn)為,,假設(shè)我說(shuō),,我想打Gary的鼻子,我經(jīng)常這樣做,。讓我們?cè)囍鴱膬?nèi)心劇場(chǎng)的概念中總結(jié)出這一點(diǎn)——我真正想告訴你的是,,如果不是因?yàn)槲业念~葉受到抑制,我就會(huì)采取行動(dòng),。所以當(dāng)談?wù)摳杏X(jué)時(shí),,我們實(shí)際上是在談?wù)摏](méi)有限制的情況下會(huì)采取的行動(dòng)。這就是感覺(jué)的真正含義——沒(méi)有限制時(shí),,我們會(huì)采取的行動(dòng),。所以沒(méi)有理由說(shuō)這些東西不能有感覺(jué)。
在 1973 年,,我看到過(guò)有情感的機(jī)器人,。他們?cè)趷?ài)丁堡有一個(gè)帶有兩個(gè)夾子的機(jī)器人,如果你把零件分開放在一塊綠色毛氈上,,它可以組裝一輛玩具車,。但是你把零件堆在一起,機(jī)器人視力不夠,,看不清零件,。就會(huì)把夾子放在一起把零件敲散,再拼一起,。要是看到一個(gè)人類這么做,,你會(huì)說(shuō)這個(gè)他不太理解情況,很生氣,,所以才敲散了零件,。
主持人:在我們之前的談話中,,你把人類和LLM描述為擅長(zhǎng)做類比機(jī)器(analogy machines)。你一生中發(fā)現(xiàn)的,,最有力的類比是什么,?
Hinton:我想可能對(duì)我影響很大的一種弱類比,是宗教和符號(hào)處理之間的類比,。