我來(lái)自一個(gè)無(wú)神論家庭,我小時(shí)候上學(xué)時(shí)就面臨著宗教信仰,。在我看來(lái),,這簡(jiǎn)直是無(wú)稽之談。即使我再次審視,,我仍然認(rèn)為這是無(wú)稽之談,。有人將符號(hào)處理視為對(duì)人們工作方式時(shí),我認(rèn)為這種觀點(diǎn)依然荒謬,。
但我不認(rèn)為現(xiàn)在的觀點(diǎn)完全是荒謬的,,我們確實(shí)在進(jìn)行符號(hào)處理,我們把大的嵌入向量賦予給符號(hào),。但不是像人們以為的那樣,,單單匹配符號(hào)——符號(hào)的唯一屬性就是與另一個(gè)符號(hào)異同,讓這成為符號(hào)的唯一屬性,。但我們并不是這樣做的,。我們用上下文,為符號(hào)提供嵌入向量,;借助嵌入向量組成部分之間的交互,,我們才能進(jìn)行思考,。
有位非常優(yōu)秀的谷歌研究員叫 Fernando Pereira。他認(rèn)為,,我們確實(shí)在進(jìn)行符號(hào)推理,,但唯一符號(hào)就是自然語(yǔ)言。我們把自然語(yǔ)言作為符號(hào)語(yǔ)言進(jìn)行推理,。我現(xiàn)在覺(jué)得這很正確,。
很難因?yàn)榘踩珕?wèn)題減緩AI研究,看好醫(yī)療保健應(yīng)用
主持人:你已經(jīng)進(jìn)行了一些計(jì)算機(jī)科學(xué)史上最有意義的研究,。你能給我們講講,,你是如何發(fā)現(xiàn)合適的研究問(wèn)題的?
Hinton:首先,,我要糾正你一下,,是我和學(xué)生一起完成了很多有意義的研究。這離不開(kāi)我與學(xué)生的良好合作,,離不開(kāi)我發(fā)現(xiàn)優(yōu)秀學(xué)生的能力,。從70年代到本世紀(jì)初,研究神經(jīng)網(wǎng)絡(luò)的人不多,。我作為少數(shù)研究神經(jīng)網(wǎng)絡(luò)的人,,可以選到最優(yōu)秀的學(xué)生。這非常幸運(yùn),。
科學(xué)家都有自己的一套研究方法理論,,雖然很多科學(xué)家會(huì)總結(jié)一套自己的研究方法理論,但是實(shí)際上他們不一定真的是這么做的,。但我還是想說(shuō),,我的理論是,我會(huì)尋找那些人人都贊同,、但直覺(jué)又能感覺(jué)出有點(diǎn)不對(duì)的問(wèn)題,。然后我就把這個(gè)定為研究問(wèn)題,看看我是否能深入,,說(shuō)清楚我認(rèn)為它是錯(cuò)的原因,。比如也許我能用一個(gè)小的計(jì)算機(jī)程序做個(gè)demo,說(shuō)明大家的預(yù)期是錯(cuò)的,。