GMIC人物：打破蘋果保密文化第一人

GMIC Live將于4月25日-27日在線舉行,，蘋果首任AI研究室負(fù)責(zé)人Russ Salakhutdinov已確認(rèn)參加GMIC Live,，他將就“人工智能和深度學(xué)習(xí)的最新進(jìn)展”發(fā)表在線演講。

Russ Salakhutdinov于2016年10月加入蘋果,，是蘋果首任AI總監(jiān),。

2016年，在深度學(xué)習(xí)領(lǐng)域有一個(gè)知名的“四大天王”組合,，其中Geoffrey Hinton在Google,、Yann Lecun在Facebook、Andrew NG在百度,，但蘋果并未選擇與當(dāng)時(shí)學(xué)術(shù)界碩果僅存的“四大天王”之一Yoshua Bengio牽手,，而是選擇了2016年2月才從卡內(nèi)基梅隆大學(xué)助理教授升上來的副教授——Russ Salakhutdinov。

對(duì)于公眾來說,，那時(shí)候Russ Salakhutdinov還是一個(gè)不怎么熟悉的名字,。

Russ Salakhutdinov加入后，首先搭建了蘋果的人工智能團(tuán)隊(duì),，更重要的是他打破了蘋果在業(yè)界一直堅(jiān)持的保密文化,，使得蘋果的研究和成果開始真正進(jìn)入人們的視野。

2017年，Russ Salakhutdinov出席GMIC的G-Summit全球科學(xué)創(chuàng)新峰會(huì),，此前他甚少出席活動(dòng)或公開演講,。GMIC舞臺(tái)為當(dāng)時(shí)人們了解蘋果如何部署AI提供了一個(gè)非常難得的機(jī)會(huì)。

此次,，Russ Salakhutdinov加入GMIC Live,，相信也將帶來很多精彩內(nèi)容。

那么,，Russ Salakhutdinov究竟是一個(gè)什么樣的人,？蘋果看中了他的什么？他加入蘋果后,，為蘋果帶去了哪些全新變化,？

    Russ Salakhutdinov，Who,？  

2016年,，Russ Salakhutdinov對(duì)于公眾來說或許是不怎么熟悉的名字。

但在學(xué)術(shù)界,，這個(gè)名字代表著一顆冉冉升起,、令人矚目的新星。

從整個(gè)神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的歷史來看,，最重要的拐點(diǎn)出現(xiàn)在2006年7月,。

Geoffrey Hinton作為第一作者的兩篇論文《A Fast Learning Algorithm for Deep Belief Nets》和《Reducing the Dimensionality of Data with Neural Networks》發(fā)布，引起了整個(gè)學(xué)術(shù)界對(duì)深度學(xué)習(xí)的興趣,，繼而才有了后面十多年來深度學(xué)習(xí)研究的突飛猛進(jìn)和突破。

GMIC人物：打破蘋果保密文化第一人

Russ Salakhutdinov正是這兩篇論文之一,、發(fā)布在Nature雜志上的那篇《Reducing the Dimensionality of Data with Neural Networks》的第二作者,。

其時(shí)，他還是剛剛才進(jìn)入Geoffrey Hinton門下的一位博士生,。

Russ Salakhutdinov對(duì)人工智能的貢獻(xiàn)還在于學(xué)習(xí)深度生成模型的研究上,。

2007年前后，Russ Salakhutdinov與Geoffrey Hinton提出了一種在前饋神經(jīng)網(wǎng)絡(luò)中進(jìn)行有效訓(xùn)練的算法,。

2009年,，他從多倫多大學(xué)獲得機(jī)器學(xué)習(xí)（計(jì)算機(jī)科學(xué)）博士學(xué)位。

之后,，Russ又在 MIT 人工智能實(shí)驗(yàn)室度過了兩年博士后生涯,。

從2011年起，他加入了多倫多大學(xué)計(jì)算機(jī)科學(xué)與統(tǒng)計(jì)部做助理教授,。

2016 年 1 月,，卡內(nèi)基梅隆大學(xué)（CMU）宣布邀請(qǐng) Russ Salakhutdinov 作為機(jī)器學(xué)習(xí)部門的副教授。

由此，Russ Salakhutdinov 也實(shí)現(xiàn)了從助理教授到副教授的跨越,，他的主要研究興趣包括人工智能,、機(jī)器學(xué)習(xí)、深度學(xué)習(xí),、大規(guī)模優(yōu)化,。

與此同時(shí)，從2006年的標(biāo)志性論文發(fā)表之后,，Ruslan Salakhutdinov的研究成果也層出不窮,。

據(jù)統(tǒng)計(jì)，截止2018年1月,，他的論文總引用數(shù)量達(dá)到31049次,，其中近5年的引用次數(shù)為27568。

可以說,，他一直活躍在深度學(xué)習(xí)的最前沿領(lǐng)域,。

所以，相比于谷歌,、Facebook 的人工智能研究負(fù)責(zé)人,，Russ Salakhutdinov 或許很年輕，但他卻是屬于新生代的一批機(jī)器學(xué)習(xí)研究人員,。

從這一個(gè)維度來看,，其實(shí)他為蘋果的人工智能帶來了不一樣的優(yōu)勢(shì)。

    Russ ,，打破蘋果保密文化,！   

很少有公司像蘋果一樣（注：2016年之前），在前沿技術(shù)的研發(fā)等方面始終保持神秘,。

除了 Siri,，外界對(duì)蘋果在人工智能領(lǐng)域的研究知之甚少。

這其實(shí)源自于蘋果一直以來的“保密文化”傳統(tǒng),，但人工智能領(lǐng)域的專家們通常會(huì)公開自己的成果和研究, 彼此了解,。

針對(duì)當(dāng)時(shí)蘋果的保密文化，斯坦福大學(xué)的人工智能教授 Jerry Kaplan曾表示：“ 蘋果不屬于這個(gè)圈子,，他們就像是人工智能領(lǐng)域的 NSA（美國國家安全局）,。”

Facebook AI科學(xué)家Yann LeCun也曾直言不諱的評(píng)價(jià)道：我覺得蘋果在AI研究領(lǐng)域沒戲,，因?yàn)樗麄冇斜Ｃ芪幕?，一?xiàng)開創(chuàng)性的研究工作是無法在秘密的情況下完成的。

2016年10月8日,，Russ Salakhutdinov發(fā)布推特確認(rèn)加入蘋果,。

與此同時(shí),，Russ Salakhutdinov 還發(fā)布了一則招募公告，招募更多在深度學(xué)習(xí),、計(jì)算機(jī)視覺,、機(jī)器學(xué)習(xí)、增強(qiáng)學(xué)習(xí),、最優(yōu)化以及數(shù)據(jù)挖掘方面的專家和人才,，組建蘋果的人工智能研發(fā)隊(duì)伍。

從Russ Salakhutdinov擔(dān)任蘋果公司人工智能部門的負(fù)責(zé)人后,，他就立即被允許通過博客和談判打破蘋果的《保密守則》,。

與此同時(shí)，更大的變化也在發(fā)生,。

GMIC人物：打破蘋果保密文化第一人

加入蘋果后的第2個(gè)月,，在西班牙舉行的人工智能行業(yè)會(huì)議上，Russ Salakhutdinov 對(duì)外解釋了蘋果在人工智能技術(shù)上的應(yīng)用場(chǎng)景,。

并重磅宣布蘋果公司將不再禁止員工發(fā)表研究成果,，將與學(xué)術(shù)圈積極開展合作。

Russ Salakhutdinov在一頁單獨(dú)的幻燈片中寫道：

Can we publish,？

我們會(huì)出版嗎,？

Yes

是的！ 

Do we engage with academia,？

我們是否與學(xué)術(shù)界合作,？

Yes

是的！

僅在幾周之后,，蘋果人工智能和機(jī)器學(xué)習(xí)研究的第一篇論文——《通過對(duì)抗訓(xùn)練從模擬的和無監(jiān)督的圖像中學(xué)習(xí)》（Learning from Simulated and Unsupervised Images through Adversarial Training）發(fā)布,。

論文主要聚焦蘋果在智能圖像識(shí)別領(lǐng)域的研究，提出了一個(gè)所謂“模擬加無監(jiān)督學(xué)習(xí)”,，使用了當(dāng)時(shí)最炙手可熱的深度學(xué)習(xí)“對(duì)抗訓(xùn)練”,，即是機(jī)器與機(jī)器之間相互訓(xùn)練。

而有著“GANs之父”之稱的Ian Goodfellow在推特里直接評(píng)論道：“蘋果第一份機(jī)器學(xué)習(xí)論文是關(guān)于GANs的,。”

可以說,，蘋果這份及時(shí)又務(wù)實(shí)的論文,，一經(jīng)發(fā)布就迅速點(diǎn)燃了當(dāng)時(shí)的媒體頭條。

拋卻論文研究成果之外,，其實(shí)它還有著更重大的意義,。

正如Forbes當(dāng)時(shí)的評(píng)論：這篇AI論文，是蘋果標(biāo)志性的一步,。

在學(xué)術(shù)圈,，公開研究成果與分享信息,，是獲得同行認(rèn)可和取得進(jìn)步的關(guān)鍵。

所以,，Russ Salakhutdinov不僅是打破蘋果保密文化的第一人,，更是開啟了蘋果人工智能的全新時(shí)代。

除了學(xué)術(shù)上的成就,，Ruslan Salakhutdinov還有著豐富的創(chuàng)造力和天馬行空的想象力,，這或許也成為了蘋果選擇他的一個(gè)重要原因。

    Russ Salakhutdinov,，趣事    

Russ Salakhutdinov在多倫多大學(xué)做助理教授期間曾負(fù)責(zé)“田野里的抽水馬桶”項(xiàng)目,。這是一套很有意思系統(tǒng)，允許用戶輸入關(guān)鍵詞,，比如“田野里的抽水馬桶”或其他任何離奇的場(chǎng)景,，然后計(jì)算機(jī)就會(huì)根據(jù)這些關(guān)鍵詞繪制圖像，實(shí)現(xiàn)讓計(jì)算機(jī)按照人類意愿畫畫,。

2018年的時(shí)候,，Russ Salakhutdinov在推特上發(fā)了一個(gè)神秘的“N”，引得包括谷歌大腦科學(xué)家&謝爾布魯克大學(xué)教授Hugo Larochelle,、谷歌大腦學(xué)生研究員Kory Mathewson,、CMU博士&OpenFace作者Brandon Amos在內(nèi)的多位大牛們一本正經(jīng)的在評(píng)論區(qū)猜測(cè)接力，構(gòu)成了一段神奇的密碼,，仿佛人工智能領(lǐng)域?qū)l(fā)生大事件,。

GMIC人物：打破蘋果保密文化第一人

N代表自然，是自然智能,？

AI企業(yè)獨(dú)家的秘密計(jì)劃,？

Twitter把字符限制減到了原來的280分之一？

結(jié)果,，沒有什么AI獨(dú)家計(jì)劃,，也沒有什么新的神經(jīng)網(wǎng)絡(luò)，Russ Salakhutdinov表示“就是我6個(gè)月的娃拿我的手機(jī)玩發(fā)了條Twitter,。

在嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)之外,，這些趣事讓我們認(rèn)識(shí)了更立體的Russ Salakhutdinov。

歡迎大家關(guān)注4月25日-27日的GMIC Live 2020,，相信Russ Salakhutdinov將在GMIC Live的舞臺(tái)帶來很多精彩觀點(diǎn),，更多大咖嘉賓和亮點(diǎn)內(nèi)容我們也將陸續(xù)公布。

這一次,，希望和所有GMICer們,，共創(chuàng)一場(chǎng)永不落幕的GMIC！