日本在线看黄a美女久草|日本动漫亚洲在线一区|日韩人妻无码免费视频|A√有码中文字幕|日韩一级片视频热久久久|一区二区三区四区精品无码在线|亚洲AV成人无码一二三app|亚洲综合图片绯色|91极品人妻在线网站|国产成人精品一区二三区四区五区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
人工智能 正文
發(fā)私信給楊曉凡
發(fā)送

0

Yann LeCun專(zhuān)訪(fǎng):我不覺(jué)得自己有天分,但是我一直往聰明人堆里鉆

本文作者: 楊曉凡 2018-11-05 21:44
導(dǎo)語(yǔ):「據(jù)說(shuō)法國(guó)人都特別橫平豎直的,但我就不那樣,我特別隨性」

雷鋒網(wǎng) AI 科技評(píng)論按:紐約大學(xué)教授、Facebook 副總裁與首席 AI 科學(xué)家 Yann LeCun 由于對(duì)深度學(xué)習(xí)的突出貢獻(xiàn),被譽(yù)為深度學(xué)習(xí)的「三駕馬車(chē)」之一,更被稱(chēng)為「CNN」之父。Yann LeCun 也一直非常活躍,發(fā)論文、教學(xué)、創(chuàng)立學(xué)術(shù)會(huì)議、出席學(xué)術(shù)與公共活動(dòng)、引領(lǐng) Facebook 的 AI 學(xué)術(shù)研究,是計(jì)算機(jī)科學(xué)研究者中的一面旗幟,也是大眾眼中的人工智能「偶像」。

前段時(shí)間,RSIP VISION 出版的《Computer Vision News》雜志對(duì)這位偶像進(jìn)行了專(zhuān)訪(fǎng)并發(fā)表在了 2018 年 11 月刊中。專(zhuān)訪(fǎng)中 Yann LeCun 談到了學(xué)術(shù)生涯中的趣事、對(duì)自己是否是個(gè)聰明人的評(píng)價(jià)、對(duì)近期技術(shù)進(jìn)展的評(píng)價(jià)、對(duì)工業(yè)界學(xué)術(shù)界合作的期待和誤解的澄清,以及「退休之前最希望做出的成果」。雷鋒網(wǎng) AI 科技評(píng)論編譯如下。

Yann LeCun專(zhuān)訪(fǎng):我不覺(jué)得自己有天分,但是我一直往聰明人堆里鉆

記者:在過(guò)去的二三十年中,你對(duì)整個(gè)人工智能界產(chǎn)生了巨大影響。跟我們講講你是如何一步步走到今天這個(gè)位置的呢?

LeCun:我很小的時(shí)候就對(duì)人工智能很感興趣?!钢腔邸惯@個(gè)概念讓我感到十分著迷。并不僅僅是我們現(xiàn)在天天談起的機(jī)器智能,而是一般意義上的「智慧」。我一直都覺(jué)得「學(xué)習(xí)」是智慧中的重要部分。我大學(xué)專(zhuān)業(yè)是電氣工程,然后做研究的時(shí)候發(fā)現(xiàn)在 1950、60 年代就有人在研究會(huì)學(xué)習(xí)的機(jī)器了。我接觸到這些知識(shí)其實(shí)有那么點(diǎn)意外成分,然后本科畢業(yè)之前就開(kāi)始讀這方面的各種文獻(xiàn)。我想在這方面做更多研究的想法就是這時(shí)候出現(xiàn)的,接下來(lái)趁著在學(xué)校,我做了好幾個(gè)有關(guān)的項(xiàng)目,然后決定了我就要研究這個(gè)方向。

我發(fā)現(xiàn)在法國(guó)有一群人在研究一種叫做 Automata 網(wǎng)絡(luò)的東西,似乎和智慧隱隱有那么點(diǎn)聯(lián)系;這大概是 1983 年前后的事情。那時(shí)候計(jì)算機(jī)科學(xué)這邊還沒(méi)有任何人在研究神經(jīng)網(wǎng)絡(luò),甚至只是簡(jiǎn)單的機(jī)器學(xué)習(xí)都沒(méi)有。在 AI 的大課題下有那么一點(diǎn)點(diǎn)機(jī)器學(xué)習(xí)的研究,但是只有很少很少的一撮人。我當(dāng)時(shí)遇到了一些人,他們已經(jīng)開(kāi)始思考很多簡(jiǎn)單的單元互相連接起來(lái)形成的網(wǎng)絡(luò)會(huì)有哪些新的性質(zhì),實(shí)際上這就是神經(jīng)網(wǎng)絡(luò)了。我和他們?nèi)〉寐?lián)系以后,發(fā)現(xiàn)他們有一個(gè)全球性的研究社區(qū),他們已經(jīng)開(kāi)始研究神經(jīng)網(wǎng)絡(luò)了。我當(dāng)時(shí)讀了 John Hopfield 寫(xiě)的 Hopfield 網(wǎng)絡(luò)的論文,也聽(tīng)說(shuō)了 Geoff Hinton 和 Terry Sejnowski 這兩個(gè)人。他們那時(shí)候剛剛發(fā)表了一篇關(guān)于玻爾茲曼機(jī)的論文,我覺(jué)得那篇論文棒極了,很想見(jiàn)見(jiàn)他們。

然后我就開(kāi)始讀博士了。但我的導(dǎo)師對(duì)神經(jīng)網(wǎng)絡(luò)一無(wú)所知,他就說(shuō):「我可以給你的論文簽字,你似乎挺聰明的,但是從技術(shù)角度講我確實(shí)沒(méi)辦法幫助你?!?/strong>我通過(guò)我本科的母校 ESIEE 獲得了獎(jiǎng)學(xué)金。最后我自己在 1984 年左右發(fā)現(xiàn)了一個(gè)版本的反向傳播,終于在 1985 年在法國(guó)的一個(gè)會(huì)議上與 Geoff Hinton 和 Terry Sejnowski 見(jiàn)面了。有一個(gè)會(huì)議上我遇到了貝爾實(shí)驗(yàn)室的 Larry Jackel 和 John Denker,后來(lái)就是他們把我招到貝爾實(shí)驗(yàn)室去的。1987 到 1988 年,我跟著 Geoff Hinton 在多倫多做了博士后。Larry Jackel 在貝爾實(shí)驗(yàn)室建立了一個(gè)小組研究神經(jīng)網(wǎng)絡(luò)硬件,我博士后一結(jié)束他們就把我招過(guò)去了。

記者:現(xiàn)在我們談?wù)勀愕膫€(gè)人天份的部分?之前我們采訪(fǎng) Yoshua Bengio 的時(shí)候他說(shuō):「我能成功并不是因?yàn)槲冶葎e人聰明,而是因?yàn)槲液苊靼兹绾螌?zhuān)注?!?/strong>你同意這句話(huà)嗎?如果這是他的秘訣,那你的秘訣是什么?

LeCun:我是鉆到一群比我聰明的人里面去,所以在很多方面我都根本沒(méi)覺(jué)得自己有什么天賦。反倒是我經(jīng)常為別人感到驚嘆。比如我和 Léon Bottou 有過(guò)很長(zhǎng)時(shí)間的聯(lián)系和合作。在機(jī)器學(xué)習(xí)界他是一個(gè)知名人物,而且?guī)缀趺總€(gè)方面他都比我強(qiáng)?。ㄐΓ┪蚁矚g做的事,而且可能還是我做的不錯(cuò)的一件事,就是一直向下挖掘,去發(fā)現(xiàn)一個(gè)疑問(wèn)背后真正的問(wèn)題是什么?!溉绾尾拍茏寵C(jī)器學(xué)習(xí)」,類(lèi)似這種。有點(diǎn)像是考慮大方向、考慮哪些是真正重要的問(wèn)題。把問(wèn)題簡(jiǎn)化、再簡(jiǎn)化,直到達(dá)到真正的核心問(wèn)題。

有時(shí)候一個(gè)想法或者一個(gè)概念顯得很復(fù)雜,因?yàn)槠渲杏玫搅撕芏嗪苈闊┑臄?shù)學(xué)知識(shí),但是它真正的核心往往就是一個(gè)很簡(jiǎn)單的想法。我覺(jué)得我還沒(méi)法和 Richard Feynman 相提并論,但是這種思考方式真的和他的很像。就是要問(wèn)最基本的問(wèn)題、摒棄一切表面上的東西,直到得到一個(gè)簡(jiǎn)單得不可思議的問(wèn)題。不過(guò)我做得還沒(méi)有他那么好。

至于 Yoshua 說(shuō)的那句話(huà),他是一個(gè)非常自律的、井井有條的人。我不是那樣的人,我活得亂糟糟的。

記者:那是因?yàn)槟闶欠▏?guó)人嘛!

LeCun:Yoshua 也是在法國(guó)出生的呀!不過(guò)我不是一個(gè)好的理論科學(xué)家。相比之下我的朋友 Léon Bottou 就對(duì)數(shù)學(xué)啊什么的理論性很強(qiáng)的東西很在行。我做的還行的是實(shí)現(xiàn)、讓東西跑起來(lái),不過(guò)做的也算不上多好。不同的人擅長(zhǎng)不同的事情嘛。

記者:唔,你是法國(guó)人,我是意大利人。有人說(shuō)這兩個(gè)國(guó)家的人都做事不是很有條理!

LeCun:(笑)我也不知道,據(jù)說(shuō)法國(guó)人都特別橫平豎直的,但我就不那樣,我特別隨性。

記者:有沒(méi)有導(dǎo)師或者教師對(duì)你的影響很大?還是說(shuō)你基本上靠自學(xué)?

LeCun:對(duì)我有很大影響的人有好幾個(gè)。我在工程學(xué)院的時(shí)候,那些數(shù)學(xué)教授給了我很大幫助。我和他們一起做了好幾個(gè)項(xiàng)目,幾個(gè)項(xiàng)目的主題他們自己也不是很懂,但是他們?cè)试S我自己探索,也就很早就讓我嘗試到了做科研的感覺(jué)。他們都是很好的人。也就是這個(gè)時(shí)候我開(kāi)始研究神經(jīng)網(wǎng)絡(luò)。我并不知道應(yīng)該怎么研究。我必須自己琢磨出來(lái)它是怎么回事。我當(dāng)時(shí)看了很多日本人用英文寫(xiě)的論文,就這樣學(xué)會(huì)的英語(yǔ),所以那時(shí)候我的英語(yǔ)簡(jiǎn)直糟透了。(笑)70 年代末、80 年代初的時(shí)候,大多數(shù)關(guān)于神經(jīng)網(wǎng)絡(luò)的研究成果都是日本人做出來(lái)的,因?yàn)槲鞣降娜艘呀?jīng)完全拋棄了這個(gè)領(lǐng)域了;我們能讀到的論文就只有這些了。

然后也有一些我很感興趣的科學(xué)人物。很自然地,我一開(kāi)始看了很多關(guān)于愛(ài)因斯坦的東西,也就對(duì)物理學(xué)很感興趣。后來(lái)我的閱讀材料就是 Geoff Hinton 這樣的人。我跟著他做的博士后,也發(fā)現(xiàn)我們其實(shí)有很多共同點(diǎn)。

Yann LeCun專(zhuān)訪(fǎng):我不覺(jué)得自己有天分,但是我一直往聰明人堆里鉆

記者:我們聊聊 Facebook 的事情吧。如今人工智能界的出色的軟件人員,有很多都跟著你干活。我采訪(fǎng)過(guò)好多出色的 AI 軟件人員,有很多現(xiàn)在就在 Facebook,也有一些在其他大公司。但很滑稽的是,這些人里的大多數(shù)并不參與 Facebook 的核心業(yè)務(wù),而是做一些在你看來(lái)中長(zhǎng)期比較重要的事情。能跟我們講講這是怎么回事嗎?談?wù)勀苷劦摹?/p>

LeCun:其實(shí)沒(méi)有什么不能談的,起碼很少很少吧。因?yàn)?Facebook 人工智能研究院是 Facebook 的一個(gè)基礎(chǔ) AI 研究實(shí)驗(yàn)室,它也是對(duì)外的。它和整個(gè)研究社區(qū)有很多的聯(lián)系。我們做的所有東西都會(huì)公開(kāi)發(fā)表,我們向開(kāi)源世界貢獻(xiàn)很多代碼,我們和大學(xué)有很多合作,我們?cè)诜▏?guó)和美國(guó)都有實(shí)習(xí)生和訪(fǎng)問(wèn)博士生。它是高度開(kāi)放的。它對(duì)整個(gè)社會(huì)是有好處的,而且,當(dāng)然長(zhǎng)遠(yuǎn)來(lái)看也對(duì) Facebook 自己有好處,因?yàn)槿缃竦?AI 技術(shù)面對(duì)的最大的限制并不是 Facebook 領(lǐng)先谷歌、IBM、微軟多少,而是整個(gè)領(lǐng)域的發(fā)展有沒(méi)有向著我們希望的方向前進(jìn)。比如如果你想要造智能虛擬助理的話(huà),它和人類(lèi)之間的互動(dòng)需要具備一些人類(lèi)常識(shí),然而我們現(xiàn)在并沒(méi)有科學(xué)技術(shù)能讓我們?cè)斐鲞@樣虛擬助理來(lái)。所以我們的目標(biāo)就是開(kāi)發(fā)出這些技術(shù)來(lái),這樣的產(chǎn)品才能變成現(xiàn)實(shí)。即便我們雇傭了很多頂尖的人才,我們也不會(huì)壟斷任何好的想法。為此我們也需要和更廣泛的研究社區(qū)有充分的溝通。這也是我們?nèi)绱碎_(kāi)放的原因。

Facebook 里還有另外一些機(jī)構(gòu),可以算是更廣泛的「Facebook AI」機(jī)構(gòu)。它們更關(guān)注于和 Facebook 直接相關(guān)的問(wèn)題,比如計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、搜索,等等。其中的很多小組使用的技術(shù)都是最初由Facebook 人工智能研究院開(kāi)發(fā)出來(lái)的,雖然可能是出于其他的目的,所以也還是有很大的影響力;但這些小組的運(yùn)轉(zhuǎn)方式也就和研究院不一樣了,他們主要關(guān)注的是公司的業(yè)務(wù)需求。他們也會(huì)發(fā)一些論文,但是不那么頻繁。他們要不斷改進(jìn) Facebook 提供的服務(wù),或者創(chuàng)造新的服務(wù)。Facebook 人工智能研究院做的事情就是一開(kāi)始說(shuō)的開(kāi)發(fā)全新的技術(shù)、推進(jìn)整個(gè)領(lǐng)域的前進(jìn)。有時(shí)候我們會(huì)說(shuō)希望 3 年、5 年或者 10 年之后看到回報(bào),但是也有時(shí)候我們想出來(lái)的東西其實(shí)馬上就會(huì)變得很有用。有時(shí)候還會(huì)給我們帶來(lái)驚喜。

記者:在你看來(lái),2018 年最棒的計(jì)算機(jī)視覺(jué)論文是哪一篇?我們雜志評(píng)選的 2017 年的最佳計(jì)算機(jī)視覺(jué)論文是 Mask R-CNN,我相信你不會(huì)覺(jué)得意外吧哈哈。

LeCun:我也同意啊?。ㄐΓ┯?jì)算機(jī)視覺(jué)領(lǐng)域發(fā)生了太多事情,太多太多了,我都看不過(guò)來(lái)了。我沒(méi)法單獨(dú)點(diǎn)出某一篇論文,但我覺(jué)得自我監(jiān)督學(xué)習(xí)的整個(gè)領(lǐng)域都有非常有趣的成果。不管是用對(duì)抗性生成式網(wǎng)絡(luò)(GANs),還是用一些別的技術(shù),人們都在想辦法挖掘更高層次的視覺(jué)概念,比如物體、運(yùn)動(dòng)、深度等等,而且不需要真正顯式地給系統(tǒng)提供監(jiān)督。我覺(jué)得這是一條光明大道,而且我們已經(jīng)邁出了一步。目前這些技術(shù)還沒(méi)有什么實(shí)際的應(yīng)用,但我覺(jué)得這是未來(lái)的很大的技術(shù)成就的開(kāi)始,可能會(huì)帶來(lái)計(jì)算機(jī)視覺(jué)的下一次革命,或者說(shuō)是人工智能的下一次革命。過(guò)去三年的公開(kāi)演講里我都在說(shuō)這句話(huà),就是「AI 的未來(lái)就在自我監(jiān)督學(xué)習(xí)里」。

這種學(xué)習(xí)方式是,你訓(xùn)練一個(gè)機(jī)器學(xué)習(xí)這個(gè)世界是怎么回事,并不指定什么具體的任務(wù);然后你再訓(xùn)練它做某一個(gè)具體的任務(wù),但是只給它非常非常少的數(shù)據(jù)。人類(lèi)和動(dòng)物的學(xué)習(xí)方式就是這樣的。Facebook、英特爾、谷歌、DeepMind 和 NVIDIA 都在這方面發(fā)表了很多論文。有一篇關(guān)于上色的論文,里面讓 AI 給視頻里面的物體上色,得到的結(jié)果是,可以說(shuō)它學(xué)到了物體的運(yùn)動(dòng)。類(lèi)似這樣的讓人驚嘆的東西還有很多。

記者:我們的一位工程師拜托我問(wèn)你一個(gè)問(wèn)題。據(jù)說(shuō)這個(gè)問(wèn)題挺滑稽的,不過(guò)我自己不是工程師所以不理解這個(gè)問(wèn)題的笑點(diǎn)在哪里。他的問(wèn)題是,ReLU 和批量正則化兩者之間,你更喜歡哪個(gè)?

LeCun:哦我知道了啊哈哈哈哈哈……

記者:所以,真的很好笑嗎?

LeCun:真的很好笑!這個(gè)問(wèn)題的答案很簡(jiǎn)單,但是這個(gè)問(wèn)題會(huì)引出很多別的問(wèn)題。我會(huì)回答 ReLU,因?yàn)樗莻€(gè)很簡(jiǎn)單的想法,所有人都會(huì)用它,可以說(shuō)正是有了 ReLU 才可以讓我們訓(xùn)練相對(duì)比較深的神經(jīng)網(wǎng)絡(luò)。還有另外一個(gè)想法,就是何愷明提出的殘差連接,它讓我們可以訓(xùn)練更深的網(wǎng)絡(luò)。而批量正則化在很多人看來(lái),包括我自己看來(lái),是一種必要的惡。要怎么理解呢,可以說(shuō)沒(méi)有人喜歡它,但是它的作用還不錯(cuò),所以大家還是都會(huì)用它;但同時(shí)大家都在嘗試把它換成什么的別的東西,因?yàn)榇蠹叶加憛捤?。它自身有一些東西不是很讓大家滿(mǎn)意。我們都有一種感覺(jué),就是肯定有什么東西比它更好。另一方面,大家并不理解它為什么有效、是怎么發(fā)揮效果的。對(duì)于神經(jīng)網(wǎng)絡(luò)是怎么收斂和學(xué)習(xí)的,我們有一些直覺(jué)上的思考,但是批量正則化和我們的這些思考是沖突的,所以想要理解它為什么有效、找個(gè)別的東西來(lái)代替它的話(huà),我們還有很多工作要做。何愷明也提出了分組正則化,他的目的就是要替換掉批量正則化,看起來(lái)也確實(shí)表現(xiàn)要更好一些。

Yann LeCun專(zhuān)訪(fǎng):我不覺(jué)得自己有天分,但是我一直往聰明人堆里鉆

記者:暢想未來(lái),你覺(jué)得在計(jì)算機(jī)視覺(jué)以及人工智能社區(qū)里,學(xué)術(shù)界和工業(yè)界怎么才能更好地協(xié)作?

LeCun:我自己的職業(yè)生涯中,有一半的時(shí)間在學(xué)術(shù)界、一半的時(shí)間在工業(yè)界。我一開(kāi)始在貝爾實(shí)驗(yàn)室,后來(lái)它變成了 AT&T 實(shí)驗(yàn)室;接著我在 NEC 研究院待了 18 個(gè)月。后來(lái)我做了教授,我的時(shí)間一部分花在工業(yè)界,一部分花在學(xué)術(shù)界。我覺(jué)得可以一部分時(shí)間花在工業(yè)界、一部分時(shí)間花在學(xué)術(shù)界是一個(gè)很好的想法,我也寫(xiě)過(guò)一篇文章談這件事。

記者:嗯,我讀了這篇文章。《雙重聯(lián)盟》。

LeCun:就是這篇。我覺(jué)得很多人都誤解了這篇文章里面的非常重要的一點(diǎn),就是,只有在那個(gè)你工作的工業(yè)界實(shí)驗(yàn)室是一個(gè)研究性質(zhì)的實(shí)驗(yàn)室,而不是開(kāi)發(fā)性質(zhì)的實(shí)驗(yàn)室,以及,這個(gè)實(shí)驗(yàn)室做的是開(kāi)放性的研究、設(shè)立這個(gè)實(shí)驗(yàn)室的企業(yè)對(duì)實(shí)驗(yàn)室的知識(shí)產(chǎn)權(quán)沒(méi)有很強(qiáng)的占有欲的時(shí)候,這種雙重聯(lián)盟的模式才是可行的。之所以我推崇雙重聯(lián)盟,就是要讓工業(yè)界和學(xué)術(shù)界之間有足夠多的信息溝通,這樣你才能利用到兩面的好處:在工業(yè)界這邊,你能得到工程方面的支持,有大規(guī)模的計(jì)算設(shè)施,而在大學(xué)里有很多學(xué)生、很多年輕人,他們有很多的創(chuàng)意,但是他們的運(yùn)行模式是和工業(yè)界不一樣的。

對(duì)不同的人有不同的激勵(lì)方法是一件好事,當(dāng)他們?cè)诓煌沫h(huán)境的時(shí)候也就可以產(chǎn)生不同的點(diǎn)子。這當(dāng)然是一件好事,但是前提是你所在的工業(yè)界實(shí)驗(yàn)室做的是開(kāi)放性的研究、做的是真正的研究,而且肯發(fā)表論文。如果雙重聯(lián)盟的工業(yè)界那一方對(duì)任何東西都要保密、任何工作都是為了實(shí)際應(yīng)用的和工程性的,那就做不成。我看到了一些對(duì)我的文章的回應(yīng),其中有一些明顯是弄混了這兩種工業(yè)界研究方式的區(qū)別。他們會(huì)說(shuō),雙重聯(lián)盟是不現(xiàn)實(shí)的,因?yàn)榧热荒阍诠I(yè)界工作了,你要做的東西就無(wú)論如何都要是對(duì)這個(gè)企業(yè)有用的,而且有一些東西要保密,這樣就和學(xué)術(shù)界的做法產(chǎn)生沖突了。如果是這樣的話(huà),那我也同意,確實(shí)是有沖突的;但是我不同意說(shuō)沒(méi)有可能在工業(yè)界做雙重聯(lián)盟。這要取決于工業(yè)界的這個(gè)研究院是如何運(yùn)轉(zhuǎn)的。

我在 Facebook 做的事情之一就是設(shè)計(jì)這個(gè)研究院的運(yùn)行方式,讓它不要和學(xué)術(shù)界的做法產(chǎn)生沖突。過(guò)去五年中我對(duì)工業(yè)界研究風(fēng)氣做的一大貢獻(xiàn)大概就是這個(gè)吧,而且可以說(shuō)直到現(xiàn)在才真正形成了這樣的合作模式。過(guò)去也曾經(jīng)有工業(yè)界的組織對(duì)科學(xué)發(fā)展有很大的的影響,比如我曾經(jīng)工作過(guò)的貝爾實(shí)驗(yàn)室,還有 IBM 研究院和微軟研究院也是這樣,但是他們對(duì)于知識(shí)產(chǎn)權(quán)的占有欲都太強(qiáng)了。那時(shí)候并沒(méi)有開(kāi)源啊或者其他開(kāi)放的傳統(tǒng)?,F(xiàn)在,現(xiàn)在時(shí)代已經(jīng)不一樣了,這里已經(jīng)形成了一種工業(yè)界做研究的新方式。我覺(jué)得已經(jīng)有一些別的企業(yè)或多或少受到了我們的影響。比如在過(guò)去五年里,谷歌對(duì)于自己的研究成果要比更早的時(shí)候開(kāi)放得多。他們現(xiàn)在也還是有一些保密性的,但是肯定比以前要開(kāi)放太多了。

記者:我知道一個(gè)人,她可以算是你想要在 Facebook 做的這些事情的見(jiàn)證人!這個(gè)人就是 Pauline Luc,我上個(gè)月才剛剛采訪(fǎng)過(guò)她,她告訴我說(shuō):「我在 Facebok 的實(shí)驗(yàn)室就和我在學(xué)校的實(shí)驗(yàn)室一樣?!?/p>

LeCun:對(duì)的,就是這樣。當(dāng)然我也很了解 Pauline 的工作,因?yàn)槲矣袇⑴c她的項(xiàng)目,和她一起寫(xiě)過(guò)論文。我覺(jué)得她的研究成果特別棒。

記者:最后,我們來(lái)談?wù)勗谀阃诵葜白钕胱龀鰜?lái)的成果是什么?

LeCun:找到一個(gè)普遍通用的好方法來(lái)做自我監(jiān)督學(xué)習(xí)。我在確實(shí)計(jì)算機(jī)視覺(jué)方面做過(guò)一些研究,不過(guò)我不覺(jué)得自己是一個(gè)計(jì)算機(jī)視覺(jué)研究員。起碼不完全是做計(jì)算機(jī)視覺(jué)的。我的興趣實(shí)際上還是在學(xué)習(xí)上,比如我喜歡尋找不同的方式讓機(jī)器通過(guò)觀察來(lái)學(xué)習(xí)這個(gè)世界是怎么運(yùn)作的。這就意味著在包含有不確定性的環(huán)境中學(xué)習(xí)。如果你讓機(jī)器看一段視頻,然后讓它預(yù)測(cè)接下來(lái)會(huì)發(fā)生什么,可能的發(fā)展其實(shí)會(huì)有很多。但另一方面,所有這些可能的發(fā)展里,真正發(fā)生在接下來(lái)的視頻里只會(huì)有一種,但其他的狀況也還是有可能發(fā)生的。當(dāng)你訓(xùn)練一個(gè)機(jī)器預(yù)測(cè)視頻的時(shí)候,如果你不小心的話(huà),它就會(huì)輸出一個(gè)模糊的預(yù)測(cè)結(jié)果,差不多是所有可能發(fā)生的情境的平均值。那這就是一個(gè)糟糕的預(yù)測(cè)了。

我們想要解決的一個(gè)技術(shù)問(wèn)題就是,在一個(gè)理想的預(yù)測(cè)結(jié)果不是單一的值、而是一系列值的環(huán)境里,我們要怎么樣訓(xùn)練一個(gè)機(jī)器。寫(xiě)成數(shù)學(xué)形式的話(huà),我們可以說(shuō)是讓它預(yù)測(cè)一個(gè)概率分布,不再是單個(gè)的點(diǎn)。但我們并不知道如何在高維連續(xù)空間里表示概率分布。我覺(jué)得這里很有可能是,就像采訪(fǎng)前面說(shuō)過(guò)的那樣,要弄清楚其中真正關(guān)鍵的概念,然后找到簡(jiǎn)單的架構(gòu),容易理解,也容易處理表示不確定性的問(wèn)題。GANs 是一個(gè)有潛力的方法,但我們對(duì) GANs 的理解也不是很透徹。它們不是總能收斂,但是當(dāng)它們能出結(jié)果的時(shí)候通常都能出很棒的結(jié)果。既然它們不能保證每次都出結(jié)果,那我們就需要找別的辦法,要么理解 GANs 能出結(jié)果的原因,要么尋找一些別的方法,用這些新的方法幫助機(jī)器學(xué)習(xí)盡可能多地通過(guò)觀察視頻、照片等等的學(xué)習(xí)這個(gè)世界的背景知識(shí)。然后等到機(jī)器學(xué)到了關(guān)于這個(gè)世界的好的模型之后,它就能夠像我們理想的那樣只需要很少的樣本或者只嘗試幾次就能學(xué)會(huì)任何具體的任務(wù)。我未來(lái)幾年的目標(biāo)就是這個(gè)。

via rsipvision.com,雷鋒網(wǎng) AI 科技評(píng)論編譯

雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知

Yann LeCun專(zhuān)訪(fǎng):我不覺(jué)得自己有天分,但是我一直往聰明人堆里鉆

分享:
相關(guān)文章

讀論文為生

日常笑點(diǎn)滴,學(xué)術(shù)死腦筋
當(dāng)月熱門(mén)文章
最新文章
請(qǐng)?zhí)顚?xiě)申請(qǐng)人資料
姓名
電話(huà)
郵箱
微信號(hào)
作品鏈接
個(gè)人簡(jiǎn)介
為了您的賬戶(hù)安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄