深度學習真的可以零基礎入門嗎？

本文作者：三川

2017-06-13 19:20

導語：楊杰：“入門深度學習什么都不需要，一張白紙最好。”

深度學習真的可以零基礎入門嗎？

我們先來談談自學深度學習最大的問題。

現(xiàn)在搞深度學習的，十之八九并不是“科班出身”。

這就導致：如果你想要跨行成為一名深度學習工程師，從頭到尾的一切，都基本靠自學。但是，開發(fā)者很快就會發(fā)現(xiàn)自己遇到了第一個障礙：

絕大多數(shù)的學習資源以理論研究為導向，輕工程實踐。

其實這也難怪。這幾年，深度學習是火了，但大牛們都來自學界，例子不勝枚舉：比如谷歌云首席科學家李飛飛、主管 FAIR 的 Yann LeCun、在谷歌大腦的 Ian Goodfellow，以及在過去三年里任百度首席科學家的吳恩達。大牛出身高校，他們編寫的教材、錄制的慕課也是，不可避免帶有很強的學術屬性，總給人一種“聽大學老師講課”的感覺（本來就是）。即便有意避免研究導向，甚至弱化數(shù)學理論部分（比如吳恩達老師在 Coursera 上的“Machine Learning”），仍然離產業(yè)界的需求相去甚遠。

用一句話來概括：現(xiàn)有的深度學習資源，對學生群體很友好，但對在職工程師并不如此。許多人花大半年時間（有毅力的會更久）研讀了幾本深度學習教材，發(fā)現(xiàn)實際操作時仍然不知道該怎么實現(xiàn)一個具體的東西。

Jason Brownlee 的故事

我們的老熟人——澳大利亞的機器學習（ML）專家 Jason Brownlee，就常用自己的“慘痛經歷”勸誡深度學習學習者切勿迷信學校里的東西。

他本是一名普通的軟件工程師，對 ML 感興趣之后，花幾百澳刀買了幾本教材自學，但效果不是很好，以為需要“科班”學習經歷才能讀懂那些學術語言。一咬牙辭職，從 AI 專業(yè)的研究生讀到博士。畢業(yè)了，卻發(fā)現(xiàn)“搞” ML（而不是研究 ML），其實在 IT 技能的基礎上，一步步邊實踐邊摸索就夠了，饒了一大圈回來，還是重拾程序猿的老本行，成為一名幾年前的自己其實就能勝任的 ML 工程師。

深度學習真的可以零基礎入門嗎？

Jason Brownlee

有感于自己繞的彎路，Jason Brownlee 創(chuàng)建了一個 ML 學習網(wǎng)站 Machine Learning Mastery，把自己的學習心得分享給大家。他寫的教程和書，首重開發(fā)者最關心的具體模型的實現(xiàn)，對其背后的理論一帶而過，結果大受工程師的歡迎。

如今， “Machine Learning Mastery” 已成為業(yè)界最知名的 ML 教育品牌之一。

關注雷鋒網(wǎng)的讀者應該也發(fā)現(xiàn)了，但凡 Jason 有符合國內讀者需求的技術教程，雷鋒網(wǎng)總在第一時間翻譯出來分享給大家。而這實際折射了一個趨勢：凡是冠以“實戰(zhàn)”二字的深度學習、ML 文章，會更受歡迎。

這直接反映出：工程實踐導向的深度學習、ML 學習資源有多匱乏。

面向開發(fā)者的培訓

有句話怎么說來著——“需求產生供給”。巨大的市場缺口，吸引著越來越多產業(yè)界的 ML 工程師投身教育培訓。比如說，除了 Machine Learning Mastery，國外的英偉達 DLI 深度學習學院（詳情見雷鋒網(wǎng)此前報道“你聽說過英偉達深度學習學院 DLI 嗎？”）、fast.ai，國內雷鋒網(wǎng)創(chuàng)立的 mooc.ai，都是以工程實踐為導向、面向開發(fā)者的深度學習培訓項目。這些培訓，彌補了大多數(shù)深度學習慕課偏重理論講解、缺乏代碼實現(xiàn)的短板，可說是互為表里。

但由于深度學習開發(fā)者培訓需要經驗豐富的工程師現(xiàn)場指導如何設置環(huán)境、如何操作開發(fā)工具，以及如何 troubleshooting，慕課的萬人在線、線上學習形式難以滿足要求。高品質的培訓，往往在線下進行，這大幅限制了參與人數(shù)，導致資源依舊稀缺。

鑒于此，AI 慕課學院（mooc.ai）聯(lián)合 fast.ai 中文社區(qū)，邀請了四名中外深度學習工程師，6 月 17 -18 日在北京太庫（Techcode）進行“12小時零基礎入門深度學習”線下培訓，目標是提供業(yè)內對新手最友好的深度學習入門指導，降低學習者跨行從事深度學習開發(fā)的門檻。開課前夕，幾位指導老師同雷鋒網(wǎng)進行了交流——為什么在他們眼中，深度學習可以“零基礎入門”。

深度學習真的可以零基礎入門嗎？

零基礎入門？

雷鋒網(wǎng)對指導老師中的三位：楊杰、Max 和趙伊丹進行了采訪。

其中，楊杰老師曾在南方航空動力機械有限公司從事多年的生產線設計，轉型深度學習后進行算法金融項目的研發(fā)；Max 本是金融學博士，在“深度學習”和“無人駕駛”領域有豐富教學經驗；趙伊丹老師在致力于深度學習之前，從事校園 VC 的深度學習與無人駕駛項目。

為什么實戰(zhàn)培訓如此重要？

楊杰：現(xiàn)在的學習資源太傾向數(shù)學理論。比如 Ian Goodfellow、Yoshua Bengio、Aaron Courville 編寫的教科書《Deep Learning》，初學者看了也不知道該怎么做。深度學習的理論研究已經進入到很深的層次，對于想要真正做好、精通的人，我認為這本書是必讀的，但不適合初學者。

Max（經雷鋒網(wǎng)編譯，下同）：fast.ai 的創(chuàng)始人 Jeremy Howard 喜歡舉這么個例子：對于足球運動員，不需要學習物體的物理運動原理，只需要喜歡這項運動，然后去踢，不斷在練習中提高技藝。對于開發(fā)者，在一開始上手時，只需要知道怎么做，而不需要知道為什么。

楊杰：（補充道）數(shù)學理論可以上手后再慢慢學。一開始就往里鉆容易產生畏難情緒， “覺得不是他的菜”，因而放棄?？梢韵扔闷饋?，感興趣之后慢慢再研究理論。

新手入門深度學習的主要障礙是什么？

楊杰：心理障礙。

Max ：知識點太多，需要理解的術語、概念太多。因此在一開始深度學習看上去很難。但真正上手之后，會發(fā)現(xiàn)其實沒有想象中那么難。

趙伊丹：環(huán)境配置（楊杰和 Max 點頭贊同）。這一關會把很多初學者嚇跑——很多人靠自己很難把第一步的開發(fā)環(huán)境設置起來。這里需要的東西很多也很麻煩，容易遇到各種系統(tǒng)問題。因此，“12小時零基礎入門深度學習”會把環(huán)境調好讓大家可以直接上手。

新手最需要掌握的技能是什么？

Max ：Python 和 numpy。

楊杰：什么都不需要，一張白紙最好。什么都沒學過更容易入門，不然容易和以前學到的編程知識混淆。雖然深度學習開發(fā)必須要用 Python，但一開始不會 Python 用不著介意。相比主流編程語言，比如 C++，Python 上手更簡單，對普通人更友好。

趙伊丹：基礎編程技巧，以及計算機命令行。雖然這些可以慢慢學，但事先就會的話能省些功夫。

推薦哪些輔助開發(fā)工具、框架？

三位老師：Keras+TensorFlow，后者已經成為行業(yè)標準，前者是后者的 API。

conda 和 Anaconda。

另外，由于硬件基本都是用 GPU，需要 CUDA。

對于各個深度學習模型，你們認為新手應從哪一個上手？

Max：CNN。圖像處理問題一般基于 CNN，它也很適合應用于分類問題。簡單來說就是：它最基礎，應用頻繁，很多更復雜的模型都是基于 CNN，非常適合入門。

三年前，世界屈指可數(shù)的頂級研究機構才能實現(xiàn)的一些算法，現(xiàn)在任何一個開發(fā)者都可以利用各種開發(fā)工具借助 CNN 實現(xiàn)。

深度學習入門課程，比如”12 小時零基礎入門深度學習“，能為學習者帶來的最大的提升在于哪個方面？

楊杰：信心——明白“I can do it”。

趙伊丹：指導老師手把手帶著嘗試過了，在實戰(zhàn)中就知道怎么去做、朝什么方向去做。

你們當初入門深度學習的過程中都遇到了哪些困難，又是如何解決的？

Max：搭建環(huán)境是個很大的坎兒。另外，當時我沒有 GPU，訓練速度特別慢。后來就想辦法減少數(shù)據(jù)加快速度。

我覺得新手可以多看看 “help”幫助文檔。再有就是 Google 和百度——從我的經驗來看，99%的問題都能搜索解決。絕大多數(shù)問題別人已經遇到過，并且已經解決過了，只需要多點耐心找出來。

趙伊丹：缺乏實踐項目的磨煉，理論學得太多，但不知道怎么用。舉個例子，有很多深度學習模型的優(yōu)化方法，但只憑理論是無法判斷出應該用哪個的，也不知道怎么去調。這里就需要實踐經驗并結合實際項目來做選擇。

有許多原本從事其他行業(yè)的程序員、甚至非程序員，想要跨行做深度學習，對他們的建議是？

楊杰：（笑）我們以前就是跨行的。這次的培訓也是針對這一點，不需要深厚基礎，不需要對深度學習數(shù)學理論有多深的理解。程序員也未必優(yōu)勢很大，他們上手新編程語言更容易，僅此而已。

Fast.ai 的座右銘是”make deep learning uncool again“，即“讓深度學習不再高冷”。你們的理解是？

Max：深度學習不應該是只有科學家才能做的事情。各行各業(yè)的技術人員，都應該有能力把深度學習技術整合進他們的工程應用中，把產品做得更好?，F(xiàn)在，只有谷歌等少數(shù)互聯(lián)網(wǎng)巨頭才稱得上是大范圍地應用深度學習。但在不遠的將來，無數(shù)公司的服務、產品都會有這個需要。這其中的關鍵，就是讓深度學習不局限于內行、專家，讓任何專業(yè)背景的技術人員借助工具都能掌握。而且，它本來就不難學。

趙伊丹：（補充道）現(xiàn)在還存在大片市場空白。在許多尚未涉及的領域，一旦應用深度學習就很容易產生很大的效果。