0
雷鋒網(wǎng)AI研習社按：隨著硬件算力的上升、數(shù)據(jù)量的加大以及各種新算法的浮現(xiàn)，機器學習也變得一天比一天火熱。不夸張的說，這是機器學習的時代。然而，機器學習雖然能夠給出驚艷的結(jié)果，但其有限的解釋性也常被人戲稱為“黑箱”。而實踐者在使用機器學習的過程中往往也會面臨各種各樣的選擇。本文的目的就是幫助實踐者在使用機器學習過程中做出正確的選擇和判斷。文章內(nèi)容根據(jù)知乎人氣答主阿薩姆在雷鋒網(wǎng)AI研習社上直播分享整理而成。如您想直接看視頻回放，可點擊這里。
阿薩姆，普華永道高級數(shù)據(jù)科學家，負責統(tǒng)計學習模型開發(fā)。有豐富的工業(yè)及學術(shù)經(jīng)驗，擅長將理論知識應用于實踐中。曾以第一作者發(fā)表過多篇不同領(lǐng)域的學術(shù)文章，如人機互動、智能系統(tǒng)等。研究興趣包括異常檢測、集成學習、跨領(lǐng)域機器學習。以筆名“阿薩姆”在知乎上創(chuàng)作了多篇機器學習相關(guān)的文章，曾數(shù)次被知乎及知乎日報收錄。樂于技術(shù)分享，近期正在進行機器學習實踐書籍創(chuàng)作。
以下是阿薩姆的直播分享內(nèi)容：
機器學習無處不在的選擇
數(shù)據(jù)如何清理？使用哪個模型？如何進行評估？如何發(fā)現(xiàn)過擬合與欠擬合？這些問題都還沒有準確的答案，往往依賴于使用者的經(jīng)驗與直覺。在今天的分享課中，我們將會集中討論在機器學習中所面臨的選擇，并給出一些實用的經(jīng)驗建議。
實際問題抽象化
機器學習和深度學習聽起來非常酷炫，但不要為了使用模型而創(chuàng)造問題：機器學習的目標是解決問題。不要為了使用機器學習而創(chuàng)造問題。
機器學習可以預測很多東西，要學會確定“最小預測單元”，每當你把精度加深的時候，預測的難度就會加大。
切記盲目追求通過一個模型預測多個目標，盡量拆分問題。
確定最優(yōu)框架，在可以使用監(jiān)督學習，半監(jiān)督學習，無監(jiān)督學習，強化學習的情況下，優(yōu)先使用監(jiān)督學習
監(jiān)督學習和無監(jiān)督學習是”準確“和”探索“之間的平衡。
在了解了怎么定義一個最小單元，也知道選擇什么樣的框架后，下面需要考慮的問題是時間與空間上的依賴性。如果不考慮時空依賴性，問題會得到簡化，但可能有嚴重偏差。如果需要考慮時間與空間上的依賴性，優(yōu)先從簡單的角度入手。
因為在實際生產(chǎn)中需要的是一個能用的模型，而不是要一個完美的模型，這是一個迭代的過程。
在了解了時空依賴性對于機器學習問題的意義，下一個問題談的是回歸和分類。
什么情況下是適合進行回歸到分類的轉(zhuǎn)化。
另外一個問題，數(shù)據(jù)質(zhì)量往往不是連貫的。如果情況沒有那么好，可以舍棄一部分數(shù)據(jù)或?qū)?shù)據(jù)切分。
小結(jié)
確定要預測的目標，找到項目痛點，不追求同事預測多個目標。
確定解決問題的框架，優(yōu)先使用監(jiān)督學習
結(jié)合已有的規(guī)則， 嘗試融合機器學習模型和人為規(guī)則
如果可能，優(yōu)先嘗試分類任務，也可以嘗試將回歸轉(zhuǎn)為分類
從易到難，確定嘗試哪些機器學習模型
要解決的問題是否對于”時空“存在依賴性，如果可以回避依懶性，可以先試試簡單模型
如果發(fā)現(xiàn)使用全部數(shù)據(jù)效果不好，可以嘗試拋棄部分數(shù)據(jù)或分段處理。
如何選擇并處理數(shù)據(jù)
首先，大家要知道，數(shù)據(jù)不是越多越好，要根據(jù)領(lǐng)域經(jīng)驗挑選相關(guān)特征。有一個誤區(qū)就是信息越多越好。其實不然，無關(guān)信息可能與預測值存在某種巧合，導致對檢測結(jié)果造成負面影響。所以只選擇與預測值可能有關(guān)聯(lián)的信息。
如何判斷特征與結(jié)果之間的相關(guān)性
相關(guān)性分析的意義，可以發(fā)現(xiàn)數(shù)據(jù)中的問題，發(fā)現(xiàn)數(shù)據(jù)中有意思的部分，評估模型的能力。如果多個特征高度相關(guān)，那可能模型預測能力效果有限。
如果發(fā)現(xiàn)很多特征高度相關(guān)，是否應該移除？
總結(jié)來看，如果不存在特別嚴重的相關(guān)性，去相關(guān)性不是必要步驟。從理論和實驗角度來看，去掉或者合并相關(guān)性特征不一定會提高模型的預測能力。
從實踐角度來看，樹模型對于相關(guān)性的魯棒性強，如果可能，可以先使用未處理的特征在樹模型進行嘗試。
如果有必要移除相關(guān)性，下面是移除相關(guān)性的方法：
特征選擇
設定閾值，去除高線性相關(guān)的特征組。
連續(xù)特征離散化
數(shù)據(jù)與特征工程小結(jié)
在處理數(shù)據(jù)上，數(shù)據(jù)并非越多越好，多余的無關(guān)特征會因為偽相關(guān)、巧合而影響模型。
對數(shù)據(jù)做相關(guān)性分析的時候，善用可視化可以一目了然發(fā)現(xiàn)問題。
對于高度相關(guān)的特征，移除或者合并前要三思，可能并不會提高模型能力。
如果選用了線性模型，可能需要對特征進行離散化
對于大部分模型來說，歸一化或者標準化是必不可少的步驟，至少”無害“
如果問題較為復雜，盡量選擇非線性的魯棒性強的模型
模型選擇與評估的小結(jié)
以下是我推薦的模型選擇及評估流程：
根據(jù)要解決的問題和對數(shù)據(jù)的理解，大致決定出模型的搜索范圍，如嘗試SVM，邏輯回歸，隨機森林等。如資源允許，可擴大模型候選名單。
根據(jù)要解決的問題和對數(shù)據(jù)的理解，決定模型的評估標準。雖然建議選擇單一的評估標準進行對比，但推薦計算所有可能的評估標準。
根據(jù)具體問題中的數(shù)據(jù)量大小，以及模型穩(wěn)定性，決定是否使用交叉驗證。
結(jié)合參數(shù)搜索、交叉驗證方法，通過選定的評估標準從候選模型中找到表現(xiàn)最好的模型。
對上一步中的所選模型進行微調(diào)。
迭代以上步驟直到找到最優(yōu)的模型。
如何調(diào)試機器學習模型
我們常?？吹降囊环N調(diào)試方法是分析一個模型的泛化能力，主要看他的偏差與方差。
量化模型泛化能力-過擬合
量化模型泛化能力的診斷方式
模型問題診斷-高偏差和模型問題診斷-高方差
使用集成學習降低方差與偏差
機器學習模型調(diào)試小結(jié)
機器學習互動問答
更多精彩內(nèi)容，請觀看雷鋒網(wǎng)AI慕課學院視頻回放。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
