雷鋒網(wǎng) AI 科技評(píng)論按：機(jī)器學(xué)習(xí)以其特有的優(yōu)勢(shì)逐漸在科學(xué)研究中得到大量應(yīng)用，然而，其內(nèi)在的“黑箱”特點(diǎn)也帶來(lái)了一系列問(wèn)題，有研究者認(rèn)為正是機(jī)器學(xué)習(xí)的這種不可解釋性導(dǎo)致了當(dāng)下科學(xué)研究的“可重復(fù)性危機(jī)”——如果科學(xué)不可重復(fù)，那我們是否還能稱之為真正的科學(xué)嗎？與此同時(shí)，更有研究者聲稱機(jī)器學(xué)習(xí)已經(jīng)成為一種“煉金術(shù)”。本文基于機(jī)器學(xué)習(xí)所帶來(lái)的“可重復(fù)性危機(jī)”，從“是什么”“為什么”以及“下一步該如何做”三個(gè)層次進(jìn)行了闡述，為這一危機(jī)尋找出路：可重復(fù)性和可解釋性的機(jī)器學(xué)習(xí)模型。

一、什么是“可重復(fù)性危機(jī)”？

“如今科學(xué)界的研究人員普遍意識(shí)到存在一種“可重復(fù)性危機(jī)”（Reproducibility Crisis）。我敢說(shuō)，這其中很大一部分都來(lái)源于機(jī)器學(xué)習(xí)技術(shù)在科學(xué)中的應(yīng)用?！?br/>

—— 摘自萊斯大學(xué)統(tǒng)計(jì)與電氣工程系教授 Genevera Allen

機(jī)器學(xué)習(xí)方法正在取代傳統(tǒng)的統(tǒng)計(jì)方法，越來(lái)越普遍地被應(yīng)用到科學(xué)研究過(guò)程中，這會(huì)給科學(xué)界及其對(duì)知識(shí)的追求帶來(lái)什么影響呢？ 一些人認(rèn)為，正是機(jī)器學(xué)習(xí)技術(shù)的“黑箱”導(dǎo)致了科學(xué)研究的“可重復(fù)性危機(jī)”。畢竟，如果科學(xué)不可重復(fù)，那我們是否還能稱之為真正的科學(xué)嗎？

（聲明：本文是我自己基于參考文獻(xiàn)中所參考的材料發(fā)表的一些觀點(diǎn)。這是學(xué)術(shù)界的一個(gè)有爭(zhēng)議的領(lǐng)域，歡迎大家進(jìn)行建設(shè)性辯論。）

科學(xué)過(guò)程的生命周期

機(jī)器學(xué)習(xí)（ML）在科學(xué)研究中似乎已經(jīng)無(wú)處不在，甚至在很多領(lǐng)域中已經(jīng)替代了傳統(tǒng)的統(tǒng)計(jì)方法。雖然通常來(lái)說(shuō)，ML技術(shù)更易于用作分析的一項(xiàng)工具，但它內(nèi)在的“黑箱”特點(diǎn)給科學(xué)家在追求真理的過(guò)程中造成了一些嚴(yán)重的問(wèn)題。

科學(xué)界的“可重復(fù)性危機(jī)”是指是指驚人數(shù)量的研究結(jié)果無(wú)法在另一組科學(xué)家團(tuán)隊(duì)進(jìn)行的同一個(gè)實(shí)驗(yàn)中實(shí)現(xiàn)重復(fù)。這可能就意味最初的結(jié)果是錯(cuò)誤的。一項(xiàng)研究表明，在全世界所有進(jìn)行過(guò)的生物醫(yī)學(xué)研究中，有多達(dá) 85% 的研究結(jié)果都是徒勞無(wú)獲的。

關(guān)于“可重復(fù)性危機(jī)”的爭(zhēng)論可能是學(xué)術(shù)界中最接近機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)學(xué)科間的斗爭(zhēng)的一次爭(zhēng)論。

一位人工智能研究員甚至在一篇科學(xué)文章中聲稱，機(jī)器學(xué)習(xí)已經(jīng)成為一種“煉金術(shù)”。（相關(guān)閱讀鏈接：https://www.sciencemag.org/news/2018/05/ai-researchers-allege-machine-learning-alchemy?）

他關(guān)于這個(gè)話題的一些論文和博客文章，都非常值得一讀，比如：“大型尺度核機(jī)器的隨機(jī)特征”，文章鏈接為：https://people.eecs.berkeley.edu/~brecht/papers/07.rah.rec.nips.pdf  

ML成為了科學(xué)研究一項(xiàng)很好的補(bǔ)充，使其在研究中的應(yīng)用變得不可避免。ML可以被視為一個(gè)工程任務(wù)——就像一條集建模、調(diào)參、數(shù)據(jù)預(yù)處理和與元素優(yōu)化于一體的流水線。ML 的目的就是尋找最優(yōu)解或最優(yōu)預(yù)測(cè)，而這屬于科學(xué)研究的一項(xiàng)子集。

機(jī)器學(xué)習(xí)的類型和算法本身就是科學(xué)研究的議題。與過(guò)去的統(tǒng)計(jì)方法一樣，現(xiàn)在研究者們正在撰寫大量各類 ML 算法和 ML 算法子類相關(guān)的科研論文。

2019年 2 月，Genevera Allen 在美國(guó)科學(xué)進(jìn)步協(xié)會(huì)（AAAS）上發(fā)出了一個(gè)嚴(yán)重警告：科學(xué)家們正在學(xué)習(xí)基于機(jī)器學(xué)習(xí)算法來(lái)發(fā)現(xiàn)數(shù)據(jù)中的模式，即使這些算法只是專注于在另一個(gè)實(shí)驗(yàn)中無(wú)法重復(fù)的噪音。

這一挑戰(zhàn)涉及多個(gè)學(xué)科，因?yàn)闄C(jī)器學(xué)習(xí)在天文學(xué)、基因組學(xué)、環(huán)境科學(xué)和醫(yī)療保健等多個(gè)領(lǐng)域都被應(yīng)用于獲取發(fā)現(xiàn)。

其中，Genevera Allen  使用的最主要的例子是基因組數(shù)據(jù)，這些數(shù)據(jù)通常是數(shù)據(jù)量非常巨大的數(shù)百 GB 或數(shù)個(gè) TB 的數(shù)據(jù)集。她指出，當(dāng)科學(xué)家使用自己不太了解的 ML 算法對(duì)基因組圖譜進(jìn)行聚類分析時(shí)，常常會(huì)出現(xiàn)似是而非、不可重復(fù)的結(jié)果。

直到另一個(gè)團(tuán)隊(duì)進(jìn)行了類似的分析研究，并得出了完全不同的結(jié)果，這才使得之前的結(jié)果變得有爭(zhēng)議且被人質(zhì)疑。這其中可能有多種原因：

• 缺乏算法知識(shí)

• 對(duì)數(shù)據(jù)缺乏了解

• 對(duì)結(jié)果的曲解

二、造成“可重復(fù)性危機(jī)”的原因

1、算法知識(shí)的欠缺

缺乏算法知識(shí)的現(xiàn)象在機(jī)器學(xué)習(xí)應(yīng)用領(lǐng)域顯得極為普遍。如果你不明白一個(gè)算法是如何產(chǎn)生結(jié)果的，那又怎么能確定它有沒(méi)有作弊，或者其得到的變量間相關(guān)性的結(jié)果實(shí)際上是虛假的呢？ 

由于參數(shù)太多（深度神經(jīng)網(wǎng)絡(luò)通常有數(shù)百萬(wàn)個(gè)參數(shù)），這是神經(jīng)網(wǎng)絡(luò)中的一大問(wèn)題。而實(shí)際上用于記數(shù)的不僅僅有參數(shù)，還有超參數(shù)，包括學(xué)習(xí)率、初始化策略、迭代次數(shù)和網(wǎng)絡(luò)結(jié)構(gòu)等項(xiàng)。

僅僅意識(shí)到自己缺乏算法知識(shí)是不足以解決這個(gè)問(wèn)題的。如果不同研究的論文中使用的是不同的網(wǎng)絡(luò)，你又如何將這些結(jié)果進(jìn)行比較？由于高維神經(jīng)網(wǎng)絡(luò)損失函數(shù)的動(dòng)態(tài)結(jié)構(gòu)圖具有高度復(fù)雜性，即使只增加一個(gè)額外變量或改變一個(gè)超參數(shù)也會(huì)對(duì)結(jié)果產(chǎn)生顯著的影響。

2、對(duì)數(shù)據(jù)缺乏了解

缺乏數(shù)據(jù)知識(shí)也是一個(gè)巨大的難題，但這一問(wèn)題可以延伸到傳統(tǒng)的統(tǒng)計(jì)技術(shù)方法。數(shù)據(jù)采集中的誤差——如量化誤差、測(cè)量不確定性和智能體變量的使用，這是主要的問(wèn)題。

次優(yōu)數(shù)據(jù)也常常會(huì)造成一些問(wèn)題，但是了解什么樣的數(shù)據(jù)適合使用什么樣的算法也是非常重要的，并且這一選擇可能會(huì)對(duì)結(jié)果產(chǎn)生重大影響。一次簡(jiǎn)單的回歸檢驗(yàn)就可以很輕松地證明這一點(diǎn)。

通常地，在實(shí)驗(yàn)中會(huì)出現(xiàn)參數(shù)多于數(shù)據(jù)點(diǎn)的現(xiàn)象（這在基因組學(xué)中是非常正常的，因?yàn)槲覀冇泻芏嗷?，很少?shù)據(jù)點(diǎn)），如果我們使用線性回歸方法，那么我們選擇的正則化方式會(huì)嚴(yán)重影響被視作為重要的參數(shù)。

如果我們使用套索回歸（ LASSO Regression），該回歸方法趨向于將明顯不重要的變量統(tǒng)統(tǒng)變?yōu)榱悖瑥亩鴱幕貧w中將它們消除并提供一些變量選擇。

如果我們使用嶺回歸（ Ridge Regression），該回歸方法傾向于將這些不重要的參數(shù)縮小到足夠小，以至于它們可以忽略不計(jì)，但同時(shí)將它們從數(shù)據(jù)集中刪除也是有必要的。

如果我們使用彈性網(wǎng)絡(luò)回歸（ Elastic Net Regression，套索回歸和嶺回歸的組合），我們將再次得到非常不同的答案。

如果我們不使用任何回歸，那么由于我們有比數(shù)據(jù)點(diǎn)更多的變量，算法顯然會(huì)使得數(shù)據(jù)過(guò)擬合，因此算法將繁瑣地對(duì)所有數(shù)據(jù)點(diǎn)進(jìn)行擬合。

顯然，在線性回歸中，可以通過(guò)置信區(qū)間、p-檢驗(yàn)等統(tǒng)計(jì)測(cè)試來(lái)評(píng)估它的準(zhǔn)確性。然而，對(duì)于神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，這些評(píng)估方式只能是一種奢侈的幻想，是不存在的。那么我們?cè)鯓硬拍艽_定我們通過(guò)神經(jīng)網(wǎng)絡(luò)得來(lái)結(jié)論的準(zhǔn)確性如何呢？我們目前所能做的就是詳細(xì)的陳述模型的架構(gòu)和超參數(shù)，并將代碼開源，以供其他科學(xué)家進(jìn)行分析或?qū)@個(gè)模型重新使用。

3、對(duì)結(jié)果的誤解

對(duì)結(jié)果的誤解在科學(xué)界很常見(jiàn)。其中一個(gè)原因是相關(guān)性并不意味著因果關(guān)系，一般來(lái)說(shuō)，兩個(gè)變量A和B可能存在關(guān)聯(lián)的原因有以下幾點(diǎn)：

   1）A可能是由B的出現(xiàn)引起的

   2）B可能是由A的出現(xiàn)引起的

   3）A和B可能是由另一個(gè)混雜變量C引起的

    4）A和B可能是偽相關(guān)性

兩值間的相關(guān)性很容易顯現(xiàn)出來(lái)，但產(chǎn)生這種結(jié)果的原因很難確定。通過(guò)在谷歌上輸入偽相關(guān)性，你可以找出一些看起來(lái)非常有趣但明顯十分荒謬的具有統(tǒng)計(jì)意義相關(guān)性例子，比如：

這些似乎都是十分荒謬的相關(guān)性例子，但我想指出的是，如果將這些變量放到提供給機(jī)器學(xué)習(xí)算法進(jìn)行訓(xùn)練的數(shù)據(jù)集中，則該算法不會(huì)考慮所述因果關(guān)系的有效性或者提出任何問(wèn)題，而是很輕易地接受此相關(guān)性作為因果變量。從這個(gè)角度看，該算法很可能是不準(zhǔn)確或者錯(cuò)誤的，因?yàn)檐浖回?fù)責(zé)識(shí)別出僅存于該數(shù)據(jù)集而不是現(xiàn)實(shí)世界中的模式。

偽相關(guān)性的出現(xiàn)，正是由于人們?cè)絹?lái)越普遍地使用一些具有成千上萬(wàn)個(gè)變量的大型數(shù)據(jù)集。而近幾年來(lái)，偽相關(guān)性發(fā)生的頻率也變得驚人的多。

如果我有上千個(gè)變量和數(shù)百萬(wàn)個(gè)數(shù)據(jù)點(diǎn)，那么這些數(shù)據(jù)之中不可避免的會(huì)出現(xiàn)相關(guān)性。算法可以鎖定這些因素并將其認(rèn)定為因果關(guān)系，從而有效地執(zhí)行無(wú)意識(shí)的 p-hacking，而 p-hacking 是一項(xiàng)還沒(méi)有在學(xué)術(shù)界得到認(rèn)可的技術(shù)。

1、什么是 p-hacking

p-hacking的做法包括獲取數(shù)據(jù)集以及盡可能全面地搜索其中具有統(tǒng)計(jì)學(xué)意義的相關(guān)性，并將這些相關(guān)性視為科學(xué)有效。

你擁有的數(shù)據(jù)越多，就越有可能在兩個(gè)變量之間找到偽相關(guān)性。

通常來(lái)說(shuō)，科學(xué)研究包括了提出假設(shè)、收集數(shù)據(jù)以及通過(guò)對(duì)數(shù)據(jù)進(jìn)行分析以確定假設(shè)是否有效。p-hacking 所做的是先進(jìn)行一個(gè)實(shí)驗(yàn)，然后通過(guò)既得實(shí)驗(yàn)結(jié)果形成事后假設(shè)來(lái)解釋它們所獲得的數(shù)據(jù)。這樣做本身是沒(méi)有惡意的，但是有些時(shí)候，科學(xué)家們這么做僅僅是為了讓他們能夠發(fā)表更多的論文。

2、增強(qiáng)相關(guān)性

機(jī)器學(xué)習(xí)算法的另一個(gè)問(wèn)題是算法必須能夠做出預(yù)測(cè)，這就好比算法不能在最后說(shuō)“我什么都沒(méi)找到”。這種算法框架的脆弱性意味著，無(wú)論最終特征結(jié)果多不合適，它總能找到某種可以用來(lái)解釋數(shù)據(jù)的方法（需要在算法和數(shù)據(jù)正確設(shè)置的前提下實(shí)現(xiàn)，否則可能無(wú)法收斂）。

目前，我還沒(méi)聽過(guò)哪個(gè)機(jī)器學(xué)習(xí)算法能夠返回用戶并告訴他們數(shù)據(jù)是不合適的，這項(xiàng)工作已經(jīng)被暗定為科學(xué)家的任務(wù)——而這并不是什么公平的假設(shè)。

“那為什么還使用機(jī)器學(xué)習(xí)呢？”

這是一個(gè)很好的問(wèn)題。機(jī)器學(xué)習(xí)使數(shù)據(jù)集的分析變得簡(jiǎn)易，并且 ML 算法可以幫助用戶進(jìn)行大量的工作。在由于數(shù)據(jù)集太大而無(wú)法使用標(biāo)準(zhǔn)統(tǒng)計(jì)技術(shù)進(jìn)行有效分析的領(lǐng)域中，這一點(diǎn)就變得彌足珍貴。盡管它加速了科學(xué)家的工作進(jìn)度，但是機(jī)器學(xué)習(xí)在預(yù)測(cè)質(zhì)量上存在的問(wèn)題足以抵消機(jī)器學(xué)習(xí)帶來(lái)的生產(chǎn)效率上的提高。

三、下一步可以做什么？

機(jī)器學(xué)習(xí)的前景也并非完全黯淡無(wú)光。傳統(tǒng)統(tǒng)計(jì)方法和數(shù)據(jù)集也一直存在著類似的問(wèn)題，只是在機(jī)器學(xué)習(xí)中這些問(wèn)題由于大型數(shù)據(jù)集和算法的大量使用而被放大了。這些數(shù)據(jù)集和算法可以自動(dòng)找到數(shù)據(jù)的相關(guān)性，與傳統(tǒng)技術(shù)相比，使得我們更難對(duì)找到的相關(guān)性進(jìn)行解釋。同時(shí)，上述這種放大也暴露了科學(xué)研究過(guò)程中有待克服的弱點(diǎn)。

然而，研究者也在開展下一代機(jī)器學(xué)習(xí)系統(tǒng)的相關(guān)工作，以確保它能夠評(píng)估其預(yù)測(cè)的不確定性，以及解決它的不可再現(xiàn)性。

話雖這么說(shuō)，正如只有愚昧的工人才會(huì)將他失敗的原因歸咎于他們使用的工具，科學(xué)家們?cè)谑褂脵C(jī)器學(xué)習(xí)算法時(shí)也需要格外小心，以確保他們的研究結(jié)果得到證實(shí)和檢驗(yàn)。同行評(píng)審流程的設(shè)計(jì)初衷就是為了確保這一點(diǎn)，而這同時(shí)也是每個(gè)研究人員的責(zé)任。研究人員需要弄清他們使用的技術(shù)并了解其局限性；如果他們不具備這些專業(yè)知識(shí)，那么去一趟統(tǒng)計(jì)系與某位教授進(jìn)行一次交流將會(huì)讓我們都收益匪淺。

Rahimi（他認(rèn)為 ML是一種 “煉金術(shù)”方法）提供了一些建議來(lái)判斷哪種算法最為有效，在何時(shí)最佳。他指出，研究人員應(yīng)進(jìn)行消融研究， 即將參數(shù)依次移除，以評(píng)估其對(duì)算法的影響。 Rahimi 還呼吁進(jìn)行切片分析，即分析一個(gè)算法的性能，以了解對(duì)該算法在某些方面的改進(jìn)會(huì)使其消耗其他方面的成本。最后，他建議運(yùn)行設(shè)置了具有各種不同超參數(shù)的算法，并應(yīng)匯報(bào)這些算法的所有性能。這些技術(shù)將使用 ML 算法對(duì)數(shù)據(jù)提供更強(qiáng)大的分析。

由于科學(xué)研究過(guò)程的性質(zhì)，一旦解決了這些問(wèn)題，就可以最終發(fā)現(xiàn)并糾正以前發(fā)現(xiàn)的認(rèn)為是準(zhǔn)確的錯(cuò)誤關(guān)系。準(zhǔn)確的判斷當(dāng)然經(jīng)受得起時(shí)間的考驗(yàn)。

四、結(jié)語(yǔ)

由于最終結(jié)果缺乏可重復(fù)性，機(jī)器學(xué)習(xí)方法在科學(xué)學(xué)術(shù)界確實(shí)存在問(wèn)題。然而，科學(xué)家們已經(jīng)意識(shí)到了這些問(wèn)題，并且正在朝著更具可重復(fù)性和可解釋性的機(jī)器學(xué)習(xí)模型推進(jìn)相關(guān)工作，而一旦實(shí)現(xiàn)這一目標(biāo)，神經(jīng)網(wǎng)絡(luò)將會(huì)迎來(lái)真正意義上的突破。

Genevera Allen 強(qiáng)調(diào)了機(jī)器智能面臨的一個(gè)基本問(wèn)題：數(shù)據(jù)科學(xué)家仍然不了解機(jī)器學(xué)習(xí)所采取的機(jī)制。科學(xué)界必須共同努力，以便了解這些算法究竟是如何工作的，以及如何最有效地使用它們，以確保使用這種數(shù)據(jù)驅(qū)動(dòng)的方法最終得出可靠的、可重復(fù)的科學(xué)有效的結(jié)論。

就連聲稱機(jī)器學(xué)習(xí)是“煉金術(shù)”的 Rahimi 也對(duì)其潛力充滿希望。他說(shuō)，“正是由于原始的煉金術(shù)才有了后面的冶金學(xué)、藥物制造、紡織染色以及我們現(xiàn)代的玻璃制造工藝技術(shù)的發(fā)明。此外，煉金術(shù)士也認(rèn)為，他們可以將普通的金屬轉(zhuǎn)化為黃金，而水蛭是治愈疾病的好方法?！?/p>

正如物理學(xué)家Richard Feynman1974年在加州理工學(xué)院的畢業(yè)典禮上所說(shuō)， 

“科學(xué)的第一個(gè)原則是你不能愚弄自己，然而你自己卻是最容易被愚弄的人?！?/p>

 參考文獻(xiàn)：

[1] https://science-sciencemag-org.ezp-prod1.hul.harvard.edu/content/sci/365/6452/416.full.pdf

[2] https://research.fb.com/wp-content/uploads/2019/05/The-Scientific-Method-in-the-Science-of-Machine-Learning.pdf?

[3] https://bigdata-madesimple.com/machine-learning-disrupting-science-research-heres/

[4] https://biodatamining.biomedcentral.com/track/pdf/10.1186/s13040-018-0167-7

[5] https://www.sciencemag.org/news/2018/05/ai-researchers-allege-machine-learning-alchemy

[6] https://www.sciencedaily.com/releases/2019/02/190215110303.htm

[7] https://phys.org/news/2018-09-machine-scientific-discoveries-faster.html

[8] https://www.americanscientist.org/blog/macroscope/people-cause-replication-problems-not-machine-learning

[9] https://www.datanami.com/2019/02/19/machine-learning-for-science-proving-problematic/

[10] https://www.quantamagazine.org/how-artificial-intelligence-is-changing-science-20190311/

[11] https://ml4sci.lbl.gov/

[12] https://blogs.nvidia.com/blog/2019/03/27/how-ai-machine-learning-are-advancing-academic-research/

[13] https://towardsdatascience.com/a-quick-response-to-genevera-allen-about-machine-learning-causing-science-crisis-8465bbf9da82#--responses

[14] https://www.hpcwire.com/2019/02/19/machine-learning-reproducability-crisis-science/

By Matthew Stewart, PhD Researcher

via https://towardsdatascience.com/the-machine-learning-crisis-in-scientific-research-91e61691ae76  雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。