雷鋒網(wǎng)按：本文譯自Healthcare ITNews，作者M(jìn)ike Miliard。

近日，美國(guó)醫(yī)學(xué)信息學(xué)會(huì)(AMIA)向FDA提交了一份建議清單，希望改進(jìn)其擬議的人工智能、機(jī)器學(xué)習(xí)和醫(yī)療器械獨(dú)立軟件(SaMD)監(jiān)管框架。

為了提高臨床人工智能和醫(yī)療器械獨(dú)立軟件(SaMD)的有效性、效率和安全性，AMIA希望FDA能夠針對(duì)機(jī)器學(xué)習(xí)工具產(chǎn)品，微調(diào)其監(jiān)管政策——特別是那些能夠基于新數(shù)據(jù)自動(dòng)更新算法的工具。

AMIA指出，醫(yī)療AI行業(yè)往往分兩類(lèi)算法型產(chǎn)品：一種是“已鎖定的靜態(tài)算法”，一種是“不斷學(xué)習(xí)自動(dòng)更新的動(dòng)態(tài)算法”，這兩種算法背后的產(chǎn)品，差異巨大。

“我們成員的觀察經(jīng)驗(yàn)是，當(dāng)前許多 AI 醫(yī)療軟件，均基于實(shí)時(shí)或接近實(shí)時(shí)的數(shù)據(jù)連續(xù)更新，算法不斷適應(yīng)新數(shù)據(jù)和新問(wèn)題?！?br/>

AMIA表示，這意味著人工智能非常容易“從糟糕或有偏見(jiàn)的數(shù)據(jù)中訓(xùn)練出模型，該模型可能無(wú)法提供優(yōu)質(zhì)的決策和令人信服的解釋”。因此，這可能導(dǎo)致SaMD的用戶(hù)不知道該設(shè)備是否適用于受眾?！?/p>

因此，根據(jù)AIMIA的說(shuō)法，當(dāng)訓(xùn)練數(shù)據(jù)所屬人群與產(chǎn)品受眾不同時(shí)，F(xiàn)DA就應(yīng)該要求審查程序。

AMIA還鼓勵(lì)FDA將網(wǎng)絡(luò)安全風(fēng)險(xiǎn)放在首位，因?yàn)楹诳凸艋蚱渌麛?shù)據(jù)操縱均可能對(duì)給算法的輸出產(chǎn)生不利影響。例如，它建議圍繞“針對(duì)防止系統(tǒng)適應(yīng)錯(cuò)誤信號(hào)的特定類(lèi)型錯(cuò)誤檢測(cè)”來(lái)制定規(guī)則。

報(bào)告還建議FDA在框架中加入一些語(yǔ)言模型，以防止算法偏差對(duì)“特定種族、性別、年齡、社會(huì)經(jīng)濟(jì)背景、身體和認(rèn)知能力”的人群造成影響，并闡明SaMD技術(shù)的開(kāi)發(fā)人員該如何測(cè)試他們的產(chǎn)品，以檢測(cè)這種偏差并相應(yīng)地調(diào)整算法。

隨著機(jī)器學(xué)習(xí)在醫(yī)療保健領(lǐng)域不斷取得進(jìn)展，過(guò)去FDA批準(zhǔn)的AI產(chǎn)品多是使用的是無(wú)法持續(xù)學(xué)習(xí)的鎖定算法產(chǎn)品，而自我更新的動(dòng)態(tài)算法產(chǎn)品則是一個(gè)完全不同的領(lǐng)域，具有自己獨(dú)特的特點(diǎn)和風(fēng)險(xiǎn)。隨著監(jiān)管方法的不斷完善和技術(shù)的快速發(fā)展，F(xiàn)DA將需要注意這些問(wèn)題。

在其報(bào)告中，AMIA指出需要“根據(jù)數(shù)據(jù)輸入來(lái)源的不同來(lái)查看SaMD的性能。例如，來(lái)自臨床醫(yī)生、患者或家庭成員/護(hù)理人員手動(dòng)輸入的數(shù)據(jù)輸入對(duì)SaMD輸出造成了不同的問(wèn)題，這些數(shù)據(jù)輸入來(lái)自完全嵌入式和自動(dòng)化的設(shè)備，而這些設(shè)備無(wú)法改變?cè)O(shè)置(例如完全閉環(huán)和基于傳感數(shù)據(jù))。

它指出，“另一個(gè)關(guān)鍵問(wèn)題是，基于人工智能的SaMD應(yīng)該能夠在多大程度上為它所提供或支持的任何決策，提供解釋性推理。在人工智能的經(jīng)典范式中，已經(jīng)對(duì)現(xiàn)有的專(zhuān)業(yè)知識(shí)進(jìn)行了編碼，有可能將推理鏈返回到原則或數(shù)據(jù)。然而，機(jī)器學(xué)習(xí)算法可能在“黑盒”模式下運(yùn)行，輸入修改了隱式電路，沒(méi)有明確的可跟蹤性。因此，重要的是要考慮在何種情況下，一個(gè)基于人工智能的SaMD應(yīng)該對(duì)它提供的任何決定作出解釋。”

AMIA總裁兼首席執(zhí)行官Douglas B. Fridsma博士在一份聲明中說(shuō):“正確管理人工智能和基于機(jī)器學(xué)習(xí)的SaMD，需要FDA和利益相關(guān)者之間持續(xù)探討?！?span style="color: #FFFFFF;">雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。