人工智能（AI）已經(jīng)幫助臨床醫(yī)生在美國各地的醫(yī)院進(jìn)行診斷、分診危重病例和轉(zhuǎn)錄臨床記錄。但研究人員在近日發(fā)表于《公共科學(xué)圖書館-數(shù)字健康》的一份報(bào)告中指出，對醫(yī)學(xué)AI產(chǎn)品的監(jiān)管并沒有跟上它們被迅速采用的步伐。
圖片來源： Getty
作者指出了美國食品和藥物管理局（FDA）批準(zhǔn)這些設(shè)備的局限性，并提出了超越該機(jī)構(gòu)的更廣泛戰(zhàn)略，以幫助確保醫(yī)療AI工具安全、有效。
FDA已經(jīng)批準(zhǔn)了1000多種醫(yī)療AI產(chǎn)品，醫(yī)院正在迅速采用它們。與大多數(shù)其他受FDA監(jiān)管的產(chǎn)品不同，AI工具在獲得批準(zhǔn)后會繼續(xù)發(fā)展，因?yàn)樗鼈儠鶕?jù)新數(shù)據(jù)進(jìn)行更新或再訓(xùn)練。這就提出了持續(xù)監(jiān)督的必要性，而現(xiàn)行法規(guī)在這方面的保障能力有限。
如果沒有適當(dāng)?shù)谋O(jiān)督，醫(yī)療算法可能會給出誤導(dǎo)性的建議并危害患者。“必須有保障措施。”該報(bào)告作者之一、美國麻省理工學(xué)院的臨床研究員Leo Anthony Celi說，“我認(rèn)為，依靠FDA提出所有保障措施是不現(xiàn)實(shí)的，甚至可能是不可能的。”
FDA用于審查和授權(quán)醫(yī)療AI工具的標(biāo)準(zhǔn)通常不如藥品嚴(yán)格。例如，根據(jù)FDA的規(guī)定，只有那些可能對患者構(gòu)成更高風(fēng)險(xiǎn)的工具才需要進(jìn)行臨床試驗(yàn)。另一個擔(dān)憂是，在應(yīng)用于與訓(xùn)練對象不同的人群時，醫(yī)療算法往往表現(xiàn)不佳。Celi說，由于這些限制，監(jiān)管部門的許可并不能確保醫(yī)療AI產(chǎn)品對它想要幫助的目標(biāo)群體有益。
理想情況下，醫(yī)院應(yīng)在采用這些技術(shù)前，評估算法在其患者群體中的表現(xiàn)，培訓(xùn)臨床醫(yī)生正確解讀輸出結(jié)果并作出適當(dāng)反應(yīng)。而Celi表示，“最大的挑戰(zhàn)之一是絕大多數(shù)醫(yī)院和診所沒有資源聘請AI團(tuán)隊(duì)”進(jìn)行此類測試。他補(bǔ)充說，今年發(fā)表的一項(xiàng)研究發(fā)現(xiàn)，許多醫(yī)院正在購買“現(xiàn)成”的AI工具，并在沒有本地?cái)?shù)據(jù)驗(yàn)證的情況下使用。“這是災(zāi)難的根源。”
報(bào)告建議大學(xué)與醫(yī)療機(jī)構(gòu)合作對AI醫(yī)療設(shè)備質(zhì)量進(jìn)行評估。“讓大學(xué)幫助醫(yī)院的IT部門準(zhǔn)備數(shù)據(jù)集、運(yùn)行模型、評估算法并監(jiān)控影響。”Celi說，“這是以前從未做過的，但考慮到技術(shù)的發(fā)展速度，我們認(rèn)為傳統(tǒng)的結(jié)構(gòu)將無法滿足需求。”
FDA沒有權(quán)力要求醫(yī)院在產(chǎn)品得到許可后進(jìn)行此類測試。美國斯坦福大學(xué)的健康法律研究員Michelle Mello說：“這根本不是其法定管轄權(quán)的一部分。問題是，除了FDA之外，還有誰參與其中、它們會做什么。”
Mello說，一個候選機(jī)構(gòu)是美國醫(yī)療保險(xiǎn)和醫(yī)療補(bǔ)助服務(wù)中心（CMS），這是一個為老年人和低收入人群等提供公共醫(yī)療保險(xiǎn)的美國聯(lián)邦機(jī)構(gòu)。她指出，CMS有權(quán)要求醫(yī)療機(jī)構(gòu)對AI工具進(jìn)行更嚴(yán)格的評估，并作為通過公共保險(xiǎn)計(jì)劃獲得付款的條件。
美國雪松-西奈醫(yī)療中心的心臟病專家David Ouyang也強(qiáng)調(diào)了醫(yī)療保險(xiǎn)公司在激勵對AI工具進(jìn)行更徹底的測試方面可以發(fā)揮的作用。他認(rèn)為， 保險(xiǎn)公司可以要求更嚴(yán)格的評估作為承保條件。“保險(xiǎn)的證據(jù)標(biāo)準(zhǔn)實(shí)際上比FDA的要高。”他說，“因此，AI的使用還有其他保障措施。”
相關(guān)論文信息：https://doi.org/10.1371/journal.pdig.0000866
本文鏈接：研究人員建議加強(qiáng)醫(yī)學(xué)人工智能產(chǎn)品監(jiān)管http://m.sq15.cn/show-11-22111-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。