人工智能（AI）被認為有助于提高診斷和治療的效率。當?shù)貢r間2024年8月21日，《自然》（Nature）雜志發(fā)布的一篇文章顯示，美國食品藥品監(jiān)督管理局（FDA）等監(jiān)管機構(gòu)已批準數(shù)百種用于醫(yī)院或診所的人工智能醫(yī)療設(shè)備，但在2020年至2022年間，僅有65項人工智能干預(yù)的隨機對照試驗發(fā)表。

“正確地測試用于醫(yī)療環(huán)境的人工智能系統(tǒng)是一個復(fù)雜的多階段過程。”文章寫道，“盡管研究人員知道人工智能干預(yù)的理想臨床試驗應(yīng)該是什么樣子，但在實踐中，測試這些技術(shù)是具有挑戰(zhàn)性的。”

文章介紹，基于人工智能的醫(yī)療應(yīng)用程序通常被藥品監(jiān)管機構(gòu)（包括美國FDA和英國藥品和保健產(chǎn)品監(jiān)管機構(gòu)）視為醫(yī)療器械。因此，審查和授權(quán)使用它們的標準往往不如藥物嚴格。只有一小部分高風險的設(shè)備需要臨床試驗數(shù)據(jù)才能獲批。

“很多人認為這個標準太低了。”文章寫道，美國賓夕法尼亞大學(xué)（the University of Pennsylvania）的重癥監(jiān)護醫(yī)生加里·韋斯曼（Gary Weissman）審查FDA批準的AI設(shè)備時，發(fā)現(xiàn)10個設(shè)備中只有3個設(shè)備在授權(quán)書中引用了已發(fā)表的數(shù)據(jù)，只有4個提到了安全性評估，沒有一個包括偏倚評估。“令人擔憂的是，這些設(shè)備真的影響臨床護理，而這關(guān)乎病人的生命。”他說。

“一種完美的算法可能失敗，因為人類行為具有可變性——無論是醫(yī)療專業(yè)人員還是接受治療的人。”文章寫道。

首先，人工智能系統(tǒng)的正確運行取決于醫(yī)療保健專業(yè)人員與算法的互動程度。美國梅奧診所（Mayo Clinic）測試了自己開發(fā)的檢測低射血分數(shù)心臟病的算法，這個工具可以標記那些疑似心力衰竭的高危人群，他們往往沒有被診斷出來。臨床試驗表明，該算法確實提高了診斷率，但初級醫(yī)療保健人員希望得到進一步的指導(dǎo)，以了解如何與患者談?wù)撍惴ǖ陌l(fā)現(xiàn)。也就是說，人工智能應(yīng)用程序若廣泛推廣，應(yīng)當包含與患者溝通的重要信息的要點，以節(jié)省醫(yī)生在臨床上的溝通時間。

另一方面，臨床醫(yī)生接觸到大量人工智能生成的警告時，可能產(chǎn)生“警報疲勞”，即當臨床醫(yī)生接觸大量AI生成的警告時，他們可能會對這些警告變得麻木，從而無法迅速反應(yīng)。

其次，AI臨床測試的結(jié)果難以在不同人群中推廣。英國伯明翰大學(xué)（University of Birmingham）人工智能和數(shù)字健康技術(shù)的臨床科學(xué)家劉曉軒說：“一個眾所周知的事實是，人工智能算法在處理與訓(xùn)練數(shù)據(jù)不同的數(shù)據(jù)時非常脆弱。只有當臨床試驗參與者代表了該工具將要用于的人群時，才能安全地推斷結(jié)果。”

此外，那些基于擁有大量資源的醫(yī)院的數(shù)據(jù)進行訓(xùn)練的算法，在資源較少的環(huán)境中應(yīng)用時可能表現(xiàn)不佳。文章舉例，谷歌健康開發(fā)的用于檢測糖尿病視網(wǎng)膜病變的算法，在泰國診所使用時性能顯著下降。一項觀察性研究顯示，泰國診所的照明條件導(dǎo)致低質(zhì)量的眼睛圖像，從而導(dǎo)致該算法有效性降低。

還有一個問題是患者同意。據(jù)文章介紹，目前，大多數(shù)醫(yī)療人工智能工具都幫助醫(yī)療保健專業(yè)人員進行篩查、診斷或治療規(guī)劃，但患者可能不知道這些技術(shù)正在接受測試或經(jīng)常用于他們的護理中，目前沒有任何國家要求提供商披露這一點。

隨著越來越多的人工智能工具和公司進入市場，探索在醫(yī)學(xué)領(lǐng)域使用和評估人工智能系統(tǒng)的方法迫在眉睫。健康人工智能聯(lián)盟（the Coalition for Health AI）提議建立一個健康人工智能保證實驗室網(wǎng)絡(luò)。該實驗室將使用一套商定的原則，以集中的方式評估模型。其成員，醫(yī)療人工智能專家肖娜·奧弗加德（Shauna Overgaard）說：“對大型組織來說，這（指自己測試醫(yī)療人工智能工具）已經(jīng)很困難了；對小型組織來說，難度會大得多。”

對此，美國杜克健康創(chuàng)新研究所（Duke Institute for Health Innovation）的臨床數(shù)據(jù)科學(xué)家馬克·森達克（Mark Sendak）持反對意見：“每個環(huán)境都需要有自己的內(nèi)部能力和基礎(chǔ)設(shè)施來進行測試，這種集中的方法并不理想。”他所在的健康人工智能伙伴關(guān)系組織則提倡為任何能夠在當?shù)販y試人工智能模型的組織培養(yǎng)能力并提供技術(shù)援助。

轉(zhuǎn)載來源：澎湃新聞 作者：曹年潤