打開手機(jī)掃描二維碼
即可在手機(jī)端查看
人工智能（Artificial intelligence, AI）和機(jī)器學(xué)習(xí)技術(shù)（Machine Learning Technology, ML）可能通過所提供的醫(yī)療保健中產(chǎn)生的大量數(shù)據(jù)獲得新的重要見解，并以此影響醫(yī)療保健行業(yè)的發(fā)展。醫(yī)療機(jī)構(gòu)正在將這些技術(shù)更多地應(yīng)用于臨床、管理和科學(xué)研究等領(lǐng)域。這些應(yīng)用為改善醫(yī)療保健環(huán)境和治療患者提供了獨(dú)特的機(jī)會(huì)，但也帶來(lái)了潛在的隱患與挑戰(zhàn)——例如，人工智能產(chǎn)品提供的治療建議有時(shí)不盡準(zhǔn)確，這可能源于構(gòu)建或訓(xùn)練人工智能的信息中存在的未預(yù)想到的來(lái)源偏差，也可能是由對(duì)工具所分析的某些數(shù)據(jù)點(diǎn)給予了不適當(dāng)?shù)臋?quán)重所導(dǎo)致。美國(guó)食品和藥物管理局（U.S. Food and Drug Administration, FDA）隸屬于美國(guó)國(guó)務(wù)院保健與服務(wù)部的公共健康服務(wù)署，負(fù)責(zé)美國(guó)所有有關(guān)食品、藥品、化妝品及輻射性儀器等產(chǎn)品的管理。自2019年4月起，F(xiàn)DA對(duì)于部分用于醫(yī)療保健的人工智能產(chǎn)品加以監(jiān)管，以確保這些產(chǎn)品在其監(jiān)管范圍內(nèi)的有效性與安全性。本文將對(duì)FDA在對(duì)于人工智能產(chǎn)品在醫(yī)療健康領(lǐng)域的監(jiān)管規(guī)則進(jìn)行綜述，并概述該監(jiān)管規(guī)則的監(jiān)管場(chǎng)景、局限性、風(fēng)險(xiǎn)與挑戰(zhàn)。
FDA監(jiān)管規(guī)則的適用場(chǎng)景 FDA對(duì)基于人工智能的醫(yī)療產(chǎn)品進(jìn)行監(jiān)管，目的是確保其安全、有效。這一監(jiān)管規(guī)則的主要標(biāo)準(zhǔn)是軟件的預(yù)期用途以及其發(fā)生偏差時(shí)對(duì)患者造成風(fēng)險(xiǎn)的可能性。FDA將用于治療、診斷、治愈、減輕或預(yù)防疾病的軟件歸為醫(yī)療設(shè)備，大多數(shù)基于AI或ML運(yùn)作的醫(yī)療設(shè)備則被歸類為“作為一種醫(yī)療器械的軟件”（Software as a Medical Device, SaMD），它們旨在用于一種或多種醫(yī)療目的，并在不屬于醫(yī)療設(shè)備硬件的情況下獨(dú)立實(shí)現(xiàn)這些醫(yī)療目的，具有一定獨(dú)立性。典型的SaMD包括通過分析核磁共振成像圖像來(lái)幫助檢測(cè)和診斷中風(fēng)的軟件、通過處理圖像來(lái)幫助檢測(cè)乳腺癌的計(jì)算機(jī)輔助檢測(cè)（Computer-Aided Detection, CAD）軟件等。 同醫(yī)療設(shè)備一樣，由AI或ML驅(qū)動(dòng)的軟件都需要根據(jù)其風(fēng)險(xiǎn)性高低接受FDA不同程度的審查。一旦設(shè)備上市，F(xiàn)DA就會(huì)以此確定是否需要對(duì)開發(fā)人員所做的任何更改進(jìn)行上市前的審查。一般而言，每當(dāng)制造商對(duì)軟件進(jìn)行重大更新或進(jìn)行其他會(huì)對(duì)設(shè)備性能產(chǎn)生重大影響的更改時(shí)，設(shè)備可能會(huì)受到FDA的額外審查。這一評(píng)估過程因設(shè)備的風(fēng)險(xiǎn)分類和所更改性質(zhì)的不同而有所差異。需要注意的是，并非所有與健康相關(guān)的軟件都屬于“醫(yī)療設(shè)備”。美國(guó)國(guó)會(huì)在2016年的《21世紀(jì)治愈法案》（the 21st Century Cures Act of 2016）中將五類特定的健康軟件排除于醫(yī)療設(shè)備的范圍之外，如旨在為醫(yī)療機(jī)構(gòu)提供行政支持的軟件、旨在維持或鼓勵(lì)健康的生活方式而與疾病診斷無(wú)關(guān)的軟件、旨在記錄患者信息的軟件等等。這些軟件因不屬于“醫(yī)療設(shè)備”的范疇，而無(wú)需接受FDA的審查。
FDA的監(jiān)管進(jìn)展 （一）2019年4月，F(xiàn)DA發(fā)布初步討論文件（Initial Discussion Paper） 此前，F(xiàn)DA通常在上市前審查醫(yī)療設(shè)備，常見的審查方式如上市前清關(guān)、上市前許可、申請(qǐng)重新分類（De Novo classification）等。對(duì)于醫(yī)療設(shè)備（包括作為醫(yī)療設(shè)備的軟件）的修改，F(xiàn)DA還可以根據(jù)該修改的重要性以及對(duì)患者的風(fēng)險(xiǎn)性高低對(duì)其進(jìn)行審查與批準(zhǔn)。但是，這些傳統(tǒng)的監(jiān)管方式并不是為AI或ML技術(shù)設(shè)計(jì)的。據(jù)FDA預(yù)計(jì)，許多由AI或ML驅(qū)動(dòng)的SaMD的修改可能也需要進(jìn)行上市前審查。 2019年4月2日，F(xiàn)DA發(fā)布了一份《人工智能醫(yī)療器械軟件變更監(jiān)管框架提議（討論稿）》（Discussion Paper: Proposed Regulatory Framework for Modification to Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device, SaMD）（以下簡(jiǎn)稱“討論文件”）。該討論文件描述了FDA對(duì)人工智能與機(jī)器學(xué)習(xí)驅(qū)動(dòng)的軟件修改進(jìn)行上市前審查的潛在方法的現(xiàn)有基礎(chǔ)。同時(shí)，該討論文件基于國(guó)際統(tǒng)一的國(guó)際醫(yī)療器械監(jiān)管機(jī)構(gòu)論壇（International Medical Device Regulators Forum, IMDRF）的風(fēng)險(xiǎn)分類原則、FDA的效益-風(fēng)險(xiǎn)框架、軟件修改指南中的風(fēng)險(xiǎn)管理原則，以及數(shù)字醫(yī)療軟件預(yù)認(rèn)證（Digital Health Software Precertification, Pre-Cert）計(jì)劃中設(shè)想的基于組織的TPLC方法（total product lifecycle regulatory approach），提出了基于AI或ML的SaMD的修改框架。 作為該擬議框架的一部分，F(xiàn)DA描述了設(shè)備上市前的“預(yù)定變更控制計(jì)劃”（Predetermined Change Control Plan, PCCP）。該計(jì)劃將包括預(yù)期修改的類型，即預(yù)先性能說(shuō)明（SaMD Pre-Specifications, SPS）以及以受控的方式實(shí)施這些修改、致力于管理患者風(fēng)險(xiǎn)的相關(guān)方法，即算法變更協(xié)議（Algorithm Change Protocol, APC）。在這種框架下，F(xiàn)DA表達(dá)了對(duì)軟件制造者透明度和實(shí)際性能監(jiān)控的期望，這將使FDA和制造商能夠評(píng)估和監(jiān)控軟件產(chǎn)品從上市前開發(fā)到上市后的性能。這一擬議框架接受了基于AI或ML的SaMD的迭代改進(jìn)，將同時(shí)使FDA能夠合理保證產(chǎn)品的安全性和有效性。但是這一框架可能需要取得額外的法定授權(quán)才能全面實(shí)施。 圖1 FDA的TPLC方法對(duì)AI/ML工作流程的覆蓋 為了充分實(shí)現(xiàn)AI或ML學(xué)習(xí)算法的強(qiáng)大功能，同時(shí)持續(xù)改進(jìn)其性能并限制退化，F(xiàn)DA提出的TPLC方法以平衡收益和風(fēng)險(xiǎn)的四項(xiàng)原則為基礎(chǔ)：第一，期望建立良好機(jī)器學(xué)習(xí)質(zhì)量管理規(guī)范（Good Machine Learning Practice, GMLP）；第二，對(duì)需要上市前提交的SaMD進(jìn)行上市前審查，并希望基于AI或ML的SaMD制造者在整個(gè)產(chǎn)品生命周期中持續(xù)管控患者的風(fēng)險(xiǎn)；第三，希望該類產(chǎn)品制造者監(jiān)控醫(yī)療設(shè)備，并開發(fā)、驗(yàn)證、執(zhí)行算法修改時(shí)采用風(fēng)險(xiǎn)管理方法以及指南中的其他方法；第四，利用上市后真實(shí)性能報(bào)告，提高對(duì)用戶和FDA的透明度，以持續(xù)保證設(shè)備的安全性和有效性。 需要注意的是，該文件中的建議框架僅供討論之用，并非指南草案。此外，該文件無(wú)意傳達(dá)FDA建議的（或最終實(shí)行的）監(jiān)管預(yù)期，而是為了在制定指導(dǎo)草案之前，廣泛征求政府以外的團(tuán)體和個(gè)人的意見。 （二）2021年1月，F(xiàn)DA發(fā)布行動(dòng)計(jì)劃（Action Plan） 自討論文件發(fā)布后，文件中描述的基于AI或ML的SaMD使用預(yù)定變更控制計(jì)劃（Predetermined Change Control Plan, PCCP）得到了社會(huì)的廣泛關(guān)注。2020年2月7日，F(xiàn)DA宣布，首款使用人工智能指導(dǎo)用戶的心臟超聲軟件通過De Novo途徑獲得了上市許可。這一設(shè)備的突破性、新穎性不僅體現(xiàn)于其極具開拓性的新功能，還在于制造者將PCCP計(jì)劃納入了該設(shè)備的未來(lái)修改之中。 考慮到監(jiān)管基于AI/ML的SaMD能夠促進(jìn)公共衛(wèi)生領(lǐng)域的創(chuàng)新與發(fā)展，為了回應(yīng)社會(huì)各界利益相關(guān)者對(duì)討論文件的反饋意見，F(xiàn)DA于2021年1月發(fā)布了《基于人工智能/機(jī)器學(xué)習(xí)的軟件作為醫(yī)療器械行動(dòng)計(jì)劃》（AI/ML-Based Software as a Medical Device Action Plan，Action Plan）（以下簡(jiǎn)稱“行動(dòng)計(jì)劃”）。值得注意的是，“作為一種醫(yī)療器械的軟件”（SaMD）指的是具備足夠獨(dú)立性、能夠在不屬于醫(yī)療設(shè)備硬件的情況下獨(dú)立實(shí)現(xiàn)醫(yī)療目的的軟件；而倘若軟件獨(dú)立性較低、僅成為醫(yī)療器械硬件中的組成部分，則只能被稱為“醫(yī)療器械中的軟件”（Software in a Medical Device, SiMD）。盡管該行動(dòng)計(jì)劃以SaMD為重點(diǎn)，但其中一些工作也可能涉及到對(duì)SiMD的監(jiān)管。 該行動(dòng)計(jì)劃在總結(jié)、回應(yīng)利益相關(guān)者的反饋的同時(shí)，確定了以下五項(xiàng)具體行動(dòng)： 第一，為基于AI或ML的SaMD制定新的監(jiān)管框架。討論文件發(fā)布后，F(xiàn)DA收到了利益相關(guān)者關(guān)于SPS、ACP以及PCCP計(jì)劃“重點(diǎn)審查”的內(nèi)容、過程、時(shí)限的問題與建議，F(xiàn)DA致力于在制定討論文件中提議的框架方面取得進(jìn)一步進(jìn)展。對(duì)于引起社會(huì)廣泛關(guān)注的PCCP計(jì)劃，F(xiàn)DA后續(xù)于2021年發(fā)布了一份指南草案，即后文中的《人工智能/機(jī)器學(xué)習(xí)支持設(shè)備軟件功能的預(yù)定變更控制計(jì)劃的營(yíng)銷提交建議的指南草案》，以征詢?cè)擃I(lǐng)域的社會(huì)公眾意見。 第二，鼓勵(lì)協(xié)調(diào)GMLP。利益相關(guān)者大力支持GMLP的理念，并要求FDA鼓勵(lì)協(xié)調(diào)制定GMLP的眾多努力，包括通過協(xié)商一致的標(biāo)準(zhǔn)努力、利用現(xiàn)有的工作流程以及讓關(guān)注AI、ML的其他公眾共同協(xié)作。FDA一直積極進(jìn)行并將不斷致力于深化在各個(gè)社區(qū)的這些工作，以鼓勵(lì)達(dá)成有利于AI或ML技術(shù)開發(fā)與監(jiān)督的共識(shí)。為了履行FDA對(duì)醫(yī)療器械網(wǎng)絡(luò)安全采取有力措施的長(zhǎng)期承諾，這些GMLP工作將與該局的醫(yī)療器械網(wǎng)絡(luò)安全計(jì)劃密切合作。 第三，舉行公開研討會(huì)，討論設(shè)備標(biāo)簽如何為用戶提供透明度，增強(qiáng)用戶對(duì)基于AI/ML的SaMD的信任。2020年10月，F(xiàn)DA的患者參與咨詢委員會(huì)（Patient Engagement Advisory Committee, PEAC）召開會(huì)議，以了解患者視角下影響他們對(duì)這些技術(shù)的信任的因素。在對(duì)本次會(huì)議收集的意見進(jìn)行整理的同時(shí)，F(xiàn)DA通過舉辦公開研討會(huì)的形式，分享了經(jīng)驗(yàn)教訓(xùn)，并征求了更廣泛群體的意見，以更好地了解設(shè)備標(biāo)簽如何提高對(duì)用戶的透明度。 第四，支持監(jiān)管科學(xué)開發(fā)評(píng)估和改進(jìn)機(jī)器學(xué)習(xí)算法的方法的努力，包括識(shí)別和消除歧視，以及評(píng)估并提高算法的穩(wěn)健性。醫(yī)療保健服務(wù)會(huì)因患者的種族、民族和社會(huì)經(jīng)濟(jì)地位等因素而有所不同，而醫(yī)療保健系統(tǒng)中存在的偏見可能會(huì)無(wú)意中引入算法中。FDA認(rèn)識(shí)到，醫(yī)療設(shè)備必須適用于不同種族和民族的目標(biāo)患者群體，并且識(shí)別和改進(jìn)ML算法的方法亟需改進(jìn)——這包括識(shí)別并消除偏見的方法，以及提高算法的穩(wěn)健性與彈性，以承受不斷變化的臨床輸入和條件。 第五，與正在為基于AI或ML的SaMD試行“真實(shí)世界性能”（Real-World Performance, RWP）流程的利益相關(guān)者合作。利益相關(guān)者對(duì)討論文件中提出的“收集SaMD實(shí)際使用的性能數(shù)據(jù)”的方法提出了許多疑問，包括：在測(cè)試軟件設(shè)備的性能時(shí)，適合使用什么類型的參考數(shù)據(jù)？利益相關(guān)者應(yīng)當(dāng)進(jìn)行何種程度的監(jiān)督？每個(gè)利益相關(guān)者應(yīng)該進(jìn)行多少監(jiān)督？向FDA提供數(shù)據(jù)的數(shù)量及頻率分別是怎樣的？如何將最終用戶的反饋納入基于AI/ML的SaMD的培訓(xùn)和評(píng)估中？諸如此類的疑問無(wú)一不在表明該領(lǐng)域亟需修正并明確方向。FDA將通過與利益攸關(guān)方在自愿基礎(chǔ)上合作，共同支持監(jiān)測(cè)實(shí)際業(yè)績(jī)的嘗試。這項(xiàng)工作旨在幫助FDA開發(fā)一個(gè)可用于在現(xiàn)實(shí)世界中收集并驗(yàn)證基于AI或ML的SaMD的相關(guān)RWP參數(shù)與指標(biāo)的框架。 （三）2023年4月，F(xiàn)DA發(fā)布指南草案（Draft Guidance） 2023年4月3日，F(xiàn)DA發(fā)布于了《人工智能/機(jī)器學(xué)習(xí)支持設(shè)備軟件功能的預(yù)定變更控制計(jì)劃的營(yíng)銷提交建議的指南草案（Marketing Submission Recommendations for a Predetermined Change Control Plan for Artificial Intelligence/Machine Learning (AI/ML)-Enabled Device Software Functions, Draft Guidance）（以下簡(jiǎn)稱“指南草案”）》。該指南草案提出了一種通過修改機(jī)器學(xué)習(xí)設(shè)備軟件功能（machine learning device software function, ML-DSF）以支持迭代更新的方法，并繼續(xù)為設(shè)備的安全性、有效性提供合理的保證。截至今年7月3日，F(xiàn)DA接受社會(huì)各界對(duì)指南草案的評(píng)價(jià)。 指南草案適用于制造者打算長(zhǎng)期修改的ML-DSF，無(wú)論這種修改是自動(dòng)或手動(dòng)。指南草案中的PCCP計(jì)劃共有三個(gè)要素：修改說(shuō)明、修改協(xié)議、影響評(píng)估。除了在PCCP計(jì)劃中已預(yù)先計(jì)劃的修改之外，其他修改都需要在上市前獲得批準(zhǔn)、重新提交或在上市前重新通知。 1. 修改說(shuō)明 PCCP必須包含對(duì)計(jì)劃內(nèi)的設(shè)備修改的詳細(xì)、具體描述，包括對(duì)單個(gè)設(shè)備修改的羅列清單、ML-DSF各部分修改的理由、與每次修改有關(guān)的參考變更的標(biāo)簽。FDA建議PCCP中的特定修改是可驗(yàn)證和可確認(rèn)的，這些修改應(yīng)足夠詳細(xì)以能夠被理解。同時(shí)，修改說(shuō)明應(yīng)清楚表明計(jì)劃的修改是自動(dòng)還是手動(dòng)實(shí)施。并非一切修改都適合被包含在PCCP中，PCCP中的修改類型包括與ML-DSF的性能規(guī)格的定量測(cè)量有關(guān)的修改、與ML-DSF的設(shè)備輸入有關(guān)的修改，以及與設(shè)備的使用和性能相關(guān)的特定有限修改。 2. 修改協(xié)議 修改協(xié)議描述了用于開發(fā)、驗(yàn)證和實(shí)施這些修改的方法，包括數(shù)據(jù)管理實(shí)踐、再培訓(xùn)實(shí)踐、性能評(píng)估、更新程序四個(gè)要素。每個(gè)要素都應(yīng)滿足對(duì)應(yīng)的要求，以保證設(shè)備具有長(zhǎng)期的安全性、有效性。修改說(shuō)明中提出的修改應(yīng)能夠在設(shè)備的現(xiàn)有質(zhì)量體系中進(jìn)行驗(yàn)證和驗(yàn)證，PCCP中可接受的修改包括與ML-DSF性能規(guī)范的定量測(cè)量、設(shè)備輸入有關(guān)的修改，以及部分與設(shè)備的使用和性能相關(guān)的特定的修改。 3. 修改評(píng)估 指南草案中的“影響評(píng)估”，是對(duì)實(shí)施PCCP所帶來(lái)的益處和風(fēng)險(xiǎn)進(jìn)行評(píng)估的文件。影響評(píng)估注意考慮到以下五個(gè)要素：第一，將修改前后的設(shè)備進(jìn)行比較；第二，對(duì)每項(xiàng)修改進(jìn)行效益與風(fēng)險(xiǎn)的評(píng)估，包括社會(huì)危害風(fēng)險(xiǎn)；第三，討論修改中建議的活動(dòng)如何繼續(xù)合理地確保設(shè)備的安全性和有效性；第四，一項(xiàng)修改對(duì)另一項(xiàng)修改的影響；第五，實(shí)施所有修改的總體影響。上市申請(qǐng)中的影響評(píng)估文件應(yīng)不僅討論P(yáng)CCP中包含的個(gè)別修改如何影響ML-DSF，還會(huì)討論如何影響其他設(shè)備軟件功能以及設(shè)備硬件的整體功能。 FDA監(jiān)管規(guī)則的局限性與不足之處 隨著人工智能產(chǎn)品在醫(yī)療保健領(lǐng)域的使用激增，F(xiàn)DA和其他利益相關(guān)者需要針對(duì)證明此類產(chǎn)品的安全性和有效性所需的臨床證據(jù)，以及產(chǎn)品標(biāo)簽明確其性能和通用性的限制程度，制定明確的指南。FDA的行動(dòng)計(jì)劃與指南草案標(biāo)志著該機(jī)構(gòu)監(jiān)管規(guī)則的進(jìn)步，但以下問題仍未被闡明：如何界定某一類產(chǎn)品是否受FDA監(jiān)管，何時(shí)需要上市審查，GMLP在制定時(shí)與現(xiàn)有的設(shè)備質(zhì)量法規(guī)體系的交叉之處，以及如何向最終用戶告知軟件更新以及更新對(duì)性能的潛在影響等。 FDA于2023年6月14日發(fā)布《最終指南：器械軟件功能上市前提交內(nèi)容》（Content of Premarket Submissions for Device Software Functions），旨在為FDA評(píng)估器械軟件功能的安全性和有效性提供有關(guān)上市前提交推薦文件的信息，其中包括部分使用通過機(jī)器學(xué)習(xí)方法訓(xùn)練的機(jī)器學(xué)習(xí)模型的軟件設(shè)備功能。由于部分產(chǎn)品（尤其是不受FDA授權(quán)的人工智能軟件）不屬于“醫(yī)療設(shè)備”的范疇，可能需要其他的監(jiān)督機(jī)構(gòu)加以監(jiān)管。此外，為了充分發(fā)揮AI之于醫(yī)療健康領(lǐng)域的潛在價(jià)值，以及最大限度地確保患者的安全，F(xiàn)DA可能需要與醫(yī)療認(rèn)證機(jī)構(gòu)、私營(yíng)技術(shù)公司等各種利益相關(guān)者建立伙伴關(guān)系，并可能需要得到國(guó)會(huì)的額外授權(quán)，才能夠真正將預(yù)認(rèn)證試點(diǎn)等政策提議實(shí)際實(shí)施。 人工智能在醫(yī)學(xué)領(lǐng)域應(yīng)用尚存的風(fēng)險(xiǎn)與挑戰(zhàn) 隨著人工智能技術(shù)的不斷成熟，F(xiàn)DA的監(jiān)管規(guī)則對(duì)于人工智能在醫(yī)療健康領(lǐng)域的應(yīng)用作出了可觀的努力。但盡管如此，人工智能在數(shù)據(jù)、算法、計(jì)算和應(yīng)用各個(gè)環(huán)節(jié)中的風(fēng)險(xiǎn)與挑戰(zhàn)仍然不容忽視。其中，較為顯著的風(fēng)險(xiǎn)包括數(shù)據(jù)準(zhǔn)確度欠佳、數(shù)據(jù)完整度不足以及個(gè)人隱私數(shù)據(jù)保護(hù)問題、算法歧視問題等，人工智能在醫(yī)學(xué)領(lǐng)域落地亟需解決此類問題。 （一）數(shù)據(jù)準(zhǔn)確度、完整度問題 人工智能產(chǎn)品需要在大型、多樣化的數(shù)據(jù)基礎(chǔ)上進(jìn)行訓(xùn)練，以便在各種人群中推廣使用，并確保它們的準(zhǔn)確性與可靠性。然而，目前數(shù)據(jù)基礎(chǔ)在其質(zhì)量、獲取方式、完整度上均存在缺陷，未能良好地服務(wù)于人工智能發(fā)展。一方面，根據(jù)美國(guó)加州大學(xué)舊金山醫(yī)療中心電子病案系統(tǒng)的數(shù)據(jù)分析，大量以文本形式錄入的數(shù)據(jù)存在復(fù)制、粘貼他人醫(yī)療記錄的嫌疑，其準(zhǔn)確度受到質(zhì)疑。信息的失效、偏差、錯(cuò)誤與冗余，最終可能造成嚴(yán)重的誤診。另一方面，由于美國(guó)各州醫(yī)療保健系統(tǒng)的碎片化，患者繁多，存在大量未錄入、未在系統(tǒng)中聯(lián)通的健康記錄，缺乏合理的數(shù)據(jù)共享與數(shù)據(jù)流通的機(jī)制，組裝完整數(shù)據(jù)集的成本總體上非常高昂。這可能會(huì)增加由于數(shù)據(jù)集不完整或來(lái)自多個(gè)來(lái)源的數(shù)據(jù)不當(dāng)合并而造成的錯(cuò)誤可能性。 （二）個(gè)人隱私數(shù)據(jù)保護(hù)問題 為人工智能產(chǎn)品的運(yùn)行收集足夠多的患者數(shù)據(jù)，可能會(huì)引發(fā)有關(guān)數(shù)據(jù)隱私和個(gè)人健康數(shù)據(jù)所有權(quán)的復(fù)雜問題。一些衛(wèi)生系統(tǒng)正在與科技公司和數(shù)字初創(chuàng)公司共享患者數(shù)據(jù)，以研發(fā)人工智能項(xiàng)目，患者對(duì)此可能并不知情。有關(guān)患者是否應(yīng)該同意共享他們的數(shù)據(jù)，以及他們是否應(yīng)該對(duì)公司等外部實(shí)體使用他們的個(gè)人數(shù)據(jù)所開發(fā)的產(chǎn)品享有利潤(rùn)等問題，目前仍存在廣泛爭(zhēng)議。 （三）算法歧視問題 數(shù)據(jù)收集方面的挑戰(zhàn)和醫(yī)療衛(wèi)生系統(tǒng)內(nèi)部的不平等導(dǎo)致人工智能項(xiàng)目存在歧視，這會(huì)影響到產(chǎn)品的安全性和有效性，并進(jìn)而導(dǎo)致以少數(shù)群體為代表的許多人群無(wú)法得到適當(dāng)、充分的治療。倘若在某類人群中很少或幾乎沒有進(jìn)行基因研究，那么旨在根據(jù)基因預(yù)測(cè)結(jié)果的算法就會(huì)產(chǎn)生偏差。例如，弗雷明漢心臟研究（Framingham Heart Study）的數(shù)據(jù)主要源于白人患者，試圖使用上述數(shù)據(jù)來(lái)預(yù)測(cè)非白人種群和族裔人群心血管疾病風(fēng)險(xiǎn)的做法會(huì)導(dǎo)致偏見性結(jié)果。另外，人工智能在分析醫(yī)療保險(xiǎn)投保人的個(gè)人特征時(shí)也存在產(chǎn)生“歧視”傾向，對(duì)于某些特殊疾病患者或具有疾病高風(fēng)險(xiǎn)因素的患者可能收取更高的費(fèi)用。由此，算法歧視帶來(lái)的法律、倫理挑戰(zhàn)仍然普遍存在，不容忽視。 結(jié)語(yǔ) 隨著醫(yī)療診療方法和技術(shù)不斷更新，醫(yī)療人工智能的應(yīng)用日益廣泛，對(duì)其進(jìn)行監(jiān)管以實(shí)現(xiàn)良性發(fā)展是時(shí)勢(shì)所趨。FDA對(duì)醫(yī)療人工智能的監(jiān)管規(guī)則旨在確保人工智能驅(qū)動(dòng)的醫(yī)療產(chǎn)品使用時(shí)的安全性和有效性，標(biāo)志著政府部門對(duì)該領(lǐng)域風(fēng)險(xiǎn)的關(guān)注與重視，是該行業(yè)發(fā)展的一大進(jìn)步。從2019年發(fā)展至2023年間，F(xiàn)DA的監(jiān)管規(guī)則由一份初步討論文件，逐漸發(fā)展為行動(dòng)計(jì)劃，目前已形成一份指南草案。然而，需要承認(rèn)的是，目前的監(jiān)管規(guī)則尚不夠成熟，仍有一些實(shí)際性問題需要進(jìn)一步闡明。對(duì)于FDA的監(jiān)管范疇、如何與現(xiàn)有設(shè)備質(zhì)量體系配合等具體問題，還亟需更多的研究和討論。 面對(duì)人工智能在醫(yī)學(xué)領(lǐng)域應(yīng)用的風(fēng)險(xiǎn)與挑戰(zhàn)，人類應(yīng)當(dāng)如何進(jìn)行監(jiān)管與保護(hù)，以使醫(yī)療產(chǎn)品安全有效、實(shí)現(xiàn)良性的應(yīng)用與發(fā)展？盡管FDA的監(jiān)管框架尚未正式實(shí)施，但它提供了重要的指導(dǎo)方針，為醫(yī)療人工智能的監(jiān)管提供了一份可行的方案。隨著監(jiān)管框架不斷完善、監(jiān)管措施不斷健全，人工智能必將更好地服務(wù)于醫(yī)療行業(yè)，維護(hù)人類健康。 [1] Daniel, G., Silcox, C., Sharma, I. and Wright, M., 2019. Current state and near-term priorities for AI-Enabled diagnostic support software in health care. Duke Margolis Center for Health Policy. [2] Char, D.S., Shah, N.H. and Magnus, D., 2018. Implementing machine learning in health care—addressing ethical challenges. The New England journal of medicine. [3] Food and Drug Administration, 2019. Proposed regulatory framework for modifications to artificial intelligence/machine learning (AI/ML)-based software as a medical device (SaMD). [4] Food and Drug Administration, 2021. Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan. [5] https://www.fda.gov/regulatory-information/search-fda-guidance-documents/marketing-submission-recommendations-predetermined-change-control-plan-artificial [6] https://www.pewtrusts.org/en/research-and-analysis/issue-briefs/2021/08/how-fda-regulates-artificial-intelligence-in-medical-products [7] FDA, Deciding When to Submit a 510(k) for a Change to an Existing Device[EB/OL], https//www.fda.gov/regulatory-information/search-fda-guidance-documents/deciding-when-submit-510k-change-existing-device. [8] https://mofotech.mofo.com/topics/fda-publishes-draft-guidance-predetermined-change-control-plan-for-ai-ml-enabled-device-software-functions [9] U.S. Government Accountability Office and National Academy of Medicine, “Artificial Intelligence in Health Care: Benefits and Challenges of Machine Learning in Drug Development” (2019), www.gao.gov/assets/gao-20-215sp.pdf. [10] Food and Drug Administration, 2023. Content of Premarket Submissions for Device Software Functions.
智慧醫(yī)療網(wǎng) ? 2022 版權(quán)所有 ICP備案號(hào)：滬ICP備17004559號(hào)-5
