忽如一夜春風來，人工智能（AI）正以驚人的速度改變著世界?！爸亲儭北貙⒁l(fā)“質(zhì)變”。我們應以何種姿態(tài)進入AI紀元，讓AI成為撬動行業(yè)變革的杠桿？當技術一路飛奔，我們又該如何守住數(shù)據(jù)安全的底線、筑起倫理的護欄？近日，我們邀請相關研究機構(gòu)和高校專家，請他們分享觀察與思考。
生成式人工智能（AI）技術的出現(xiàn)，正促使各行各業(yè)進行升級和重構(gòu)。在醫(yī)療健康這一關乎人類生命安全的特殊領域，AI的治理工作凸顯出其復雜性和獨特性。當前，相關部門正在按照AI發(fā)展規(guī)律構(gòu)建、完善其使用規(guī)則和監(jiān)管框架，以規(guī)范AI技術的合理應用，并推動醫(yī)療健康事業(yè)的有序發(fā)展。當前，我國對醫(yī)療AI有著嚴格的管控機制，在審評要點、指導原則、質(zhì)量管理體系等方面出臺了多項政策，嚴格約束AI在醫(yī)療中的使用規(guī)范，為AI醫(yī)療領域建立風險可控的發(fā)展路徑。相關的法律法規(guī)建設呈現(xiàn)出以下三個顯著的發(fā)展方向。早期政策《中華人民共和國網(wǎng)絡安全法》（2017）從數(shù)據(jù)安全角度單方面切入，其中第21條明確要求網(wǎng)絡運營者采取數(shù)據(jù)分類、重要數(shù)據(jù)備份和加密等措施；第37條則首次提出“關鍵信息基礎設施運營者在中華人民共和國境內(nèi)運營中收集和產(chǎn)生的個人信息和重要數(shù)據(jù)應當在境內(nèi)存儲”的要求，這對醫(yī)療AI企業(yè)處理CT、MRI等影像數(shù)據(jù)產(chǎn)生了直接影響。2021年出臺的《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》形成了“數(shù)據(jù)采集——處理——應用”的全鏈條監(jiān)管?！吨腥A人民共和國個人信息保護法》第28條將醫(yī)療健康信息列為“敏感個人信息”，要求處理此類信息需取得個人單獨同意，并告知處理的必要性及對個人權(quán)益的影響。該法第24條還對自動化決策做出專門規(guī)定，要求保證決策的透明度和結(jié)果公平公正，這對AI輔助診斷系統(tǒng)的算法設計提出了明確要求。《國家AI產(chǎn)業(yè)綜合標準化體系建設指南（2024版）》的出臺，標志著AI監(jiān)管向標準化、體系化方向發(fā)展。該指南詳細列出了基礎共性標準、關鍵技術標準、產(chǎn)品服務標準、行業(yè)應用標準等，這些都為AI在醫(yī)療行業(yè)的應用提供了依據(jù)和標準。政策導向已從單純防范風險轉(zhuǎn)向安全與發(fā)展并重，2019年科技部發(fā)布《國家新一代AI創(chuàng)新發(fā)展試驗區(qū)建設工作指引》，支持北京、上海、深圳等城市建設AI試驗區(qū)，推動場景創(chuàng)新和產(chǎn)業(yè)集聚，同時對企業(yè)給予稅收優(yōu)惠。2021年修訂的《中華人民共和國科學技術進步法》第103條中，要求建立科技倫理委員會，為AI醫(yī)療創(chuàng)新劃定倫理邊界；在第38條新增“引導建立社會化、專業(yè)化、網(wǎng)絡化、信息化和智能化的技術交易服務體系和創(chuàng)新創(chuàng)業(yè)服務體系，推動科技成果的應用和推廣?！钡谋硎?，說明國家在保障安全的同時，更注重發(fā)展和應用。2017年國務院印發(fā)《新一代AI發(fā)展規(guī)劃》，這是我國首個系統(tǒng)性AI戰(zhàn)略文件，提出了“三步走”目標，即：2020年AI總體技術與世界先進水平同步；2025年AI基礎理論實現(xiàn)重大突破；2030年成為世界主要AI創(chuàng)新中心。此外，2023年我國提出的《全球AI治理倡議》指出，AI治理攸關全人類命運，是世界各國面臨的共同課題。在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，各國應秉持共同、綜合、合作、可持續(xù)的安全觀，堅持發(fā)展和安全并重的原則，通過對話與合作凝聚共識，構(gòu)建開放、公正、有效的治理機制，促使AI技術造福于人類，推動構(gòu)建人類命運共同體。協(xié)議一經(jīng)提出，就獲得了世界各國的響應，到目前為止，多個國家和組織公開支持該倡議并簽署了協(xié)議，這也表明我國的AI治理已走到了國際舞臺的前沿。當前，我國醫(yī)療AI領域問題最為突出的是AI立法缺失、數(shù)據(jù)安全問題和倫理問題。近年來，治理體系圍繞三個方面開展了一系列的工作。在產(chǎn)品準入方面，2023年4月，國家互聯(lián)網(wǎng)信息辦公室就《生成式AI服務管理辦法（征求意見稿）》公開征求意見，率先就生成式AI監(jiān)管這一議題給出中國方案。在AI法未立法之前，為了適應社會需求，各部門出臺了很多相應的管理制度和政策。國家藥品監(jiān)督管理局2021年發(fā)布《AI醫(yī)用軟件產(chǎn)品分類界定指導原則》，將AI軟件分為三類管理，細化了AI醫(yī)療產(chǎn)品審批標準。2022年，國家藥監(jiān)局器審中心發(fā)布了《AI醫(yī)療器械注冊審查指導原則》，規(guī)范了AI醫(yī)療器械的注冊申報資料和技術審評要求，以確保產(chǎn)品的安全性和有效性。在數(shù)據(jù)治理方面，醫(yī)療AI的發(fā)展高度依賴海量的患者醫(yī)療數(shù)據(jù)，這些數(shù)據(jù)包含敏感個人信息（如基因、病史），因此，匿名化處理不足或數(shù)據(jù)泄露可能導致法律糾紛和倫理危機。為解決相應的問題，除了提高技術能力、開放共享程度，更需要一個統(tǒng)一的標準，在此方面中國電子商會發(fā)布了一項數(shù)據(jù)分類團體標準，根據(jù)醫(yī)療健康數(shù)據(jù)的影響對象和影響程度，并參考數(shù)據(jù)重要程度、敏感程度、數(shù)據(jù)規(guī)模、數(shù)據(jù)精度等因素，確定醫(yī)療健康數(shù)據(jù)的安全等級。國家衛(wèi)生健康委發(fā)布的《衛(wèi)生健康行業(yè)數(shù)據(jù)分類分級指南》明確了責任“誰管業(yè)務，誰管數(shù)據(jù)，誰管數(shù)據(jù)安全”，并將數(shù)據(jù)分為三級：核心數(shù)據(jù)——基因序列、罕見病病例等（禁止出境）；重要數(shù)據(jù)——住院病歷、體檢報告等（安全評估后可出境）；一般數(shù)據(jù)——掛號信息、健康科普等（可自由流動），并針對各類數(shù)據(jù)制定了相應的管理辦法。在倫理規(guī)范方面，現(xiàn)有的醫(yī)學倫理審查規(guī)范在AI醫(yī)療領域存在很多空白，無法全面涵蓋AI技術應用所帶來的倫理問題。例如，在AI算法的設計和應用過程中，可能存在算法偏見，導致對某些特定人群的不公平對待；在AI誤診或技術故障發(fā)生時，如何界定開發(fā)者、醫(yī)療機構(gòu)和醫(yī)生的責任，缺乏明確的法律規(guī)范等。我國《新一代AI發(fā)展規(guī)劃》提出了建立AI倫理框架，強調(diào)醫(yī)療領域需保障數(shù)據(jù)安全。2023年由中國電子技術標準化研究院發(fā)布的《AI倫理治理標準化指南》要求醫(yī)療AI系統(tǒng)需通過倫理審查，確保透明可追溯。同年5月科技部發(fā)布了《人類遺傳資源管理條例實施細則》，對AI醫(yī)療研究做出特別規(guī)定：使用500例以上基因數(shù)據(jù)需倫理審查，跨國合作研究需科技部備案，數(shù)據(jù)出境需通過安全評估。在責任劃分方面，《中華人民共和國民法典》中規(guī)定，若AI產(chǎn)品缺陷致?lián)p，生產(chǎn)者承擔無過錯責任，但醫(yī)生“合理使用”可免責。某些地區(qū)的政策中要求醫(yī)院保留AI決策日志，作為責任判定依據(jù)。綜上，我國的AI治理體系還需要進一步完善。在法律法規(guī)與標準建設方面，一要完善《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》在醫(yī)療領域的實施細則，制定醫(yī)療AI專用法規(guī)。二是要推動醫(yī)療AI算法、數(shù)據(jù)標注、系統(tǒng)測試等全流程標準化，建立統(tǒng)一的倫理審查框架。在數(shù)據(jù)安全與隱私保護方面，要建立醫(yī)療數(shù)據(jù)分級分類管理制度，明確醫(yī)療機構(gòu)、企業(yè)和患者的數(shù)據(jù)權(quán)限。在倫理與公平性保障方面，要防范對特定人群誤診風險的算法偏見，確保醫(yī)療資源的公平可及。在動態(tài)監(jiān)管與多方協(xié)同方面，要求政府、醫(yī)療機構(gòu)、科技企業(yè)、倫理委員會和公眾共同參與，共同制定治理規(guī)則。醫(yī)療AI將逐步從“替代人力”轉(zhuǎn)向“增強人力”，提升醫(yī)療質(zhì)量、降低醫(yī)療成本和促進公平，成為“健康中國”戰(zhàn)略的重要支柱。醫(yī)療AI治理體系的建設則需在技術創(chuàng)新與風險管控之間找到平衡，才能朝著更加規(guī)范化、透明化的方向發(fā)展。
作者：錦州醫(yī)科大學健康管理現(xiàn)代產(chǎn)業(yè)學院副院長 胡樹煜
特別聲明：智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容，出于傳遞更多信息而非盈利之目的，同時并不代表贊成其觀點或證實其描述，內(nèi)容僅供參考。版權(quán)歸原作者所有，若有侵權(quán)，請聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng)，轉(zhuǎn)載需獲授權(quán)。
