MED AI in Medical Devices Meeting EU Compliance with AI Act and MDR

醫療器材中的人工智慧：符合歐盟人工智慧法案和醫療器材法規的要求

Dr. Andrei Ninu

Regulatory Expert in Active Medical Devices

4月 02 , 2025

人工智慧 (AI) 在多個行業的快速應用促使歐盟推出了《人工智慧法》(EU 2024/1689)，這是一項旨在應對人工智慧技術相關風險的綜合監管框架。與行業特定法規不同，《人工智慧法》適用範圍廣泛，涵蓋醫療保健等多個領域。醫療設備中的人工智慧。

對於醫療器材製造商而言，合規性如今已涵蓋範圍更廣。醫療器材法規 (MDR) (歐盟 2017/745)將《人工智慧法案》納入其中。當存在多項立法時，可能會出現監管重疊。醫療器材法規強調病人安全、臨床療效和風險管理——這些原則與《人工智慧法案》基於風險的人工智慧治理方法一致。鑑於這些共同目標，將人工智慧相關要求整合到現有的品質管理系統 (QMS) 中既切實可行又有益。

有鑑於此需求，《人工智慧法》第17條明確允許將人工智慧特有的品質管理系統要求納入現有產業框架，並規定：

“根據相關歐盟行業法律，高風險人工智慧系統的提供者如果負有品質管理系統或同等職能方面的義務，可以將第 1 款所列的方面納入該法律規定的品質管理體系中。”

本文探討了醫療器材法規 (MDR) 和人工智慧法案 (AI Act) 之間的主要異同，重點關注資料管理、生命週期流程、上市後臨床追蹤 (PMCF) 和法規遵循等領域。透過這種方法，醫療器材製造商可以有效地將人工智慧合規性納入其品質管理系統 (QMS)，從而確保符合法規要求並保障病人安全。

數據作為人工智慧醫療器材的「原料」：監管視角

在人工智慧驅動的醫療器材中，數據是基礎性輸入——如同傳統器材製造中的原材料。正如醫療器材法規 (MDR) 要求對材料進行全程可追溯以確保生物相容性、結構完整性和整體安全性一樣，人工智慧模型也必須基於特徵明確、經過驗證且可追溯的資料集進行開發。

在醫療器材法規 (MDR) 下，材料可追溯性保障了器械性能和病人安全。在人工智慧領域，資料集可追溯性同樣至關重要——它影響模型效能、臨床有效性和監管認可度。

這種類比旨在強調在人工智慧系統開發中建構結構化資料治理框架的必要性。下表列出了醫療器材法規（MDR）材料可追溯性原則與人工智慧資料管理要求之間的對應關係。

但請注意，人工智慧資料集也受到一些特殊要求的約束，例如公平性和非歧視性，這些要求超出了傳統的 MDR 考慮範圍。

方面	MDR要求	人工智慧需求
來源識別	設備中使用的每一種材料都必須能夠追溯到有據可查的來源。	所有人工智慧訓練資料都必須能夠完全追溯到有據可查的來源（例如，醫院資料庫、臨床試驗和公開資料集）。
認證	原料必須符合安全和性能標準。	必須驗證資料的準確性、完整性和相關性（例如，確保人工智慧使用臨床相關資料進行訓練、驗證和測試）。
屬性文檔	必須記錄每種材料的化學、機械和生物相容性特性。	人工智慧資料集必須記錄資料多樣性、人口統計代表性和統計偏差，以確保公平性。
變革管理	對材料的任何改動都必須經過測試並記錄在案。	訓練資料集的任何變化（例如，添加新的患者群體）都必須評估其對 AI 模型性能的影響。
安全測試、偏差和風險評估	必須對材料進行測試，以確保其不會產生不良生物影響。	必須對人工智慧資料集進行評估，以發現偏差、資料缺失和錯誤，防止產生不可靠或歧視性的輸出結果。

人工智慧驅動型醫療器材與傳統醫療器材的生命週期管理

軟體生命週期是傳統軟體醫療器材（SW-MD）和人工智慧驅動醫療器材（AI-MD）的關鍵監管面向。雖然兩者都需要結構化的開發、透明度和可追溯性，但由於人工智慧模型的特性，人工智慧在醫療器材領域的應用帶來了獨特的挑戰。

方面	傳統軟體型醫療設備（SW-MDs）	人工智慧驅動的醫療設備 (AI-MD)
可追溯性	軟體程式碼和需求必須有完整的文件記錄並進行版本控制。	AI模型架構、訓練步驟、資料集和所有處理步驟都必須記錄在案並進行版本控制。
可重複性	確定性：在相同的輸入下，該軟體總是產生相同的輸出。	機率性：人工智慧模型根據學習到的模式產生輸出，因此結果會略有不同。
效能穩定性	除非明確更新，否則保持穩定。	隨著時間的推移，由於數據漂移，效能可能會下降，需要持續監控。
變革管理	部署前遵循結構化的版本控制和回歸測試。	人工智慧模型需要不斷地重新訓練和重新驗證才能保持準確性。
驗證與確認 (V&V)	確保軟體功能正常並滿足要求。	AI V&V 包括資料集驗證、偏差評估和極端情況壓力測試。

為了符合醫療器材防洩漏（MDR）原則，基於人工智慧的系統必須採用以下措施：

• 結構化的 AI 訓練、驗證和測試流程，以確保可重複性和效能一致性。
• 完善的文檔，使得僅憑文檔即可重建人工智慧驅動的醫療設備，同時保持其預期的效能。
• 上市後監測，以偵測績效漂移、偏差和意外結果。

人工智慧驅動型醫療器材的上市後臨床追蹤（PMCF）

根據歐盟醫療器材法規 (MDR, EU 2017/745)，上市後臨床追蹤 (PMCF) 是一項監管要求，旨在確保醫療器材在上市後保持安全性和有效性。雖然技術穩定的傳統器材可能不需要持續的 PMCF，但人工智慧 (AI) 醫療器材由於依賴不斷變化的真實世界數據，因此需要進行持續監測。

方面	SW-MDs	人工智慧醫生
需要持續的PMCF	通常僅限於部署後不會改變的成熟、穩定的技術。	至關重要，因為人工智慧模型高度依賴現實世界的數據，而現實世界的數據可能與訓練數據不同。
效能穩定性	除非明確更新至新軟體版本，否則將保持穩定。	由於數據漂移，其性能可能會隨時間推移而下降，需要持續監測和重新校準。
意外行為風險	如果上市前測試全面且軟體保持不變，則風險較低。	風險很高，因為基於歷史資料集訓練的人工智慧模型可能無法很好地推廣到未見過的真實世界資料。
重點監測領域	主要關注漏洞修復、網路安全風險和軟體可靠性。	包括性能漂移、偏差檢測、實際準確性和意外的臨床風險。
PMCF的監管預期	根據報告的問題、使用者回饋和不良事件報告定期更新。	需要持續進行實際效能評估、資料驅動的更新和重新訓練驗證。
風險緩解方法	修補程式更新、安全修復，以及在發生重大變更時定期重新驗證。	自適應生命週期管理，包括自動化模型監控、重新驗證和監管報告。
資料收集與分析	通常採用回顧性研究方法，以臨床文獻回顧和上市後事件報告為基礎。	即時或近即時資料擷取，需要先進的監控基礎架構和合規性。

對於傳統的軟體為基礎的醫療器材而言，上市後臨床追蹤（PMCF）能夠確保持續的安全性，但通常是靜態的、被動的。相較之下，人工智慧驅動的醫療器材由於依賴不斷變化的真實世界數據，因此需要主動且動態的PMCF方法。如果沒有持續的監測，人工智慧模型可能會出現效能下降、引入偏差，甚至對患者造成潛在傷害——這使得PMCF成為監管和倫理上的必然選擇。