MED AI in Medical Devices Meeting EU Compliance with AI Act and MDR

Trí tuệ nhân tạo trong thiết bị y tế: Đáp ứng các yêu cầu tuân thủ của EU đối với Đạo luật về trí tuệ nhân tạo và Quy định về thiết bị y tế (MDR)

Dr. Andrei Ninu

Regulatory Expert in Active Medical Devices

thg 4 02 , 2025

Việc ứng dụng nhanh chóng trí tuệ nhân tạo (AI) trong nhiều ngành công nghiệp đã dẫn đến sự ra đời của Đạo luật Trí tuệ Nhân tạo (EU 2024/1689), một khung pháp lý toàn diện được thiết kế để giải quyết các rủi ro liên quan đến công nghệ AI. Không giống như các quy định dành riêng cho từng ngành, Đạo luật AI được áp dụng rộng rãi, bao gồm nhiều lĩnh vực, trong đó có chăm sóc sức khỏe và... Trí tuệ nhân tạo trong thiết bị y tế .

Đối với các nhà sản xuất thiết bị y tế, việc tuân thủ quy định hiện nay không chỉ giới hạn ở... Quy định về thiết bị y tế (MDR) (EU 2017/745) Bao gồm cả Đạo luật về Trí tuệ Nhân tạo (AI Act). Khi có nhiều luật khác nhau, sẽ có khả năng xảy ra sự chồng chéo về quy định. Quy định về thiết bị y tế (MDR) nhấn mạnh sự an toàn của bệnh nhân, hiệu quả lâm sàng và quản lý rủi ro—những nguyên tắc phù hợp với cách tiếp cận dựa trên rủi ro của Đạo luật về AI đối với quản trị AI. Với những mục tiêu chung này, việc tích hợp các yêu cầu liên quan đến AI vào Hệ thống Quản lý Chất lượng (QMS) hiện có là thiết thực và có lợi.

Nhận thấy nhu cầu này, Điều 17 của Luật Trí tuệ Nhân tạo cho phép tích hợp rõ ràng các yêu cầu về hệ thống quản lý chất lượng (QMS) dành riêng cho AI vào các khuôn khổ ngành hiện có, nêu rõ:

"Các nhà cung cấp hệ thống AI rủi ro cao phải tuân thủ các nghĩa vụ liên quan đến hệ thống quản lý chất lượng hoặc chức năng tương đương theo luật ngành liên quan của Liên minh châu Âu có thể bao gồm các khía cạnh được liệt kê trong đoạn 1 như một phần của hệ thống quản lý chất lượng theo luật đó."

Bài báo này khám phá những điểm tương đồng và khác biệt chính giữa Quy định về Thiết bị Y tế (MDR) và Đạo luật về Trí tuệ Nhân tạo (AI), tập trung vào các lĩnh vực như quản lý dữ liệu, quy trình vòng đời sản phẩm, theo dõi lâm sàng sau khi đưa sản phẩm ra thị trường (PMCF) và tuân thủ quy định. Thông qua cách tiếp cận này, các nhà sản xuất thiết bị y tế có thể tích hợp hiệu quả việc tuân thủ AI vào hệ thống quản lý chất lượng (QMS) của họ, đảm bảo cả sự phù hợp với quy định và an toàn cho bệnh nhân.

Dữ liệu như "nguyên liệu thô" trong các thiết bị y tế ứng dụng trí tuệ nhân tạo: Góc nhìn từ phía cơ quan quản lý

Trong các thiết bị y tế dựa trên trí tuệ nhân tạo, dữ liệu là yếu tố đầu vào cơ bản—tương tự như nguyên liệu thô trong sản xuất thiết bị truyền thống. Cũng giống như Quy định về Thiết bị Y tế (MDR) yêu cầu truy xuất nguồn gốc đầy đủ của vật liệu để đảm bảo khả năng tương thích sinh học, tính toàn vẹn cấu trúc và an toàn tổng thể, các mô hình AI phải được phát triển dựa trên các tập dữ liệu được mô tả rõ ràng, được xác thực và có thể truy xuất nguồn gốc.

Theo quy định MDR, việc truy xuất nguồn gốc vật liệu đảm bảo hiệu suất thiết bị và an toàn cho bệnh nhân. Trong bối cảnh trí tuệ nhân tạo (AI), việc truy xuất nguồn gốc dữ liệu cũng quan trọng không kém—ảnh hưởng đến hiệu suất mô hình, tính hợp lệ lâm sàng và khả năng được chấp nhận theo quy định.

Sự so sánh này nhằm nhấn mạnh sự cần thiết của các khuôn khổ quản trị dữ liệu có cấu trúc trong phát triển hệ thống AI. Bảng sau đây so sánh các nguyên tắc truy xuất nguồn gốc vật liệu của MDR với các yêu cầu quản lý dữ liệu AI.

Tuy nhiên, cần lưu ý rằng các tập dữ liệu AI cũng phải tuân thủ các yêu cầu riêng biệt—chẳng hạn như tính công bằng và không phân biệt đối xử, vượt ra ngoài các cân nhắc truyền thống của MDR.

Diện mạo	Yêu cầu MDR	Yêu cầu về AI
Xác định nguồn gốc	Mọi nguyên vật liệu được sử dụng trong thiết bị đều phải có nguồn gốc được ghi chép đầy đủ và xác minh.	Mọi dữ liệu huấn luyện AI đều phải có nguồn gốc được ghi chép đầy đủ (ví dụ: cơ sở dữ liệu bệnh viện, thử nghiệm lâm sàng và các bộ dữ liệu công khai).
Chứng nhận	Nguyên liệu thô phải đáp ứng các tiêu chuẩn về an toàn và hiệu suất.	Dữ liệu phải được xác thực về độ chính xác, tính đầy đủ và tính phù hợp (ví dụ: đảm bảo trí tuệ nhân tạo được đào tạo, xác thực và kiểm thử trên dữ liệu có liên quan đến lâm sàng).
Tài liệu về thuộc tính	Các đặc tính hóa học, cơ học và khả năng tương thích sinh học phải được ghi lại cho từng loại vật liệu.	Các bộ dữ liệu AI phải ghi lại sự đa dạng dữ liệu, sự đại diện về nhân khẩu học và các sai lệch thống kê để đảm bảo tính công bằng.
Quản lý thay đổi	Mọi sự thay đổi về vật liệu đều phải được kiểm tra và ghi lại.	Bất kỳ thay đổi nào trong tập dữ liệu huấn luyện (ví dụ: thêm nhóm bệnh nhân mới) đều phải được đánh giá về tác động đến hiệu suất của mô hình AI.
Kiểm tra an toàn, đánh giá thiên vị và rủi ro	Các vật liệu phải được kiểm tra để đảm bảo không gây ra tác động sinh học bất lợi.	Các bộ dữ liệu AI phải được đánh giá về độ thiên vị, thiếu sót dữ liệu và lỗi để tránh tạo ra kết quả không đáng tin cậy hoặc mang tính phân biệt đối xử.

Quản lý vòng đời của thiết bị y tế dựa trên trí tuệ nhân tạo so với thiết bị y tế truyền thống.

Vòng đời phần mềm là một khía cạnh pháp lý quan trọng đối với cả thiết bị y tế dựa trên phần mềm truyền thống (SW-MD) và thiết bị y tế do trí tuệ nhân tạo (AI-MD). Mặc dù cả hai đều yêu cầu quá trình phát triển có cấu trúc, tính minh bạch và khả năng truy vết, nhưng việc ứng dụng AI trong thiết bị y tế lại đặt ra những thách thức riêng do bản chất của các mô hình AI.

Diện mạo	Các thiết bị y tế truyền thống dựa trên phần mềm (SW-MDs)	Thiết bị y tế điều khiển bằng AI (AI-MD)
Khả năng truy xuất nguồn gốc	Mã nguồn và yêu cầu phần mềm phải được ghi chép đầy đủ và quản lý phiên bản.	Kiến trúc mô hình AI, các bước huấn luyện, tập dữ liệu và tất cả các bước xử lý phải được ghi chép lại và kiểm soát phiên bản.
Khả năng tái tạo	Mang tính xác định: Với cùng một đầu vào, phần mềm luôn tạo ra cùng một đầu ra.	Dựa trên xác suất: Các mô hình AI tạo ra kết quả dựa trên các mẫu đã học được, dẫn đến sự khác biệt nhỏ trong kết quả.
Tính ổn định hiệu suất	Hệ thống vẫn ổn định trừ khi được cập nhật rõ ràng.	Có thể bị suy giảm chất lượng theo thời gian do sự thay đổi dữ liệu, đòi hỏi phải giám sát liên tục.
Quản lý thay đổi	Tuân thủ quy trình kiểm soát phiên bản có cấu trúc và kiểm thử hồi quy trước khi triển khai.	Các mô hình AI cần được huấn luyện và kiểm định lại liên tục để duy trì độ chính xác.
Xác minh và Thẩm định (V&V)	Đảm bảo phần mềm hoạt động chính xác và đáp ứng các yêu cầu.	Quy trình kiểm định và xác nhận AI bao gồm xác thực tập dữ liệu, đánh giá độ lệch và kiểm tra khả năng chịu tải đối với các trường hợp ngoại lệ.

Để phù hợp với các nguyên tắc MDR, các hệ thống dựa trên AI phải áp dụng:

• Quy trình đào tạo, xác thực và kiểm thử AI được cấu trúc bài bản để đảm bảo tính khả thi và hiệu suất ổn định.
• Tài liệu đầy đủ cho phép xây dựng lại thiết bị y tế điều khiển bằng AI chỉ dựa trên tài liệu mà vẫn duy trì được hiệu suất như dự định.
• Giám sát sau khi thị trường mở bán để phát hiện sự thay đổi hiệu suất, sai lệch và các kết quả ngoài ý muốn.

Theo dõi lâm sàng sau khi đưa sản phẩm ra thị trường (PMCF) đối với các thiết bị y tế được hỗ trợ bởi trí tuệ nhân tạo.

PMCF là một yêu cầu pháp lý theo MDR (EU 2017/745), đảm bảo các thiết bị y tế duy trì tính an toàn và hiệu quả sau khi đưa ra thị trường. Trong khi các thiết bị truyền thống với công nghệ ổn định có thể không cần PMCF liên tục, thì trí tuệ nhân tạo (AI) trong các thiết bị y tế lại đòi hỏi giám sát liên tục do chúng phụ thuộc vào dữ liệu thực tế đang thay đổi.

Diện mạo	SW-MDs	Bác sĩ AI
Nhu cầu về PMCF liên tục	Thường bị hạn chế đối với các công nghệ đã được thiết lập vững chắc và ổn định, không thay đổi sau khi triển khai.	Điều này rất quan trọng, vì các mô hình AI phụ thuộc rất nhiều vào dữ liệu thực tế, vốn có thể khác với dữ liệu huấn luyện.
Tính ổn định hiệu suất	Hệ thống vẫn hoạt động ổn định trừ khi được cập nhật rõ ràng bằng các phiên bản phần mềm mới.	Có thể bị suy giảm chất lượng theo thời gian do sự thay đổi dữ liệu, đòi hỏi phải giám sát và hiệu chỉnh liên tục.
Rủi ro hành vi không lường trước	Rủi ro thấp nếu quá trình kiểm tra trước khi đưa sản phẩm ra thị trường được thực hiện toàn diện và phần mềm không thay đổi.	Rủi ro cao, vì các mô hình AI được huấn luyện trên các tập dữ liệu lịch sử có thể không khái quát hóa tốt đối với dữ liệu thực tế chưa từng thấy.
Trọng tâm giám sát chính	Tập trung chủ yếu vào việc sửa lỗi, rủi ro an ninh mạng và độ tin cậy của phần mềm.	Bao gồm sự thay đổi hiệu suất, phát hiện sai lệch, độ chính xác trong điều kiện thực tế và các rủi ro lâm sàng ngoài ý muốn.
Kỳ vọng về mặt quy định đối với PMCF	Cập nhật định kỳ dựa trên các vấn đề được báo cáo, phản hồi của người dùng và báo cáo về các sự cố bất lợi.	Cần có sự đánh giá hiệu suất thực tế liên tục, cập nhật dựa trên dữ liệu và xác thực quá trình đào tạo lại.
Phương pháp tiếp cận giảm thiểu rủi ro	Cập nhật bản vá, sửa lỗi bảo mật và kiểm tra lại định kỳ nếu có những thay đổi lớn.	Quản lý vòng đời thích ứng, bao gồm giám sát mô hình tự động, thẩm định lại và báo cáo theo quy định.
Thu thập và phân tích dữ liệu	Thông thường, nghiên cứu này mang tính hồi cứu, dựa trên việc xem xét các tài liệu lâm sàng và báo cáo sự cố sau khi sản phẩm được đưa ra thị trường.	Thu thập dữ liệu theo thời gian thực hoặc gần thời gian thực, đòi hỏi cơ sở hạ tầng giám sát tiên tiến và tuân thủ các quy định.

Đối với các thiết bị y tế truyền thống dựa trên phần mềm, PMCF đảm bảo an toàn liên tục nhưng thường mang tính tĩnh và phản ứng. Ngược lại, các thiết bị y tế dựa trên trí tuệ nhân tạo (AI) đòi hỏi phương pháp PMCF chủ động và năng động do chúng phụ thuộc vào dữ liệu thực tế đang thay đổi. Nếu không được giám sát liên tục, các mô hình AI có nguy cơ suy giảm hiệu suất, đưa ra sai lệch và gây hại tiềm tàng cho bệnh nhân - điều này khiến PMCF trở thành một yêu cầu cần thiết về mặt pháp lý và đạo đức.

Phần kết luận

Để đảm bảo tuân thủ Quy định về Thiết bị Y tế (MDR) và Đạo luật về Trí tuệ Nhân tạo (AI), các thiết bị y tế tích hợp AI phải quản lý dữ liệu chặt chẽ, giám sát vòng đời và theo dõi chất lượng liên tục (PMCF). Bằng cách áp dụng các phương pháp quản lý chất lượng dành riêng cho AI, các nhà sản xuất có thể đảm bảo thiết bị của họ luôn an toàn, hiệu quả và tuân thủ quy định trong suốt vòng đời.

Do việc sử dụng Trí tuệ nhân tạo trong thiết bị y tế Trong bối cảnh phát triển, một chiến lược quản lý có cấu trúc và chủ động sẽ rất quan trọng để cân bằng giữa đổi mới sáng tạo với sự an toàn của bệnh nhân và việc tuân thủ pháp luật.

Chứng nhận CE theo Quy định MDR (EU) 2017/745

Bạn có thắc mắc về việc xin chứng nhận CE Marking tại Châu Âu cho thiết bị y tế của mình theo Quy định MDR (EU) 2017/745? Hãy liên hệ với chúng tôi để được biết thêm thông tin và hỗ trợ.

Hãy liên hệ với chúng tôi!