MED AI in Medical Devices Meeting EU Compliance with AI Act and MDR

Τεχνητή νοημοσύνη στα ιατροτεχνολογικά προϊόντα: συμμόρφωση της ΕΕ με τον νόμο για την τεχνητή νοημοσύνη και τον κανονισμό MDR

Η ταχεία υιοθέτηση της τεχνητής νοημοσύνης (ΤΝ) σε πολλούς κλάδους οδήγησε στη θέσπιση της πράξης για την τεχνητή νοημοσύνη (ΕΕ 2024/1689), ενός ολοκληρωμένου κανονιστικού πλαισίου που έχει σχεδιαστεί για την αντιμετώπιση των κινδύνων που συνδέονται με τις τεχνολογίες τεχνητής νοημοσύνης. Σε αντίθεση με τους ειδικούς για τον κλάδο κανονισμούς, ο νόμος για την τεχνητή νοημοσύνη εφαρμόζεται ευρέως, καλύπτοντας διάφορους τομείς, συμπεριλαμβανομένης της υγειονομικής περίθαλψης και της τεχνητής νοημοσύνης στα ιατροτεχνολογικά προϊόντα.

Για τους κατασκευαστές ιατροτεχνολογικών προϊόντων, η συμμόρφωση εκτείνεται πλέον πέραν του κανονισμού για τα ιατροτεχνολογικά προϊόντα (ΕΕ) (ΕΕ 2017/745) και περιλαμβάνει τον νόμο για την τεχνητή νοημοσύνη. Όπου υπάρχει πολλαπλή νομοθεσία, υπάρχουν πιθανές κανονιστικές αλληλεπικαλύψεις. Το MDR δίνει έμφαση στην ασφάλεια των ασθενών, την κλινική αποτελεσματικότητα και τη διαχείριση κινδύνου - αρχές που ευθυγραμμίζονται με την προσέγγιση βάσει κινδύνου του νόμου AI για τη διακυβέρνηση της AI. Δεδομένων αυτών των κοινών στόχων, η ενσωμάτωση απαιτήσεων που σχετίζονται με την τεχνητή νοημοσύνη σε ένα υφιστάμενο Σύστημα Διαχείρισης Ποιότητας (ΣΔΠ) είναι τόσο πρακτική όσο και επωφελής.

Αναγνωρίζοντας αυτή την ανάγκη, το άρθρο 17 του νόμου για την τεχνητή νοημοσύνη επιτρέπει ρητά την ενσωμάτωση ειδικών απαιτήσεων ΣΔΠ για την τεχνητή νοημοσύνη στα υφιστάμενα τομεακά πλαίσια, δηλώνοντας:

«Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου που υπόκεινται σε υποχρεώσεις σχετικά με τα συστήματα διαχείρισης της ποιότητας ή ισοδύναμη λειτουργία βάσει του σχετικού τομεακού ενωσιακού δικαίου μπορούν να περιλαμβάνουν τις πτυχές που απαριθμούνται στην παράγραφο 1 στο πλαίσιο των συστημάτων διαχείρισης της ποιότητας σύμφωνα με το εν λόγω δίκαιο.»

Αυτό το έγγραφο διερευνά βασικές ομοιότητες και διαφορές μεταξύ του MDR και του νόμου AI, εστιάζοντας σε τομείς όπως η διαχείριση δεδομένων, οι διαδικασίες κύκλου ζωής, η κλινική παρακολούθηση μετά τη διάθεση στην αγορά (PMCF) και η κανονιστική συμμόρφωση. Μέσω αυτής της προσέγγισης, οι κατασκευαστές ιατρικών συσκευών μπορούν να ενσωματώσουν αποτελεσματικά τη συμμόρφωση με την τεχνητή νοημοσύνη στο ΣΔΠ τους, διασφαλίζοντας τόσο την κανονιστική ευθυγράμμιση όσο και την ασφάλεια των ασθενών.

Τα δεδομένα ως «πρώτη ύλη» σε ιατρικές συσκευές που λειτουργούν με τεχνητή νοημοσύνη: Μια ρυθμιστική προοπτική

Στις ιατρικές συσκευές που βασίζονται στην τεχνητή νοημοσύνη, τα δεδομένα είναι η θεμελιώδης εισροή - συγκρίσιμη με τις πρώτες ύλες στην παραδοσιακή κατασκευή συσκευών. Ακριβώς όπως το MDR απαιτεί πλήρη ιχνηλασιμότητα των υλικών για να διασφαλιστεί η βιοσυμβατότητα, η δομική ακεραιότητα και η συνολική ασφάλεια, τα μοντέλα AI πρέπει να αναπτυχθούν σε καλά χαρακτηρισμένα, επικυρωμένα και ανιχνεύσιμα σύνολα δεδομένων.

Σύμφωνα με το MDR, η ιχνηλασιμότητα υλικών διασφαλίζει την απόδοση της συσκευής και την ασφάλεια των ασθενών. Στο πλαίσιο της τεχνητής νοημοσύνης, η ιχνηλασιμότητα των συνόλων δεδομένων είναι εξίσου κρίσιμη, επηρεάζοντας την απόδοση του μοντέλου, την κλινική εγκυρότητα και την κανονιστική αποδοχή.

Αυτή η αναλογία χρησιμεύει για να τονίσει την ανάγκη για δομημένα πλαίσια διακυβέρνησης δεδομένων στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης. Ο ακόλουθος πίνακας παρουσιάζει παραλληλισμούς μεταξύ των αρχών ιχνηλασιμότητας υλικών MDR και των απαιτήσεων διαχείρισης δεδομένων τεχνητής νοημοσύνης.

Ωστόσο, σημειώστε ότι τα σύνολα δεδομένων AI υπόκεινται επίσης σε μοναδικές απαιτήσεις, όπως η δικαιοσύνη και η μη διάκριση, οι οποίες εκτείνονται πέρα από τις παραδοσιακές εκτιμήσεις MDR.

Aspect MDR Requirement AI Requirement
Source Identification Every material used in a device must be fully traceable to a documented origin. Every AI training data must be fully traceable to a documented origin (e.g., hospital databases, clinical trials, and publicly available datasets).
Certification Raw materials must meet safety and performance standards. Data must be validated for accuracy, completeness, and relevance (e.g., ensuring AI is trained, validated, and tested on clinically relevant data).
Properties Documentation The chemical, mechanical, and biocompatibility properties must be recorded for each material. AI datasets must document data diversity, demographic representation, and statistical biases to ensure fairness.
Change Management Any modification to materials must be tested and documented. Any change in training datasets (e.g., adding new patient populations) must be evaluated for impact on AI model performance.
Safety Testing, Bias and Risk Assessment Materials must be tested to ensure no adverse biological effects. AI datasets must be assessed for biases, data gaps, and errors to prevent unreliable or discriminatory outputs.

 

Διαχείριση κύκλου ζωής προϊόντων που βασίζονται στην τεχνητή νοημοσύνη έναντι παραδοσιακών ιατρικών συσκευών

Ο κύκλος ζωής του λογισμικού είναι μια κρίσιμη κανονιστική πτυχή τόσο για τις παραδοσιακές ιατρικές συσκευές που βασίζονται σε λογισμικό (SW-MD) όσο και για τις ιατρικές συσκευές που βασίζονται σε AI (AI-MD). Ενώ και τα δύο απαιτούν δομημένη ανάπτυξη, διαφάνεια και ιχνηλασιμότητα, η τεχνητή νοημοσύνη στα ιατροτεχνολογικά προϊόντα εισάγει μοναδικές προκλήσεις λόγω της φύσης των μοντέλων τεχνητής νοημοσύνης.

Aspect Traditional Software-Based Medical Devices (SW-MDs) AI-Driven Medical Devices (AI-MDs)
Traceability Software code and requirements must be fully documented and version-controlled. AI model architecture, training steps, datasets and all processing steps must be documented and version-controlled.
Reproducibility Deterministic: Given the same inputs, the software always produces the same output. Probabilistic: AI models generate outputs based on learned patterns, leading to slight variations in results.
Performance Stability Remains stable unless explicitly updated. May degrade over time due to data drift, requiring ongoing monitoring.
Change Management Follows structured version control and regression testing before deployment. AI models require continuous retraining and revalidation to maintain accuracy.
Verification & Validation (V&V) Ensures software functions correctly and meets requirements. AI V&V includes dataset validation, bias assessment, and stress testing for edge cases.

 

Για να ευθυγραμμιστούν με τις αρχές MDR, τα συστήματα που βασίζονται στην τεχνητή νοημοσύνη πρέπει να υιοθετούν:

• Δομημένες διαδικασίες εκπαίδευσης, επικύρωσης και δοκιμών AI για τη διασφάλιση της αναπαραγωγιμότητας και της συνέπειας απόδοσης.
• Ολοκληρωμένη τεκμηρίωση που επιτρέπει την ανακατασκευή της ιατρικής συσκευής που βασίζεται σε AI μόνο από την τεκμηρίωση, διατηρώντας παράλληλα την προβλεπόμενη απόδοσή της.
• Παρακολούθηση μετά τη διάθεση στην αγορά για τον εντοπισμό απόκλισης απόδοσης, μεροληψιών και ακούσιων αποτελεσμάτων.

Κλινική παρακολούθηση μετά τη διάθεση στην αγορά (PMCF) για ιατροτεχνολογικά προϊόντα που βασίζονται στην τεχνητή νοημοσύνη

Η PMCF αποτελεί κανονιστική απαίτηση βάσει του MDR (ΕΕ 2017/745), διασφαλίζοντας ότι τα ιατροτεχνολογικά προϊόντα διατηρούν την ασφάλεια και την αποτελεσματικότητα μετά την είσοδό τους στην αγορά. Ενώ οι παραδοσιακές συσκευές με σταθερή τεχνολογία ενδέχεται να μην απαιτούν συνεχή PMCF, η τεχνητή νοημοσύνη στα ιατροτεχνολογικά προϊόντα απαιτεί συνεχή παρακολούθηση λόγω της εξάρτησής τους από εξελισσόμενα δεδομένα πραγματικού κόσμου.

Aspect SW-MDs AI-MDs
Need for Continuous PMCF Often limited for well-established, stable technologies that do not change post-deployment. Essential, as AI models are highly dependent on real-world data, which may differ from training data.
Performance Stability Remains stable unless explicitly updated with new software versions. May degrade over time due to data drift, requiring ongoing monitoring and recalibration.
Risk of Unanticipated Behavior Low risk if premarket testing is comprehensive and software remains unchanged. High risk, as AI models trained on historical datasets may not generalize well to unseen real-world data.
Key Monitoring Focus Primarily focused on bug fixes, cybersecurity risks, and software reliability. Includes performance drift, bias detection, real-world accuracy, and unintended clinical risks.
Regulatory Expectation for PMCF Periodic updates based on reported issues, user feedback, and adverse event reports. Requires continuous real-world performance assessment, data-driven updates, and retraining validation.
Approach to Risk Mitigation Patch updates, security fixes, and periodic revalidation if major changes occur. Adaptive lifecycle management, including automated model monitoring, revalidation, and regulatory reporting.
Data Collection & Analysis Often retrospective, based on clinical literature reviews and post-market incident reports. Real-time or near-real-time data collection, requiring advanced monitoring infrastructure and compliance.

 

Για τις παραδοσιακές ιατρικές συσκευές που βασίζονται σε λογισμικό, η PMCF εξασφαλίζει συνεχή ασφάλεια, αλλά συχνά είναι στατική και αντιδραστική. Αντίθετα, τα ιατροτεχνολογικά προϊόντα που βασίζονται στην τεχνητή νοημοσύνη απαιτούν μια προληπτική και δυναμική προσέγγιση PMCF λόγω της εξάρτησής τους από εξελισσόμενα δεδομένα πραγματικού κόσμου. Χωρίς συνεχή παρακολούθηση, τα μοντέλα τεχνητής νοημοσύνης ενέχουν τον κίνδυνο υποβάθμισης της απόδοσης, εισαγωγής μεροληψίας και πιθανής βλάβης των ασθενών, καθιστώντας την PMCF κανονιστική και ηθική αναγκαιότητα.

Συμπέρασμα

Για να διασφαλιστεί η συμμόρφωση με τον νόμο MDR και AI, οι ιατρικές συσκευές που βασίζονται στην τεχνητή νοημοσύνη πρέπει να ενσωματώνουν αυστηρή διαχείριση δεδομένων, παρακολούθηση κύκλου ζωής και συνεχή PMCF. Υιοθετώντας πρακτικές διαχείρισης ποιότητας ειδικά για την τεχνητή νοημοσύνη, οι κατασκευαστές μπορούν να διασφαλίσουν ότι οι συσκευές τους παραμένουν ασφαλείς, αποτελεσματικές και συμμορφώνονται με τους κανονισμούς καθ' όλη τη διάρκεια του κύκλου ζωής τους.

Καθώς εξελίσσεται η χρήση της τεχνητής νοημοσύνης στα ιατροτεχνολογικά προϊόντα, μια δομημένη και προορατική ρυθμιστική στρατηγική θα είναι ζωτικής σημασίας για την εξισορρόπηση της καινοτομίας με την ασφάλεια των ασθενών και τη συμμόρφωση με τις κείμενες διατάξεις.

Σήμανση CE βάσει κανονισμού MDR (EU) 2017/745

Έχετε ερωτήσεις σχετικά με την απόκτηση σήμανσης CE στην Ευρώπη για το ιατροτεχνολογικό προϊόν σας σύμφωνα με τον κανονισμό MDR (ΕΕ) 2017/745; Επικοινωνήστε μαζί μας για περισσότερες πληροφορίες και βοήθεια.

Contact us!

Σχετικά άρθρα και εκδηλώσεις

Μπορεί επίσης να σας ενδιαφέρει αυτό
Blog
UK PMS 3

UK PMS Regulations for Medical Devices: Part 3 – UK PMS Regulations vs. EU MDR

Διαβάστε περισσότερα
Blog
UK PMS 2

UK PMS Regulations for Medical Devices: Part 2 – Vigilance & Reporting Requirements

Διαβάστε περισσότερα
Blog
UK PMS 1

Κανονισμοί PMS του Ηνωμένου Βασιλείου για ιατρικές συσκευές: Μέρος 1 - Επισκόπηση & Βασικές απαιτήσεις

Διαβάστε περισσότερα

Ερωτήσεις;

Είμαστε εδώ για εσάς.
Επικοινωνία