MED AI in Medical Devices Meeting EU Compliance with AI Act and MDR

KI in Me­di­zin­pro­duk­ten: Er­fül­lung der EU-Kon­for­mi­tät mit dem KI-Ge­setz und der MDR

Dr. Andrei Ninu

Re­gu­lie­rungs­exper­te für aktive Me­di­zin­pro­duk­te
Apr. 02 , 2025
# CE-Kennzeichen

Die rasche Einführung von künstlicher In­tel­li­genz (KI) in zahl­rei­chen Branchen hat zur Einführung des Gesetzes über künstliche In­tel­li­genz (EU 2024/1689) geführt, einem um­fas­sen­den Rechts­rah­men, der die mit KI-Tech­no­lo­gien ver­bun­de­nen Risiken angehen soll. Im Ge­gen­satz zu bran­chen­spe­zi­fi­schen Vor­schrif­ten gilt das KI-Ge­setz auf breiter Basis und deckt ver­schie­de­ne Sektoren ab, darunter das Ge­sund­heits­we­sen und KI in Medizinprodukten.

Für Her­stel­ler von Me­di­zin­pro­duk­ten geht die Ein­hal­tung der Vor­schrif­ten nun über die Medizinprodukteverordnung (EU 2017/745) hinaus und umfasst auch das KI-Ge­setz. Wo es mehrere Rechts­vor­schrif­ten gibt, kann es zu re­gu­la­to­ri­schen Überschneidungen kommen. Die MDR legt den Schwer­punkt auf Pa­ti­en­ten­si­cher­heit, kli­ni­sche Wirk­sam­keit und Ri­si­ko­ma­nage­ment - Grundsätze, die sich mit dem ri­si­ko­ba­sier­ten Ansatz des KI-Ge­set­zes zur KI-Go­ver­nan­ce decken. An­ge­sichts dieser ge­mein­sa­men Ziele ist die In­te­gra­ti­on von KI-be­zo­ge­nen An­for­de­run­gen in ein be­stehen­des Qualitätsmanagementsystem (QMS) sowohl prak­tisch als auch vor­teil­haft.

In An­er­ken­nung dieser Not­wen­dig­keit erlaubt Artikel 17 des KI-Ge­set­zes ausdrücklich die In­te­gra­ti­on von KI-spe­zi­fi­schen QMS-An­for­de­run­gen in be­stehen­de sek­to­ra­le Rah­men­wer­ke und be­sagt

"An­bie­ter von AI-Sys­te­men mit hohem Risiko, die nach dem einschlägigen sek­to­ra­len Uni­ons­recht Ver­pflich­tun­gen in Bezug auf Qualitätsmanagementsysteme oder eine gleich­wer­ti­ge Funktion un­ter­lie­gen, können die in Absatz 1 aufgeführten Aspekte als Teil der Qualitätsmanagementsysteme gemäß diesem Recht ein­be­zie­hen."

Die­ses Papier un­ter­sucht die wich­tigs­ten Ähnlichkeiten und Un­ter­schie­de zwischen der MDR und dem AI-Ge­setz und kon­zen­triert sich dabei auf Bereiche wie Da­ten­ma­nage­ment, Le­bens­zy­klus­pro­zes­se, kli­ni­sche Nach­be­ob­ach­tung nach dem In­ver­kehr­brin­gen (PMCF) und die Ein­hal­tung von Vor­schrif­ten. Durch diesen Ansatz können Her­stel­ler von Me­di­zin­pro­duk­ten die Ein­hal­tung der KI-Vor­schrif­ten ef­fi­zi­ent in ihr QMS in­te­grie­ren und so sowohl die Ein­hal­tung der Vor­schrif­ten als auch die Si­cher­heit der Pa­ti­en­ten gewährleisten.

Daten als "Rohstoff" in KI-gesteuerten Medizinprodukten: Ein regulatorischer Blickwinkel


Bei KI-gesteuerten Medizinprodukten sind Daten der grundlegende Input - vergleichbar mit Rohstoffen in der traditionellen Geräteherstellung. So wie die MDR die vollständige Rückverfolgbarkeit von Materialien fordert, um Biokompatibilität, strukturelle Integrität und allgemeine Sicherheit zu gewährleisten, müssen KI-Modelle auf der Grundlage gut charakterisierter, validierter und rückverfolgbarer Datensätze entwickelt werden.

Im Rahmen der MDR gewährleistet die Rückverfolgbarkeit von Materialien die Leistung der Geräte und die Sicherheit der Patienten. Im Kontext der künstlichen Intelligenz ist die Rückverfolgbarkeit von Datensätzen ebenso entscheidend - sie beeinflusst die Leistung des Modells, die klinische Validität und die behördliche Akzeptanz.

Diese Analogie verdeutlicht den Bedarf an strukturierten Data-Governance-Rahmenwerken bei der Entwicklung von KI-Systemen. Die folgende Tabelle zeigt Parallelen zwischen den Grundsätzen der Rückverfolgbarkeit von MDR-Materialien und den Anforderungen an die KI-Datenverwaltung.

Es ist jedoch zu beachten, dass KI-Datensätze auch besonderen Anforderungen unterliegen, wie z. B. Fairness und Nichtdiskriminierung, die über die traditionellen MDR-Überlegungen hinausgehen.

Aspekt MDR-Anforderung AI-Anforderung
Identifizierung der Quelle Jedes in einem Produkt verwendete Material muss vollständig auf einen dokumentierten Ursprung zurückgeführt werden können. Alle KI-Trainingsdaten müssen vollständig auf einen dokumentierten Ursprung zurückgeführt werden können (z. B. Krankenhausdatenbanken, klinische Studien und öffentlich verfügbare Datensätze).
Zertifizierung Die Rohstoffe müssen den Sicherheits- und Leistungsstandards entsprechen. Die Daten müssen auf Genauigkeit, Vollständigkeit und Relevanz validiert werden (z. B. muss sichergestellt werden, dass die KI auf klinisch relevanten Daten trainiert, validiert und getestet wird).
Dokumentation der Eigenschaften Die chemischen, mechanischen und biokompatiblen Eigenschaften müssen für jedes Material erfasst werden. AI-Datensätze müssen die Datenvielfalt, die demografische Repräsentation und statistische Verzerrungen dokumentieren, um Fairness zu gewährleisten.
Änderungsmanagement Jede Änderung an Materialien muss getestet und dokumentiert werden. Jede Änderung der Trainingsdatensätze (z. B. Hinzufügen neuer Patientengruppen) muss hinsichtlich ihrer Auswirkungen auf die Leistung des KI-Modells bewertet werden.
Sicherheitstests, Verzerrungen und Risikobewertung Die Materialien müssen getestet werden, um sicherzustellen, dass sie keine nachteiligen biologischen Auswirkungen haben. KI-Datensätze müssen auf Verzerrungen, Datenlücken und Fehler geprüft werden, um unzuverlässige oder diskriminierende Ergebnisse zu vermeiden.

Lebenszyklusmanagement von KI-gesteuerten vs. traditionellen Medizinprodukten

Der Software-Lebenszyklus ist ein kritischer regulatorischer Aspekt sowohl für traditionelle softwarebasierte Medizinprodukte (SW-MDs) als auch für KI-gesteuerte Medizinprodukte (AI-MDs). Während beide eine strukturierte Entwicklung, Transparenz und Rückverfolgbarkeit erfordern, bringt die KI in Medizinprodukten aufgrund der Natur der KI-Modelle einzigartige Herausforderungen mit sich.

Aspekt Traditionelle Software-basierte Medizinprodukte (SW-MDs) AI-gesteuerte Medizinprodukte (AI-MDs)
Rückverfolgbarkeit Software-Code und Anforderungen müssen vollständig dokumentiert und versionskontrolliert sein. KI-Modellarchitektur, Trainingsschritte, Datensätze und alle Verarbeitungsschritte müssen dokumentiert und versionskontrolliert sein.
Reproduzierbarkeit Deterministisch: Bei gleichen Eingaben erzeugt die Software immer die gleiche Ausgabe. Probabilistisch: KI-Modelle erzeugen Ausgaben auf der Grundlage erlernter Muster, was zu leichten Abweichungen bei den Ergebnissen führt.
Leistungsstabilität Bleibt stabil, wenn sie nicht ausdrücklich aktualisiert wird. Kann sich im Laufe der Zeit aufgrund von Datendrift verschlechtern, was eine laufende Überwachung erfordert.
Änderungsmanagement Folgt einer strukturierten Versionskontrolle und Regressionstests vor der Bereitstellung. KI-Modelle erfordern kontinuierliches Neutraining und Revalidierung, um die Genauigkeit zu erhalten.
Verifizierung & Validierung (V&V) Stellt sicher, dass die Software korrekt funktioniert und die Anforderungen erfüllt. Die KI-V&V umfasst die Validierung von Datensätzen, die Bewertung von Verzerrungen und Stresstests für Grenzfälle.

Um den MDR-Prinzipien zu entsprechen, müssen KI-basierte Systeme angenommen werden:


- Strukturierte KI-Trainings-, Validierungs- und Testprozesse, um Reproduzierbarkeit und Leistungskonsistenz zu gewährleisten.
- Umfassende Dokumentation, die es ermöglicht, das KI-gesteuerte Medizinprodukt allein anhand der Dokumentation wiederherzustellen und dabei die beabsichtigte Leistung beizubehalten.
- Überwachung nach der Markteinführung, um Leistungsabweichungen, Verzerrungen und unbeabsichtigte Ergebnisse zu erkennen.

Klinische Nachbeobachtung nach dem Inverkehrbringen (PMCF) für KI-gesteuerte Medizinprodukte

PMCF ist eine regulatorische Anforderung im Rahmen der MDR (EU 2017/745), die sicherstellt, dass Medizinprodukte auch nach dem Inverkehrbringen sicher und wirksam bleiben. Während herkömmliche Geräte mit stabiler Technologie möglicherweise keine kontinuierliche PMCF benötigen, ist bei KI-gesteuerten Medizinprodukten eine fortlaufende Überwachung erforderlich, da sie auf sich entwickelnde Daten aus der realen Welt angewiesen sind.

Aspekt SW-MDs AI-MDs
Bedarf an kontinuierlicher PMCF Oft begrenzt für gut etablierte, stabile Technologien, die sich nach der Einführung nicht ändern. Wesentlich, da KI-Modelle in hohem Maße von realen Daten abhängen, die sich von den Trainingsdaten unterscheiden können.
Leistungsstabilität Bleibt stabil, sofern sie nicht explizit mit neuen Softwareversionen aktualisiert wird. Kann sich im Laufe der Zeit aufgrund von Datendrift verschlechtern, was eine laufende Überwachung und Neukalibrierung erfordert.
Risiko eines unvorhergesehenen Verhaltens Geringes Risiko, wenn die Tests vor der Markteinführung umfassend sind und die Software unverändert bleibt. Hohes Risiko, da KI-Modelle, die auf historischen Datensätzen trainiert wurden, möglicherweise nicht gut auf ungesehene reale Daten verallgemeinert werden können.
Schwerpunkt der Überwachung Hauptsächlich auf Fehlerbehebungen, Cybersicherheitsrisiken und Softwarezuverlässigkeit ausgerichtet. Beinhaltet Leistungsdrift, Erkennung von Verzerrungen, Genauigkeit in der realen Welt und unbeabsichtigte klinische Risiken.
Regulatorische Erwartung für PMCF Regelmäßige Aktualisierungen auf der Grundlage von gemeldeten Problemen, Benutzerfeedback und Berichten über unerwünschte Ereignisse. Erfordert eine kontinuierliche Bewertung der Leistung unter realen Bedingungen, datengesteuerte Aktualisierungen und Validierung durch Nachschulung.
Ansatz zur Risikominderung Patch-Updates, Sicherheitskorrekturen und regelmäßige Revalidierung, wenn größere Änderungen auftreten. Adaptives Lebenszyklusmanagement, einschließlich automatischer Modellüberwachung, Revalidierung und gesetzlicher Berichterstattung.
Datenerfassung und -analyse Oftmals retrospektiv, basierend auf Überprüfungen der klinischen Literatur und Berichten über Zwischenfälle nach der Markteinführung. Datenerfassung in Echtzeit oder nahezu in Echtzeit, was eine fortschrittliche Überwachungsinfrastruktur und Compliance erfordert.

Bei herkömmlichen softwarebasierten Medizinprodukten gewährleistet PMCF die laufende Sicherheit, ist aber oft statisch und reaktiv. Im Gegensatz dazu erfordern KI-gesteuerte Medizinprodukte einen proaktiven und dynamischen PMCF-Ansatz, da sie auf sich entwickelnde reale Daten angewiesen sind. Ohne kontinuierliche Überwachung riskieren KI-Modelle eine Leistungsverschlechterung, die Einführung von Verzerrungen und potenzielle Patientenschäden, was PMCF zu einer regulatorischen und ethischen Notwendigkeit macht.

Schluss­fol­ge­rung

Um die Ein­hal­tung der MDR und des KI-Ge­set­zes zu gewährleisten, müssen KI-ge­steu­er­te Me­di­zin­pro­duk­te ein ri­go­ro­ses Da­ten­ma­nage­ment, eine Lebenszyklusüberwachung und eine kon­ti­nu­ier­li­che PMCF um­fas­sen. Durch die Einführung von KI-spe­zi­fi­schen Qualitätsmanagementverfahren können Her­stel­ler si­cher­stel­len, dass ihre Geräte während ihres gesamten Le­bens­zy­klus sicher, effektiv und ge­set­zes­kon­form blei­ben.

In dem Maße, in dem sich der Einsatz von KI in Me­di­zin­pro­duk­ten wei­ter­ent­wi­ckelt, wird eine struk­tu­rier­te und pro­ak­ti­ve Re­gu­lie­rungs­stra­te­gie von ent­schei­den­der Be­deu­tung sein, um ein Gleich­ge­wicht zwischen In­no­va­ti­on, Pa­ti­en­ten­si­cher­heit und Gesetzeskonformität her­zu­stel­len.

CE-Kenn­zeich­nung gemäß der Ver­ord­nung MDR (EU) 2017/745

Haben Sie Fragen zur Er­lan­gung der CE-Kenn­zeich­nung in Europa für Ihr Me­di­zin­pro­dukt gemäß der Ver­ord­nung MDR (EU) 2017/745? Wenden Sie sich an uns, um weitere In­for­ma­tio­nen und Unterstützung zu er­hal­ten.

Contact us!
Autor
Dr. Andrei Ninu

Dr. Andrei Ninu ist ein sehr er­fah­re­ner Re­gu­lie­rungs­exper­te, der sich auf aktive Me­di­zin­pro­duk­te spe­zia­li­siert hat, mit einem starken Fokus auf Funk­ti­ons- und Soft­ware­si­cher­heit sowie auf An­wen­dun­gen der künstlichen In­tel­li­genz (KI) im Ge­sund­heits­we­sen. Er verfügt über um­fas­sen­des Fach­wis­sen über die Ein­hal­tung von EU-Vor­schrif­ten, ins­be­son­de­re über Zer­ti­fi­zie­rungs- und Konformitätsbewertungsprozesse für Her­stel­ler von Me­di­zin­pro­duk­ten.

Ne­ben seinem Fach­wis­sen im Bereich der Re­gu­lie­rung verfügt Dr. Ninu über mehr als ein Jahr­zehnt prak­ti­scher Er­fah­rung in der Soft­ware­ent­wick­lung. Er hat die Ent­wick­lung von KI-Sys­te­men im Ge­sund­heits­we­sen und deren trans­for­ma­ti­ve Aus­wir­kun­gen auf die Me­di­zin­tech­nik aus erster Hand mit­er­lebt.

Sein aka­de­mi­scher Hin­ter­grund umfasst einen Mas­ter-Ab­schluss in Kon­troll­sys­te­men und Robotik sowie ein Doktorat in In­for­ma­tik/Bio­me­di­zin­tech­nik an der Tech­ni­schen Universität Wien, wo er sich auf die Mensch-Ma­schi­ne-In­ter­ak­ti­on in der Re­ha­bi­li­ta­ti­on kon­zen­trier­te. Er ver­tief­te diesen Bereich während seiner Post­doc-For­schung an der Universitätsklinik Göttingen, wo er sich auf die robotergestützte Re­ha­bi­li­ta­ti­on spe­zia­li­sier­te.

Re­le­van­te Artikel und Ver­an­stal­tun­gen

Das könnte Sie auch in­ter­es­sie­ren.
Blog
UK PMS 3

Bri­ti­sche PMS-Vor­schrif­ten für Me­di­zin­pro­duk­te: Teil 3 - Bri­ti­sche PMS-Vor­schrif­ten im Ver­gleich zur EU MDR

Weiterlesen
Blog
UK PMS 2

UK PMS-Vor­schrif­ten für Me­di­zin­pro­duk­te: Teil 2 - Vi­gi­lanz- und Mel­de­an­for­de­run­gen

Weiterlesen
Blog
UK PMS 1

UK PMS-Ver­ord­nun­gen für Me­di­zin­pro­duk­te: Teil 1 - Über­blick und Haupt­an­for­de­run­gen

Weiterlesen

Sie haben Fragen?

Wir sind für Sie da.
Kontaktieren Sie uns