Die US-Arzneimittelbehörde FDA (Food and Drug Administration) hat kürzlich den Entwurf einer Leitlinie mit dem Titel "Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submissions Recommendations" veröffentlicht. Dieser Entwurf kommt zu einem entscheidenden Zeitpunkt, da die künstliche Intelligenz (KI) das Gesundheitswesen und die Medizintechnik verändert. Bis heute hat die FDA über 1.000 KI-fähige Geräte zugelassen, was die zunehmende Rolle der KI bei der Verbesserung der Patientenversorgung unterstreicht. Der Leitfaden der FDA umreißt wesentliche Überlegungen für das Design, die Entwicklung und die fortlaufende Wartung von KI-fähigen medizinischen Geräten, wobei der Schwerpunkt darauf liegt, sicherzustellen, dass diese Technologien sowohl sicher als auch effektiv bleiben und gleichzeitig die einzigartigen Herausforderungen der KI bewältigen.
Die wichtigsten Empfehlungen des FDA-Leitfadens
Transparenz und Dokumentation
Ein bemerkenswerter Aspekt der FDA-Leitlinien ist die Transparenz. Die FDA ermutigt die Hersteller, klar offenzulegen, wie KI in ihre Produkte integriert ist, und dabei Details wie die Art des verwendeten Modells, die für die Entwicklung und Validierung verwendeten Datensätze und die Methoden für laufende Aktualisierungen und Wartung anzugeben.
Die Entwickler werden auch aufgefordert, Tools wie Modellkarten zu verwenden, die als prägnante Dokumente wesentliche Informationen über ein KI-Modell enthalten, um das Verständnis der Benutzer zu verbessern. Die Transparenz erstreckt sich auch auf die verwendeten Datensätze, so dass die Hersteller demografische Details und eine klare Beschreibung der angewandten Methoden angeben müssen, um sicherzustellen, dass das KI-System auf verschiedene Patientengruppen anwendbar ist.
Darüber hinaus schreibt die FDA vor, dass für die meisten zugelassenen Produkte eine öffentliche Zusammenfassung verfügbar sein muss. Diese Zusammenfassungen sollten ausreichend detailliert sein, um Transparenz zu gewährleisten und den Beteiligten Informationen über das Design, die Funktionalität und die Validierung des KI-Modells zu liefern.
Umgang mit Verzerrungen in KI-Modellen
Verzerrungen in KI-gestützten Geräten sind ein wichtiges Anliegen, das im Entwurf der Leitlinien hervorgehoben wird. KI-Modelle können zu verzerrten Ergebnissen führen, wenn sie auf unzureichenden oder nicht repräsentativen Daten trainiert werden, wodurch bestimmte demografische Gruppen benachteiligt werden könnten. Die FDA empfiehlt den Herstellern, robuste Validierungsdatensätze zu verwenden, die die vorgesehene Nutzerpopulation genau widerspiegeln.
Den Herstellern wird empfohlen, die Geräteleistung in verschiedenen Untergruppen zu bewerten, die Methoden der Datenerfassung zu beschreiben und Strategien zur Verbesserung der Datensatzvielfalt zu erläutern. Auf diese Weise kann sichergestellt werden, dass KI-Geräte in verschiedenen Patientengruppen und klinischen Umgebungen zuverlässig funktionieren, wodurch das Risiko verzerrter Ergebnisse verringert wird.
Überwachung nach dem Inverkehrbringen
Angesichts des dynamischen Charakters von KI besteht das Risiko, dass sich die Leistung im Laufe der Zeit aufgrund von Änderungen der Eingabedaten oder des Gerätekontexts verschlechtert. Der Entwurf der FDA-Leitlinien unterstreicht die Bedeutung der Überwachung der Leistung nach dem Inverkehrbringen, um solche Veränderungen, die sich auf die Wirksamkeit des Produkts auswirken könnten, proaktiv zu erkennen und anzugehen.
Obwohl nicht für alle Produkte verpflichtend, sind Pläne zur Überwachung nach dem Inverkehrbringen für Produkte unter bestimmten Zulassungswegen erforderlich. In diesen Plänen sollten Methoden zur Verfolgung der Leistung, zur Bereitstellung von Aktualisierungen und zur Durchführung von Korrekturmaßnahmen zur Aufrechterhaltung der Sicherheit und Wirksamkeit beschrieben werden.
Vorbestimmte Änderungskontrollpläne (PCCP)
In Übereinstimmung mit früheren Leitlinien unterstützt die FDA die Verwendung von PCCPs für KI-gestützte Produkte. Dieser Rahmen ermöglicht es den Herstellern, die Leistung des Geräts nach der Markteinführung zu verbessern, ohne dass ein neuer Antrag gestellt werden muss, sofern die Änderungen im Rahmen des PCCP vorab genehmigt wurden.
Öffentliches Feedback und nächste Schritte
Die FDA bittet die Öffentlichkeit bis zum 7. April 2025 um Kommentare zum Entwurf der Leitlinien. Zusätzlich plant die Behörde, am 18. Februar 2025 ein Webinar zu veranstalten, um den Inhalt des Dokuments zu diskutieren. Dieser offene Ansatz spiegelt das Engagement der FDA für die Zusammenarbeit mit Interessengruppen bei der Ausarbeitung der Vorschriften für digitale Gesundheitstechnologien wider.
Sie können den vollständigen Entwurf hier lesen.