Amerykańska Agencja ds. Żywności i Leków (FDA) opublikowała niedawno projekt wytycznych zatytułowany "Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submissions Recommendations". Projekt ten pojawia się w kluczowym momencie, ponieważ sztuczna inteligencja (AI) przekształca opiekę zdrowotną i technologię medyczną. Do tej pory FDA zatwierdziła ponad 1000 urządzeń obsługujących sztuczną inteligencję, podkreślając rosnącą rolę AI w rozwoju opieki nad pacjentami. Wytyczne FDA przedstawiają podstawowe kwestie dotyczące projektowania, rozwoju i bieżącej konserwacji urządzeń medycznych obsługujących sztuczną inteligencję, z naciskiem na zapewnienie, że technologie te pozostaną zarówno bezpieczne, jak i skuteczne, przy jednoczesnym sprostaniu wyjątkowym wyzwaniom związanym ze sztuczną inteligencją.
Kluczowe zalecenia zawarte w wytycznych FDA
Przejrzystość i dokumentacja
Ważnym aspektem wytycznych FDA jest przejrzystość. FDA zachęca producentów do wyraźnego ujawniania, w jaki sposób sztuczna inteligencja jest zintegrowana z ich produktami, podając szczegóły, w tym rodzaj zastosowanego modelu, zbiory danych wykorzystane do opracowania i walidacji oraz metody bieżących aktualizacji i konserwacji.
Deweloperzy są również zachęcani do korzystania z narzędzi takich jak karty modeli, które są zwięzłymi dokumentami zawierającymi istotne informacje o modelu sztucznej inteligencji w celu lepszego zrozumienia przez użytkownika. Przejrzystość rozciąga się na wykorzystywane zbiory danych, wymagając od producentów uwzględnienia danych demograficznych i jasnego opisu metod zastosowanych w celu zapewnienia, że system sztucznej inteligencji ma zastosowanie w różnych populacjach pacjentów.
Ponadto FDA wymaga, aby dla większości autoryzowanych urządzeń dostępne było publiczne podsumowanie. Podsumowania te powinny oferować wystarczającą ilość szczegółów, aby zapewnić przejrzystość i dostarczyć zainteresowanym stronom informacji na temat projektu, funkcjonalności i walidacji modelu AI.
Przeciwdziałanie stronniczości w modelach sztucznej inteligencji
Tendencyjność w urządzeniach wykorzystujących sztuczną inteligencję jest główną obawą podkreśloną w projekcie wytycznych. Modele AI mogą generować wypaczone wyniki, jeśli są szkolone na niewystarczających lub niereprezentatywnych danych, potencjalnie niekorzystnych dla niektórych grup demograficznych. FDA zaleca, aby producenci korzystali z solidnych zestawów danych walidacyjnych, które dokładnie odzwierciedlają zamierzoną populację użytkowników.
Producentom zaleca się ocenę wydajności urządzeń w różnych podgrupach, nakreślenie metod gromadzenia danych i opisanie strategii mających na celu poprawę różnorodności zbiorów danych. Pomaga to zapewnić, że urządzenia AI działają niezawodnie w różnych populacjach pacjentów i warunkach klinicznych, zmniejszając ryzyko stronniczych wyników.
Monitorowanie po wprowadzeniu na rynek
Biorąc pod uwagę dynamiczny charakter sztucznej inteligencji, istnieje ryzyko pogorszenia wydajności w czasie ze względu na zmiany danych wejściowych lub kontekstu urządzenia. Projekt wytycznych FDA podkreśla znaczenie monitorowania wydajności po wprowadzeniu do obrotu w celu proaktywnego identyfikowania i reagowania na takie zmiany, które mogą mieć wpływ na skuteczność urządzenia.
Chociaż nie jest to obowiązkowe dla wszystkich urządzeń, plany monitorowania po wprowadzeniu do obrotu są wymagane dla urządzeń w ramach niektórych ścieżek regulacyjnych. Plany te powinny określać metody śledzenia wydajności, wdrażania aktualizacji i wdrażania działań naprawczych w celu utrzymania bezpieczeństwa i skuteczności.
Wstępnie ustalone plany kontroli zmian (PCCP)
Zgodnie z wcześniejszymi wytycznymi, FDA wspiera stosowanie PCCP dla urządzeń wykorzystujących sztuczną inteligencję. Ramy te umożliwiają producentom poprawę wydajności urządzenia po wprowadzeniu go na rynek bez konieczności składania nowego wniosku, pod warunkiem, że zmiany zostały wcześniej zatwierdzone w ramach PCCP.
Opinia publiczna i kolejne kroki
FDA zaprasza do publicznego komentowania projektu wytycznych do 7 kwietnia 2025 roku. Ponadto agencja planuje zorganizować 18 lutego 2025 r. webinarium w celu omówienia treści dokumentu. To otwarte podejście odzwierciedla zaangażowanie FDA we współpracę z zainteresowanymi stronami w kształtowaniu przepisów dotyczących cyfrowych technologii medycznych.
Pełny projekt można przeczytać tutaj.