Američka uprava za hranu i lijekove (FDA) nedavno je objavila svoj nacrt smjernica pod naslovom "Funkcije softvera uređaja s podrškom za umjetnu inteligenciju: Upravljanje životnim ciklusom i preporuke za marketinške prijave". Ovaj nacrt dolazi u ključnom trenutku kada umjetna inteligencija (AI) transformira zdravstvenu zaštitu i medicinsku tehnologiju. Do danas, FDA je odobrila preko 1.000 uređaja sa AI-om, naglašavajući sve veću ulogu AI u unaprijeđenju brige o pacijentima. Smjernice FDA navode bitna razmatranja za dizajn, razvoj i tekuće održavanje medicinskih uređaja sa AI-om, s fokusom na osiguravanje da ove tehnologije ostanu sigurne i efikasne, dok se bave jedinstvenim izazovima AI.
Ključne preporuke FDA smjernica
Transparentnost i dokumentacija
Značajan aspekt smjernica FDA je transparentnost. FDA potiče proizvođače da jasno otkriju kako je umjetna inteligencija integrisana u njihove proizvode, pružajući detalje uključujući tip modela koji se koristi, skupove podataka koji se koriste za razvoj i validaciju, te metode za tekuće ažuriranje i održavanje.
Programeri se također pozivaju da koriste alate poput kartica modela, koje su sažeti dokumenti koji pružaju bitne informacije o AI modelu kako bi poboljšali razumijevanje korisnika. Transparentnost se proteže na skupove podataka koji se koriste, zahtijevajući od proizvođača da uključe demografske detalje i jasan opis metoda koje se koriste kako bi se osiguralo da je AI sistem primjenjiv na različite populacije pacijenata.
Dodatno, FDA nalaže da za većinu odobrenih uređaja javni sažetak mora biti dostupan. Ovi sažeci bi trebali ponuditi dovoljno detalja kako bi osigurali transparentnost i pružili sudionicima informacije o dizajnu, funkcionalnosti i validaciji AI modela.
Rješavanje pristranosti u AI modelima
Pristrasnost uređaja sa AI je glavna briga istaknuta u nacrtu smjernica. AI modeli mogu proizvesti iskrivljene rezultate ako su obučeni na nedovoljnim ili nereprezentativnim podacima, što potencijalno dovodi u nepovoljniji položaj određene demografske grupe. FDA preporučuje da proizvođači koriste robusne skupove podataka za validaciju koji tačno odražavaju željenu populaciju korisnika.
Proizvođačima se savjetuje da procijene performanse uređaja u različitim podgrupama, navedu metode prikupljanja podataka i opišu strategije za poboljšanje raznolikosti skupova podataka. Ovo pomaže da se osigura da AI uređaji rade pouzdano u različitim populacijama pacijenata i kliničkim okruženjima, smanjujući rizik od pristranih ishoda.
Praćenje tržišta
S obzirom na dinamičku prirodu AI, postoji rizik od degradacije performansi tokom vremena zbog promjena u ulaznim podacima ili kontekstima uređaja. FDA-ov nacrt smjernica naglašava važnost praćenja performansi tržišta kako bi se proaktivno identificirale i adresirale takve promjene koje bi mogle utjecati na učinkovitost uređaja.
Iako nisu obavezni za sve uređaje, planovi praćenja tržišta su potrebni za uređaje pod određenim regulatornim putevima. Ovi planovi bi trebali ocrtati metode za praćenje učinka, implementaciju ažuriranja i implementaciju korektivnih radnji za održavanje sigurnosti i efikasnosti.
Unaprijed određeni planovi kontrole promjena (PCCP)
U skladu sa prethodnim uputstvima, FDA podržava upotrebu PCCP-a za uređaje sa AI-om. Ovaj okvir omogućava proizvođačima da poboljšaju performanse uređaja nakon puštanja na tržište bez potrebe za novim podnošenjem, pod uslovom da su promjene unaprijed odobrene unutar PCCP-a.
Povratne informacije javnosti i sljedeći koraci
FDA poziva javne komentare na nacrt smjernica do 7. aprila 2025. Osim toga, agencija planira organizovati webinar 18. februara 2025. na kojem će se raspravljati o sadržaju dokumenta. Ovaj otvoreni pristup odražava predanost FDA-e saradnji sa sudionicima u oblikovanju propisa za digitalne zdravstvene tehnologije.
Možete pročitati kompletan nacrt ovdje.
DQS Bilten
Budite informisani i prijavite se na naš bilten!