Americký úrad pre kontrolu potravín a liečiv (FDA) nedávno zverejnil návrh usmernenia s názvom "Softvérové funkcie zariadení využívajúcich umelú inteligenciu: Odporúčania týkajúce sa riadenia životného cyklu a predkladania na trh". Tento návrh prichádza v rozhodujúcom čase, keďže umelá inteligencia (AI) mení zdravotnú starostlivosť a zdravotnícke technológie. K dnešnému dňu úrad FDA povolil viac ako 1 000 zariadení s podporou umelej inteligencie, čo zdôrazňuje rastúcu úlohu umelej inteligencie pri zlepšovaní starostlivosti o pacientov. V usmernení FDA sa uvádzajú základné aspekty návrhu, vývoja a priebežnej údržby zdravotníckych pomôcok s podporou AI so zameraním na zabezpečenie toho, aby tieto technológie zostali bezpečné a účinné a zároveň riešili jedinečné výzvy spojené s AI.
Kľúčové odporúčania z usmernenia FDA
Transparentnosť a dokumentácia
Pozoruhodným aspektom usmernenia FDA je transparentnosť. FDA vyzýva výrobcov, aby jasne zverejnili, ako je UI integrovaná do ich výrobkov, a poskytli podrobnosti vrátane typu použitého modelu, súborov údajov použitých na vývoj a validáciu a metód priebežnej aktualizácie a údržby.
Vývojári sú tiež vyzvaní, aby používali nástroje, ako sú karty modelov, čo sú stručné dokumenty, ktoré poskytujú základné informácie o modeli UI na zlepšenie porozumenia používateľom. Transparentnosť sa vzťahuje aj na použité súbory údajov, pričom od výrobcov sa vyžaduje, aby uvádzali demografické údaje a jasný opis použitých metód, aby sa zabezpečilo, že systém umelej inteligencie je použiteľný v rôznych skupinách pacientov.
Okrem toho FDA nariaďuje, že pre väčšinu autorizovaných pomôcok musí byť k dispozícii verejný súhrn. Tieto súhrny by mali ponúkať dostatok podrobností na zabezpečenie transparentnosti a poskytnúť zainteresovaným stranám informácie o návrhu, funkčnosti a validácii modelu UI.
Riešenie predpojatosti v modeloch umelej inteligencie
Predpojatosť v zariadeniach s umelou inteligenciou je hlavným problémom, na ktorý sa v návrhu usmernenia upozorňuje. Modely AI môžu priniesť skreslené výsledky, ak sú vyškolené na nedostatočných alebo nereprezentatívnych údajoch, čo môže znevýhodniť určité demografické skupiny. Úrad FDA odporúča výrobcom, aby používali robustné validačné súbory údajov, ktoré presne odrážajú predpokladanú populáciu používateľov.
Výrobcom sa odporúča posúdiť výkonnosť zariadenia v rôznych podskupinách, načrtnúť metódy zberu údajov a opísať stratégie na zlepšenie diverzity súborov údajov. Pomáha to zabezpečiť spoľahlivé fungovanie pomôcok s umelou inteligenciou v rôznych skupinách pacientov a klinických prostrediach, čím sa znižuje riziko skreslených výsledkov.
Monitorovanie po uvedení na trh
Vzhľadom na dynamickú povahu UI existuje riziko zhoršenia výkonu v priebehu času v dôsledku zmien vstupných údajov alebo kontextu pomôcky. V návrhu usmernenia FDA sa zdôrazňuje význam monitorovania výkonu po uvedení na trh s cieľom proaktívne identifikovať a riešiť takéto zmeny, ktoré by mohli ovplyvniť účinnosť pomôcky.
Hoci nie sú povinné pre všetky pomôcky, plány monitorovania po uvedení na trh sa vyžadujú pre pomôcky v rámci určitých regulačných postupov. V týchto plánoch by mali byť uvedené metódy sledovania výkonu, zavádzania aktualizácií a vykonávania nápravných opatrení na zachovanie bezpečnosti a účinnosti.
Plány kontroly vopred stanovených zmien (PCCP)
V súlade s predchádzajúcimi usmerneniami úrad FDA podporuje používanie PCCP pre pomôcky s umelou inteligenciou. Tento rámec umožňuje výrobcom zlepšiť výkonnosť pomôcky po jej uvedení na trh bez potreby nového predloženia za predpokladu, že zmeny sú vopred schválené v rámci PCCP.
Spätná väzba verejnosti a ďalšie kroky
Úrad FDA vyzýva verejnosť na predloženie pripomienok k návrhu usmernenia do 7. apríla 2025. Okrem toho agentúra plánuje 18. februára 2025 zorganizovať webinár, na ktorom sa bude diskutovať o obsahu dokumentu. Tento otvorený prístup odráža záväzok úradu FDA spolupracovať so zainteresovanými stranami pri tvorbe predpisov pre digitálne zdravotnícke technológie.
Celý návrh si môžete prečítať tu.