Americký Úřad pro kontrolu potravin a léčiv (FDA) nedávno zveřejnil návrh pokynů s názvem "Softwarové funkce zařízení využívající umělou inteligenci: Doporučení pro řízení životního cyklu a předkládání návrhů na uvedení na trh". Tento návrh přichází v klíčové době, kdy umělá inteligence (AI) mění zdravotnictví a lékařské technologie. K dnešnímu dni úřad FDA povolil více než 1 000 zařízení s podporou umělé inteligence, což podtrhuje rostoucí roli umělé inteligence v rozvoji péče o pacienty. Pokyny FDA uvádějí zásadní hlediska pro návrh, vývoj a průběžnou údržbu zdravotnických prostředků s podporou AI se zaměřením na zajištění toho, aby tyto technologie zůstaly bezpečné a účinné a zároveň řešily jedinečné výzvy spojené s AI.
Loading...
Klíčová doporučení z pokynů FDA
Transparentnost a dokumentace
Pozoruhodným aspektem pokynů FDA je transparentnost. FDA vyzývá výrobce, aby jasně zveřejňovali, jakým způsobem je UI integrována do jejich výrobků, a poskytovali podrobnosti včetně typu použitého modelu, souborů dat použitých pro vývoj a validaci a metod pro průběžnou aktualizaci a údržbu.
Vývojáři jsou také vyzýváni, aby používali nástroje, jako jsou modelové karty, což jsou stručné dokumenty, které poskytují základní informace o modelu UI, aby uživatelé lépe porozuměli. Transparentnost se vztahuje i na použité datové soubory a vyžaduje, aby výrobci uváděli demografické údaje a jasný popis použitých metod, aby bylo zajištěno, že systém UI je použitelný v různých populacích pacientů.
Kromě toho úřad FDA nařizuje, že u většiny autorizovaných prostředků musí být k dispozici veřejný souhrn. Tyto souhrny by měly nabízet dostatečně podrobné informace, aby byla zajištěna transparentnost a aby zúčastněné strany měly k dispozici informace o návrhu, funkčnosti a validaci modelu UI.
Řešení předpojatosti v modelech UI
Předpojatost v zařízeních s umělou inteligencí je hlavním problémem, na který návrh pokynů upozorňuje. Modely AI mohou poskytovat zkreslené výsledky, pokud jsou vyškoleny na nedostatečných nebo nereprezentativních údajích, což může znevýhodňovat určité demografické skupiny. Úřad FDA doporučuje, aby výrobci používali robustní validační soubory dat, které přesně odrážejí zamýšlenou populaci uživatelů.
Výrobcům se doporučuje, aby posoudili výkonnost zařízení v různých podskupinách, nastínili metody sběru dat a popsali strategie pro zlepšení rozmanitosti souborů dat. To pomáhá zajistit spolehlivou funkčnost prostředků umělé inteligence v různých skupinách pacientů a klinických prostředích, čímž se snižuje riziko zkreslených výsledků.
Sledování po uvedení na trh
Vzhledem k dynamické povaze UI existuje riziko zhoršení výkonnosti v průběhu času v důsledku změn vstupních údajů nebo kontextu prostředku. Návrh pokynů úřadu FDA zdůrazňuje význam monitorování výkonnosti po uvedení na trh za účelem proaktivní identifikace a řešení takových změn, které by mohly ovlivnit účinnost prostředku.
Ačkoli to není povinné pro všechny prostředky, plány monitorování po uvedení na trh jsou vyžadovány pro prostředky v rámci určitých regulačních cest. Tyto plány by měly popisovat metody sledování výkonnosti, zavádění aktualizací a provádění nápravných opatření k zachování bezpečnosti a účinnosti.
Plány řízení předem stanovených změn (PCCP)
V souladu s předchozími pokyny úřad FDA podporuje používání PCCP pro prostředky s umělou inteligencí. Tento rámec umožňuje výrobcům zlepšit výkonnost prostředku po jeho uvedení na trh bez nutnosti nového předložení, pokud jsou změny předem schváleny v rámci PCCP.
Zpětná vazba veřejnosti a další kroky
Úřad FDA vyzývá veřejnost, aby se k návrhu pokynů vyjádřila do 7. dubna 2025. Kromě toho agentura plánuje uspořádat 18. února 2025 webinář, na kterém se bude diskutovat o obsahu dokumentu. Tento otevřený přístup odráží závazek úřadu FDA spolupracovat se zúčastněnými stranami při tvorbě předpisů pro digitální zdravotnické technologie.
Kompletní návrh si můžete přečíst zde.
.