Управління з санітарного нагляду за якістю харчових продуктів і медикаментів США (FDA) нещодавно випустило проєкт настанови під назвою "Функції програмного забезпечення пристроїв зі штучним інтелектом: Управління життєвим циклом і рекомендації щодо подання маркетингової інформації". Цей проект з'явився у вирішальний момент, коли штучний інтелект (ШІ) трансформує охорону здоров'я та медичні технології. На сьогоднішній день FDA схвалило понад 1 000 пристроїв зі штучним інтелектом, що підкреслює зростаючу роль штучного інтелекту в удосконаленні медичної допомоги пацієнтам. У керівництві FDA викладено основні міркування щодо проектування, розробки та постійного обслуговування медичних пристроїв зі штучним інтелектом, з акцентом на те, щоб ці технології залишалися безпечними та ефективними, вирішуючи при цьому унікальні завдання штучного інтелекту.
Ключові рекомендації з настанови FDA
Прозорість і документація
Важливим аспектом рекомендацій FDA є прозорість. FDA заохочує виробників чітко розкривати інформацію про те, як ШІ інтегрований у їхні продукти, надаючи деталі, включаючи тип використовуваної моделі, набори даних, що використовуються для розробки та перевірки, а також методи постійного оновлення та обслуговування.
Розробникам також рекомендується використовувати такі інструменти, як картки моделі, які є стислими документами, що надають основну інформацію про модель ШІ для покращення розуміння користувачами. Прозорість поширюється і на використовувані набори даних, вимагаючи від виробників включення демографічних даних і чіткого опису методів, що застосовуються для того, щоб система штучного інтелекту була застосовна до різних популяцій пацієнтів.
Крім того, FDA вимагає, щоб для більшості дозволених пристроїв було доступне публічне резюме. Ці резюме повинні містити достатньо деталей, щоб забезпечити прозорість і надати зацікавленим сторонам інформацію про дизайн, функціональність і валідацію моделі штучного інтелекту.
Вирішення проблеми упередженості в моделях штучного інтелекту
Упередженість пристроїв зі штучним інтелектом - одна з основних проблем, на яку звертається увага в проєкті настанови. ШІ-моделі можуть давати викривлені результати, якщо їх навчати на недостатніх або нерепрезентативних даних, що потенційно може поставити певні демографічні групи в невигідне становище. FDA рекомендує виробникам використовувати надійні набори даних для валідації, які точно відображають цільову аудиторію користувачів.
Виробникам рекомендується оцінювати продуктивність пристроїв у різних підгрупах, визначати методи збору даних і описувати стратегії для поліпшення різноманітності наборів даних. Це допоможе забезпечити надійну роботу пристроїв штучного інтелекту в різних популяціях пацієнтів і клінічних умовах, знизивши ризик отримання необ'єктивних результатів.
Постмаркетинговий моніторинг
З огляду на динамічну природу ШІ, існує ризик погіршення продуктивності з часом через зміну вхідних даних або контексту пристрою. У проекті настанови FDA підкреслюється важливість постмаркетингового моніторингу продуктивності для проактивного виявлення та усунення таких змін, які можуть вплинути на ефективність пристрою.
Хоча це не є обов'язковим для всіх пристроїв, плани постмаркетингового моніторингу є обов'язковими для пристроїв, які підпадають під певні регуляторні схеми. Ці плани повинні містити методи відстеження продуктивності, розгортання оновлень та впровадження коригувальних дій для підтримання безпеки та ефективності.
Заздалегідь визначені плани управління змінами (PCCP - Pre-Determined Change Control Plans)
Відповідно до попередніх рекомендацій, FDA підтримує використання PCCP для пристроїв зі штучним інтелектом. Ця система дозволяє виробникам покращувати характеристики пристрою після виходу на ринок без необхідності подавати нову заявку за умови, що зміни попередньо схвалені в рамках PCCP.
Відгуки громадськості та наступні кроки
FDA запрошує громадськість надати свої коментарі щодо проєкту настанови до 7 квітня 2025 року. Крім того, агентство планує провести вебінар 18 лютого 2025 року, щоб обговорити зміст документа. Такий відкритий підхід відображає прагнення FDA до співпраці із зацікавленими сторонами у формуванні нормативно-правового регулювання цифрових технологій у сфері охорони здоров'я.
З повним текстом проєкту можна ознайомитися тут.