MED AI in Medical Devices Meeting EU Compliance with AI Act and MDR

Штучний інтелект у медичних пристроях: Відповідність вимогам Закону ЄС про штучний інтелект та MDR

Доктор Андрій Ніну

Експерт з регуляторних питань у сфері активних медичних пристроїв
квіт. 02 , 2025

Швидке впровадження штучного інтелекту (ШІ) в різних галузях призвело до прийняття Закону про штучний інтелект (EU 2024/1689) - всеосяжної нормативної бази, покликаної врегулювати ризики, пов'язані з технологіями ШІ. На відміну від галузевих нормативних актів, Закон про штучний інтелект застосовується в широкому сенсі, охоплюючи різні сектори, зокрема охорону здоров'я та застосування ШІ в медичних пристроях.

Для виробників медичних виробів дотримання вимог тепер виходить за рамки Регламенту щодо медичних виробів (MDR) (EU 2017/745) і включає в себе Закон про ШІ (AI Act). Там, де є кілька законодавчих актів, існує потенційний збіг у регулюванні. Регламент MDR наголошує на безпеці пацієнтів, клінічній ефективності та управлінні ризиками - принципах, які збігаються з ризик-орієнтованим підходом до управління ШІ, передбаченим Законом про ШІ. З огляду на ці спільні цілі, інтеграція вимог, пов'язаних зі штучним інтелектом, в існуючу систему управління якістю (СУЯ) є практичною і корисною.

Визнаючи цю необхідність, стаття 17 Закону про ШІ прямо дозволяє інтегрувати специфічні для ШІ вимоги СУЯ в існуючі галузеві рамки, зазначаючи

"Постачальники систем ШІ з високим ступенем ризику, на яких поширюються зобов'язання щодо систем управління якістю або еквівалентні функції згідно з відповідним галузевим законодавством Союзу, можуть включати аспекти, перелічені в параграфі 1, як частину систем управління якістю згідно з цим законодавством".

У цьому документі досліджуються ключові подібності та відмінності між MDR та Закон про ШІ, зосереджуючи увагу на таких сферах, як управління даними, процеси життєвого циклу, постмаркетинговий клінічний нагляд (PMCF) та відповідність нормативним вимогам. Завдяки такому підходу виробники медичних виробів можуть ефективно інтегрувати вимоги щодо штучного інтелекту у свої системи управління якістю, забезпечуючи як відповідність нормативним вимогам, так і безпеку пацієнтів.

Дані як "сировина" для медичних виробів зі штучним інтелектом: Регуляторна перспектива


У медичних пристроях зі штучним інтелектом дані є основною вхідною інформацією, яку можна порівняти з сировиною у традиційному виробництві пристроїв. Так само, як MDR вимагає повного відстеження матеріалів для забезпечення біосумісності, структурної цілісності та загальної безпеки, ШІ-моделі повинні розроблятися на основі добре охарактеризованих, перевірених і відстежуваних наборів даних.

Згідно з MDR, простежуваність матеріалів гарантує продуктивність пристрою і безпеку пацієнта. У контексті ШІ простежуваність наборів даних є дуже важливою, бо це впливає на продуктивність моделі, її клінічну валідність і регуляторну прийнятність.

Ця аналогія підкреслює необхідність створення структурованих систем управління даними при розробці систем ШІ. У наступній таблиці наведено паралелі між принципами простежуваності матеріалів з MDR і вимогами до управління даними ШІ.

Однак зверніть увагу, що до наборів даних ШІ також висуваються унікальні вимоги, такі як справедливість і недискримінація, які виходять за рамки традиційних міркувань щодо MDR.

Аспект Вимога MDR Вимога до ШІ
Ідентифікація джерела Кожен матеріал, що використовується в пристрої, повинен повністю відстежуватися до задокументованого походження. Усі навчальні дані ШІ повинні мати документально підтверджене походження (наприклад, бази даних лікарень, клінічні випробування та загальнодоступні набори даних).
Сертифікація Сировина повинна відповідати стандартам безпеки та продуктивності. Дані повинні бути перевірені на точність, повноту та релевантність (наприклад, забезпечення навчання, валідації та тестування ШІ на клінічно значущих даних).
Документація щодо властивостей Хімічні, механічні властивості та біосумісність повинні бути записані для кожного матеріалу. Набори даних ШІ повинні документувати різноманітність даних, демографічну репрезентативність і статистичні похибки для забезпечення об'єктивності.
Управління змінами Будь-яка модифікація матеріалів повинна бути протестована і задокументована. Будь-які зміни в навчальних наборах даних (наприклад, додавання нових популяцій пацієнтів) повинні бути оцінені на предмет впливу на продуктивність моделі ШІ.
Тестування безпеки, упередженість та оцінка ризиків Матеріали повинні бути протестовані на відсутність несприятливих біологічних ефектів. Набори даних ШІ повинні бути оцінені на предмет упередженості, прогалин у даних і помилок, щоб запобігти отриманню ненадійних або дискримінаційних результатів.

 

Управління життєвим циклом медичних пристроїв, керованих ШІ, у порівнянні з традиційними

Життєвий цикл програмного забезпечення є важливим регуляторним аспектом як для традиційних програмних медичних пристроїв (SW-MDs - Software as a Medical Device), так і для медичних пристроїв, керованих штучним інтелектом (AI-MDs - Artificial Intelligence Medical Devices, або ШІ-МП). Хоча і ті, і інші вимагають структурованої розробки, прозорості та відстежуваності, ШІ в медичних пристроях створює унікальні виклики через природу моделей ШІ.

Аспект Традиційні програмні медичні пристрої (SW-MD) Медичні пристрої на основі штучного інтелекту (AI-MDs)
Відстежуваність Програмний код і вимоги повинні бути повністю задокументовані і контролюватися версіями. Архітектура моделі ШІ, етапи навчання, набори даних і всі етапи обробки повинні бути задокументовані і контролюватися версіями.
Відтворюваність Детермінована: За однакових вхідних даних програмне забезпечення завжди видає однакові результати. Імовірнісна: Моделі ШІ генерують результати на основі вивчених шаблонів, що призводить до незначних відхилень у результатах.
Стабільність роботи Залишається стабільною, якщо явно не оновлюється. Може погіршуватися з часом через дрейф даних, що вимагає постійного моніторингу.
Управління змінами Дотримується структурованого контролю версій і регресійного тестування перед розгортанням. Моделі ШІ потребують постійного перенавчання та повторної перевірки для підтримки точності.
Верифікація та валідація (V&V) Забезпечує правильну роботу програмного забезпечення та його відповідність вимогам. Верифікація та валідація ШІ включає перевірку наборів даних, оцінку зсуву та стрес-тестування для граничних випадків.

 

Щоб відповідати принципам MDR, системи на основі штучного інтелекту повинні адаптуватися:

  • Структуровані процеси навчання, валідації та тестування ШІ для забезпечення відтворюваності та узгодженості продуктивності.
  • Вичерпна документація, яка дозволяє відновити медичний пристрій, керований ШІ, лише на основі документації, зберігаючи його заплановану продуктивність.
  • Постмаркетинговий моніторинг для виявлення відхилень у продуктивності, упереджень та непередбачуваних результатів.

Постмаркетинговий клінічний супровід (PMCF) для медичних пристроїв зі штучним інтелектом

PMCF - це регуляторна вимога згідно з MDR (EU 2017/745), яка гарантує, що медичні пристрої зберігають безпеку та ефективність після виходу на ринок. У той час як традиційні пристрої зі стабільною технологією можуть не потребувати постійного моніторингу PMCF, ШІ в медичних пристроях вимагає постійного моніторингу через їхню залежність від реальних даних, що постійно змінюються.

Аспект SW-MDs ШР-МД
Потреба в безперервній ПВОК Часто обмежена для добре відпрацьованих, стабільних технологій, які не змінюються після розгортання. Важливо, оскільки моделі ШІ сильно залежать від реальних даних, які можуть відрізнятися від навчальних даних.
Стабільність продуктивності Залишається стабільною, якщо явно не оновлюється новими версіями програмного забезпечення. Може погіршуватися з часом через дрейф даних, що вимагає постійного моніторингу та повторного калібрування.
Ризик непередбачуваної поведінки Низький ризик, якщо передпродажне тестування є всебічним і програмне забезпечення залишається незмінним. Високий ризик, оскільки моделі ШІ, навчені на історичних наборах даних, можуть погано узагальнювати невидимі реальні дані.
Основний фокус моніторингу Основна увага приділяється виправленню помилок, ризикам кібербезпеки та надійності програмного забезпечення. Включає дрейф продуктивності, виявлення упередженості, реальну точність і непередбачувані клінічні ризики.
Регуляторні очікування щодо PMCF Періодичні оновлення на основі повідомлень про проблеми, відгуків користувачів та звітів про несприятливі події. Потребує безперервної оцінки реальної ефективності, оновлень на основі даних та валідації перепідготовки.
Підхід до зменшення ризиків Оновлення патчів, виправлення безпеки та періодична повторна перевірка, якщо відбуваються значні зміни. Адаптивне управління життєвим циклом, включаючи автоматизований моніторинг моделі, повторну перевірку та звітність для регуляторних органів.
Збір та аналіз даних Часто ретроспективний, на основі оглядів клінічної літератури та звітів про постмаркетингові інциденти. Збір даних у режимі реального часу або близькому до реального часу, що вимагає розвиненої інфраструктури моніторингу та дотримання нормативних вимог.

Для традиційних програмних медичних пристроїв PMCF забезпечує постійну безпеку, але часто є статичною і реактивною. На відміну від них, медичні пристрої, керовані ШІ, вимагають проактивного і динамічного підходу PMCF через їхню залежність від реальних даних, що постійно змінюються. Без постійного моніторингу ШІ-моделі ризикують погіршити свої характеристики, внести упередженість і потенційно завдати шкоди пацієнту, що робить PMCF регуляторною та етичною необхідністю.

Висновок

Щоб забезпечити відповідність Закону про MDR та AI, медичні пристрої на основі ШІ повинні інтегрувати суворе управління даними, моніторинг життєвого циклу та безперервний PMCF. Впроваджуючи специфічні для ШІ методи управління якістю, виробники можуть гарантувати, що їхні пристрої залишатимуться безпечними, ефективними та відповідатимуть нормативним вимогам протягом усього їхнього життєвого циклу.


З розвитком використання ШІ в медичних пристроях структурована і проактивна регуляторна стратегія буде мати вирішальне значення для забезпечення балансу між інноваціями, безпекою пацієнтів і дотриманням законодавства.

Маркування CE відповідно до Регламенту MDR (ЄС) 2017/745

У вас є питання щодо отримання європейського маркування CE для вашого медичного виробу відповідно до Регламенту MDR (ЄС) 2017/745? Зверніться до нас за додатковою інформацією та допомогою.

Contact us!
Автор

Доктор Андрій Ніну

Доктор Андрій Ніну - досвідчений експерт з регуляторних питань, що спеціалізується на активних медичних пристроях, з особливим акцентом на функціональній та програмній безпеці, а також застосуванні штучного інтелекту (ШІ) в охороні здоров'я. Він має великий досвід у дотриманні нормативних вимог ЄС, зокрема, у процесах сертифікації та оцінки відповідності для виробників медичних виробів.

Окрім регуляторної експертизи, доктор Ніну має більш ніж десятирічний практичний досвід розробки програмного забезпечення, оскільки він був безпосереднім свідком еволюції систем штучного інтелекту в охороні здоров'я та їх трансформаційного впливу на медичні технології.

Він отримав ступінь магістра в галузі систем управління та робототехніки, а також ступінь доктора філософії в галузі комп'ютерних наук/біомедичної інженерії у Віденському технологічному університеті, де він займався питаннями людино-машинної взаємодії в реабілітації. Він продовжив розвивати цю сферу під час свого постдокторського дослідження в Університетському медичному центрі Геттінгена, спеціалізуючись на реабілітації за допомогою роботів.

Відповідні статті та події

Вас це також може зацікавити
Блог

Закон про штучний інтелект і медичне обладнання на базі ШІ: сучасний стан регулювання

Детальніше
Блог

Оновлення EU MDR: Опубліковано нові гармонізовані стандарти згідно з Імплементаційним рішенням (ЄС) 2026/193

Детальніше
Блог

Внутрішні аудити ISO 13485: від зобов'язання до стратегічної цінності

Детальніше