MED AI in Medical Devices Meeting EU Compliance with AI Act and MDR

AI u medicinskim uređajima: EU usklađenost sa Zakonom o AI i MDR

Andrei Dr. Ninu

Regulatorni stručnjak za aktivne medicinske uređaje

apr 02 , 2025

Brzo usvajanje usmjetne inteligencije (AI) u više industrija dovelo je do uvođenja Zakona o umjetnoj inteligenciji (EU 2024/1689), sveobuhvatnog regulatornog okvira dizajniranog da odgovori na rizike povezane sa AI tehnologijama. Za razliku od propisa specifičnih za industriju, Zakon o AI se široko primjenjuje, pokrivajući različite sektore, uključujući zdravstvenu zaštitu i AI u medicinskim uređajima.

Za proizvođače medicinskih uređaja, usklađenost se sada proteže dalje od Uredbe o medicinskim uređajima (MDR) (EU 2017/745) i uključuje Zakon o umjetnoj inteligenciji. Tamo gdje postoji više zakona, postoje potencijalna regulatorna preklapanja. MDR naglašava sigurnost pacijenata, kliničku učinkovitost i upravljanje rizikom – principe koji su u skladu s pristupom upravljanja umjetnom inteligencijom zasnovanom na riziku Zakona o umjetnoj inteligenciji. S obzirom na ove zajedničke ciljeve, integracija zahtjeva vezanih za umjetnu inteligenciju u postojeći sistem upravljanja kvalitetom (QMS) je i praktična i korisna.

Prepoznajući ovu potrebu, član 17. Zakona o umjetnoj inteligenciji izričito dozvoljava integraciju zahtjeva QMS-a specifičnih za umjetnu inteligenciju u postojeće sektorske okvire, navodeći:

"Pružaoci visokorizičnih AI sistema koji podliježu obavezama u pogledu sistema upravljanja kvalitetom ili ekvivalentne funkcije prema relevantnom sektorskom pravu Unije mogu uključiti aspekte navedene u stavku 1. kao dio sistema upravljanja kvalitetom u skladu s tim zakonom."

Ovaj rad istražuje ključne sličnosti i razlike između Zakona o MDR-u i AI Zakona, fokusirajući se na područja kao što su upravljanje podacima, procesi životnog ciklusa, kliničko praćenje nakon puštanja na tržište (PMCF) i usklađenost s propisima. Kroz ovaj pristup, proizvođači medicinskih uređaja mogu efikasno ugraditi usklađenost sa umjetnom inteligencijom u svoj QMS, osiguravajući usklađenost propisa i sigurnost pacijenata.

Podaci kao "sirovina" u medicinskim uređajima napajanim umjetnom inteligencijom: Regulatorna perspektiva

U medicinskim uređajima vođenim umjetnom inteligencijom podaci su temeljni ulaz — uporedivi sa sirovinama u tradicionalnoj proizvodnji uređaja. Baš kao što MDR zahtijeva potpunu sljedivost materijala kako bi se osigurala biokompatibilnost, strukturni integritet i ukupna sigurnost, AI modeli moraju biti razvijeni na dobro okarakteriziranim, validiranim i sljedivim skupovima podataka.

Prema MDR-u, sljedivost materijala štiti performanse uređaja i sigurnost pacijenata. U kontekstu AI, sljedivost skupa podataka je jednako kritična – utiče na performanse modela, kliničku valjanost i regulatornu prihvatljivost.

Ova analogija služi da istakne potrebu za strukturiranim okvirima upravljanja podacima u razvoju AI sistema. Sljedeća tabela povlači paralele između principa sljedivosti MDR materijala i zahtjeva za upravljanje podacima AI.

Međutim, imajte na umu da skupovi AI podataka također podliježu jedinstvenim zahtjevima - kao što su pravičnost i nediskriminacija, koji se protežu izvan tradicionalnih MDR razmatranja.

Aspect	MDR Requirement	AI Requirement
Source Identification	Every material used in a device must be fully traceable to a documented origin.	Every AI training data must be fully traceable to a documented origin (e.g., hospital databases, clinical trials, and publicly available datasets).
Certification	Raw materials must meet safety and performance standards.	Data must be validated for accuracy, completeness, and relevance (e.g., ensuring AI is trained, validated, and tested on clinically relevant data).
Properties Documentation	The chemical, mechanical, and biocompatibility properties must be recorded for each material.	AI datasets must document data diversity, demographic representation, and statistical biases to ensure fairness.
Change Management	Any modification to materials must be tested and documented.	Any change in training datasets (e.g., adding new patient populations) must be evaluated for impact on AI model performance.
Safety Testing, Bias and Risk Assessment	Materials must be tested to ensure no adverse biological effects.	AI datasets must be assessed for biases, data gaps, and errors to prevent unreliable or discriminatory outputs.

Upravljanje životnim ciklusom uređaja vođenih umjetnom inteligencijom u odnosu na tradicionalne medicinske uređaje

Životni ciklus softvera je kritičan regulatorni aspekt i za tradicionalne medicinske uređaje zasnovane na softveru (SW-MD) i medicinske uređaje vođene AI (AI-MD). Iako oba zahtijevaju strukturirani razvoj, transparentnost i sljedivost, AI u medicinskim uređajima predstavlja jedinstvene izazove zbog prirode AI modela.

Aspect	Traditional Software-Based Medical Devices (SW-MDs)	AI-Driven Medical Devices (AI-MDs)
Traceability	Software code and requirements must be fully documented and version-controlled.	AI model architecture, training steps, datasets and all processing steps must be documented and version-controlled.
Reproducibility	Deterministic: Given the same inputs, the software always produces the same output.	Probabilistic: AI models generate outputs based on learned patterns, leading to slight variations in results.
Performance Stability	Remains stable unless explicitly updated.	May degrade over time due to data drift, requiring ongoing monitoring.
Change Management	Follows structured version control and regression testing before deployment.	AI models require continuous retraining and revalidation to maintain accuracy.
Verification & Validation (V&V)	Ensures software functions correctly and meets requirements.	AI V&V includes dataset validation, bias assessment, and stress testing for edge cases.

Da bi se uskladili sa MDR principima, sistemi zasnovani na AI moraju usvojiti:

Strukturirani AI procesi obuke, validacije i testiranja kako bi se osigurala ponovljivost i dosljednost performansi.
Sveobuhvatna dokumentacija koja omogućava da se medicinski uređaj pokretan umjetnom inteligencijom obnovi samo iz dokumentacije uz zadržavanje predviđenih performansi.
Praćenje nakon puštanja na tržište radi otkrivanja pomaka u performansama, predrasuda i neželjenih ishoda.

Kliničko praćenje nakon puštanja na tržište (PMCF) za medicinske uređaje vođene umjetnom inteligencijom

PMCF je regulatorni zahtjev prema MDR-u (EU 2017/745), koji osigurava da medicinski uređaji održavaju sigurnost i djelotvornost nakon ulaska na tržište. Dok tradicionalni uređaji sa stabilnom tehnologijom možda neće zahtijevati kontinuirani PMCF, AI u medicinskim uređajima zahtijeva kontinuirano praćenje zbog njihovog oslanjanja na evoluirajuće podatke iz stvarnog svijeta.

Aspect	SW-MDs	AI-MDs
Need for Continuous PMCF	Often limited for well-established, stable technologies that do not change post-deployment.	Essential, as AI models are highly dependent on real-world data, which may differ from training data.
Performance Stability	Remains stable unless explicitly updated with new software versions.	May degrade over time due to data drift, requiring ongoing monitoring and recalibration.
Risk of Unanticipated Behavior	Low risk if premarket testing is comprehensive and software remains unchanged.	High risk, as AI models trained on historical datasets may not generalize well to unseen real-world data.
Key Monitoring Focus	Primarily focused on bug fixes, cybersecurity risks, and software reliability.	Includes performance drift, bias detection, real-world accuracy, and unintended clinical risks.
Regulatory Expectation for PMCF	Periodic updates based on reported issues, user feedback, and adverse event reports.	Requires continuous real-world performance assessment, data-driven updates, and retraining validation.
Approach to Risk Mitigation	Patch updates, security fixes, and periodic revalidation if major changes occur.	Adaptive lifecycle management, including automated model monitoring, revalidation, and regulatory reporting.
Data Collection & Analysis	Often retrospective, based on clinical literature reviews and post-market incident reports.	Real-time or near-real-time data collection, requiring advanced monitoring infrastructure and compliance.

Za tradicionalne medicinske uređaje zasnovane na softveru, PMCF osigurava stalnu sigurnost, ali je često statičan i reaktivan. Nasuprot tome, medicinski uređaji vođeni umjetnom inteligencijom zahtijevaju proaktivan i dinamičan PMCF pristup zbog njihovog oslanjanja na evoluirajuće podatke iz stvarnog svijeta. Bez stalnog praćenja, AI modeli rizikuju degradaciju performansi, uvođenje pristrasnosti i potencijalnu štetu pacijentu – što PMCF čini regulatornom i etičkom neophodnošću.

Zaključak

Da bi se osigurala usklađenost sa Zakonom o MDR i AI, medicinski uređaji vođeni umjetnom inteligencijom moraju integrisati rigorozno upravljanje podacima, praćenje životnog ciklusa i kontinuirani PMCF. Usvajanjem praksi upravljanja kvalitetom specifičnim za umjetnu inteligenciju, proizvođači mogu osigurati da njihovi uređaji ostanu sigurni, učinkoviti i usklađeni sa propisima tokom njihovog životnog ciklusa.

Kako se upotreba umjetne inteligencije u medicinskim uređajima razvija, strukturirana i proaktivna regulatorna strategija bit će kritična za balansiranje između inovacija i sigurnosti pacijenata i zakonske usklađenosti.

CE oznaka prema Uredbi MDR (EU) 2017/745

Imate li pitanja o dobijanju CE oznake u Evropi za vaš medicinski uređaj prema Uredbi MDR (EU) 2017/745? Obratite nam se za više informacija i pomoći.

Kontaktirajte nas!

Autor

Andrei Dr. Ninu

Dr. Andrei Ninu je visoko iskusan regulatorni stručnjak specijaliziran za aktivne medicinske uređaje, sa jakim fokusom na funkcionalnu i softversku sigurnost, kao i aplikacije umjetne inteligencije (AI) u zdravstvu. Ima opsežnu ekspertizu u usklađivanju sa propisima EU, posebno u procesima certifikacije i ocjenjivanja usklađenosti za proizvođače medicinskih uređaja.

Osim svoje regulatorne ekspertize, dr. Ninu donosi više od decenije praktičnog iskustva u razvoju softvera, budući da je iz prve ruke svjedočio evoluciji AI sistema u zdravstvu i njihovom transformativnom utjecaju na medicinsku tehnologiju.

Njegovo akademsko obrazovanje uključuje magisterij iz upravljačkih sistema i robotike i doktorat iz računarskih nauka/biomedicinskog inženjerstva na Tehnološkom univerzitetu u Beču, gdje se fokusirao na interakciju čovjeka i mašine u rehabilitaciji. Dalje je unaprijedio ovu oblast tokom svog postdoktorskog istraživanja na Univerzitetskom medicinskom centru Göttingen, specijalizirajući se za rehabilitaciju uz pomoć robota.