Neovisni pregled DQS-a, akreditiranog certifikacijskog tijela.
ISO/IEC 42001 je međunarodni standard sustava upravljanja umjetnom inteligencijom (UI). Specificira zahtjeve za Sustav upravljanja umjetnom inteligencijom (AIMS) koji podržava odgovoran razvoj, implementaciju i korištenje UI sustava unutar organizacije. Standard se bavi upravljanjem, upravljanjem rizicima i kontinuiranim poboljšanjem UI aktivnosti, prepoznajući specifične karakteristike UI - uključujući ovisnost o podacima, kontinuirano učenje, očekivanja transparentnosti i utjecaje na ljude, organizacije i društvo.
Standard je relevantan za svaku organizaciju koja pruža, razvija ili koristi sustave umjetne inteligencije - u javnom sektoru, privatnom poduzeću i akademskoj zajednici. Kupci, regulatori, partneri u lancu opskrbe i javnost sve više očekuju dokumentirane dokaze da organizacije odgovorno upravljaju umjetnom inteligencijom. ISO/IEC 42001 pruža prvi međunarodno priznati okvir prema kojem se može procijeniti sustav upravljanja umjetnom inteligencijom.
Trenutačno izdanje je ISO/IEC 42001:2023, objavljeno u prosincu 2023. Budući da je standard relativno nov, broj certificiranih organizacija još uvijek raste, a akreditacijski krajolik - putem nacionalnih akreditacijskih tijela i akreditacijskih aranžmana koje priznaje IAF - postupno se gradi. ISO/IEC 42001 certifikat brzo postaje priznato sredstvo za organizacije da demonstriraju odgovorno upravljanje umjetnom inteligencijom u kontekstu Zakona EU o umjetnoj inteligenciji i drugih novih propisa i kodeksa prakse o umjetnoj inteligenciji.
Već razvijate ili implementirate AI sustave u svojoj organizaciji?
Ako vaša organizacija uspostavlja sustav upravljanja umjetnom inteligencijom temeljen na normi ISO 42001 i tražite partnera za certifikaciju, naša namjenska stranica za certifikaciju ima sve što vam je potrebno - od pregleda procesa do personalizirane ponude.
Što je ISO 42001, iz perspektive certifikacijskog tijela?
Iz perspektive certifikacijskog tijela, ISO/IEC 42001 je prvi certificirani standard sustava upravljanja za umjetnu inteligenciju. Akreditirano certifikacijsko tijelo procjenjuje sustav upravljanja umjetnom inteligencijom organizacije u odnosu na zahtjeve standarda putem neovisne, dvofazne revizije i, u slučaju sukladnosti, izdaje certifikat koji se zatim održava periodičnim nadzorom.
ISO/IEC 42001 slijedi Harmoniziranu strukturu koju koriste drugi ISO standardi sustava upravljanja, što ga čini kompatibilnim s ISO 9001 , ISO 27001 i ISO 14001 unutar integriranog sustava upravljanja. Certifikacija treće strane neovisni je dokaz sukladnosti i sve se više na nju oslanjaju kupci, regulatori i partneri u lancu opskrbe kao dokaz odgovornog upravljanja umjetnom inteligencijom. Standard se spominje u raspravama o politici o Zakon EU o umjetnoj inteligenciji , Kodeks prakse EU-a za opću namjenu umjetne inteligencije i drugi novi okviri.
Kao certifikacijsko tijelo, DQS procjenjuje i certificira sukladnost - ne dizajnira niti implementira vaš sustav upravljanja umjetnom inteligencijom. Ta neovisnost daje vrijednost certifikatu: organizacija gradi i pokreće sustav, a akreditirana treća strana ga provjerava u skladu sa standardom.
Ključne činjenice na prvi pogled
| Puni naziv | ISO/IEC 42001:2023 — Informacijska tehnologija — Umjetna inteligencija — Sustav upravljanja |
| Objavio/la | Međunarodna organizacija za normizaciju (ISO) i Međunarodna elektrotehnička komisija (IEC), putem zajedničkog tehničkog odbora ISO/IEC JTC 1/SC 42 (Umjetna inteligencija). |
| Prvi put objavljeno | Prosinac 2023. |
| Trenutna verzija | ISO/IEC 42001:2023 (prvo izdanje). Akreditacijske aranžmane i dalje razvijaju nacionalna akreditacijska tijela i putem aranžmana koje priznaje IAF. |
| Vrsta sustava upravljanja | Sustav upravljanja umjetnom inteligencijom (AIMS) |
| Primjenjivo na | Bilo koja organizacija koja pruža, razvija ili koristi AI sustave, bez obzira na veličinu, sektor ili geografiju - uključujući tijela javnog sektora, privatna poduzeća i akademsku zajednicu. |
| Certificirano | Da. Neovisna certifikacija treće strane od strane akreditiranog certifikacijskog tijela najšire je priznat oblik dokazivanja sukladnosti. |
| Struktura | Harmonizirana struktura (10 klauzula) plus Prilog A (referentni kontrolni ciljevi i kontrole za umjetnu inteligenciju), Prilog B (smjernice za implementaciju kontrola), Prilog C (organizacijski ciljevi i izvori rizika povezani s umjetnom inteligencijom) i Prilog D (upotreba u različitim domenama i sektorima). |
| Povezani standardi | ISO 27001 , ISO/IEC 23894, ISO/IEC 38507 |
Kontekst i pokretači
Uredba o umjetnoj inteligenciji i Zakon EU o umjetnoj inteligenciji
Javna i regulatorna očekivanja u vezi s umjetnom inteligencijom brzo su se intenzivirala. Zakon EU-a o umjetnoj inteligenciji (Uredba (EU) 2024/1689) uvodi horizontalni regulatorni okvir temeljen na riziku za sustave umjetne inteligencije stavljene na tržište EU-a, s postupnom primjenom do 2025. i 2026. godine. ISO/IEC 42001 sam po sebi ne osigurava usklađenost sa Zakonom o umjetnoj inteligenciji, ali njegov pristup sustavu upravljanja temeljen na riziku dobro je usklađen s očekivanjima zakona o upravljanju rizicima, transparentnosti i nadzoru, a ISO/IEC 42001 se široko spominje u raspravama o provedbi.
Očekivanja kupaca, lanca opskrbe i nabave
Organizacije koje pružaju proizvode ili usluge temeljene na umjetnoj inteligenciji sve češće su suočene s zahtjevima svojih kupaca i dobavljača da dokažu dokumentirano upravljanje umjetnom inteligencijom. Certifikacija ISO/IEC 42001 pruža tim organizacijama standardizirani način dokazivanja da odgovorno upravljaju sustavima umjetne inteligencije tijekom cijelog životnog ciklusa sustava - od dizajna i podataka, preko obuke, implementacije, praćenja i dekomisije.
Povjerenje, transparentnost i društveni utjecaj
Sustavi umjetne inteligencije djeluju u kontekstima u kojima su njihovi učinci na ljude, organizacije i društvo vidljivi i posljedični. ISO/IEC 42001 zahtijeva od organizacija da sustavno razmotre te utjecaje, podržava informirano donošenje odluka od strane vodstva i dionika te pruža dokumentiranu osnovu za upravljanje rizicima umjetne inteligencije uz ostvarenje prilika umjetne inteligencije.
Osnovni zahtjevi
Članak 4 - Kontekst organizacije
Definira vanjski i unutarnji kontekst relevantan za Sustav upravljanja umjetnom inteligencijom, uključujući dionike, regulatorno okruženje i granice Sustava upravljanja umjetnom inteligencijom (AIMS). Organizacije moraju uzeti u obzir specifične karakteristike sustava umjetne inteligencije u njihovom kontekstu, uključujući izvore podataka, namjeravanu upotrebu i razumno predvidljive zlouporabe.
Članak 5 - Vodstvo
Utvrđuje odgovornost višeg menadžmenta za AIMS, politiku umjetne inteligencije, organizacijske uloge i odgovornosti te integraciju upravljanja umjetnom inteligencijom u šire organizacijsko upravljanje. Predanost vodstva ključna je za odgovornu umjetnu inteligenciju.
Članak 6 - Planiranje
Obuhvaća upravljanje rizicima i prilikama, ciljeve umjetne inteligencije, planiranje promjena te procese procjene rizika i procjene utjecaja umjetne inteligencije. Prilog C pruža izvore rizika specifične za umjetnu inteligenciju koje treba uzeti u obzir; Prilog A i B pružaju kontrole specifične za umjetnu inteligenciju i smjernice za implementaciju.
Članak 7. - Podrška
Bavi se resursima, kompetencijom, sviješću, komunikacijom i dokumentiranim informacijama, uključujući specifične potrebe za kompetencijama i sviješću povezane s timovima za razvoj i implementaciju umjetne inteligencije.
Članak 8 - Rad
Specificira zahtjeve za operativno planiranje i kontrolu, uključujući obradu rizika umjetne inteligencije, procjenu utjecaja umjetne inteligencije, kontrole tijekom životnog ciklusa sustava umjetne inteligencije, upravljanje podacima i upravljanje dobavljačima i partnerima umjetne inteligencije.
Članak 9 - Evaluacija performansi
Obuhvaća praćenje, mjerenje, analizu i evaluaciju, interne revizije i pregled upravljanja, s posebnom pažnjom na praćenje performansi sustava umjetne inteligencije i kontinuirani pregled rizika umjetne inteligencije.
Članak 10. - Poboljšanje
Obuhvaća korektivne mjere i kontinuirano poboljšanje, uključujući učenje iz incidenata umjetne inteligencije i prilagođavanje kontrola kako se sustavi umjetne inteligencije i njihov kontekst razvijaju.
Prilog A i Prilog B — Referentne kontrole i smjernice
Prilog A navodi referentne kontrolne ciljeve i kontrole za AIMS; Prilog B daje smjernice za implementaciju. Zajedno pokrivaju politike za umjetnu inteligenciju, unutarnju organizaciju za umjetnu inteligenciju, resurse za sustave umjetne inteligencije, procjenu utjecaja, životni ciklus sustava umjetne inteligencije, podatke za umjetnu inteligenciju, informacije za dionike, korištenje sustava umjetne inteligencije te odnose s trećim stranama i kupcima.
Ciljne skupine i područja primjene
Norma ISO/IEC 42001 primjenjiva je na svaku organizaciju koja pruža, razvija ili koristi sustave umjetne inteligencije. Tipično područje primjene uključuje tehnološke tvrtke koje razvijaju proizvode i usluge umjetne inteligencije; organizacije u reguliranim sektorima (financijske usluge, zdravstvo, javna uprava) koje primjenjuju umjetnu inteligenciju u procesima donošenja odluka i operativnim procesima; tijela javnog sektora koja koriste umjetnu inteligenciju u pružanju usluga i provedbi politika; te organizacije u proizvodnji, logistici i potrošačkim uslugama koje koriste umjetnu inteligenciju u poslovanju.
Standard podržava informirane odluke upravnih odbora i izvršnih timova, funkcija upravljanja rizicima i usklađenosti, voditelja tehnologije i podataka te kupaca i partnera u nabavi. ISO/IEC 42001 certifikat pruža strukturiranu osnovu za demonstraciju odgovornog upravljanja umjetnom inteligencijom i za vjerodostojnu suradnju s regulatorima, kupcima i javnošću.
Organizacije koje su u ranoj fazi usvajanja umjetne inteligencije mogu koristiti ISO/IEC 42001 kao okvir za dizajniranje upravljanja umjetnom inteligencijom od samog početka. Organizacije sa zrelim aktivnostima umjetne inteligencije mogu koristiti standard za integraciju fragmentiranih praksi upravljanja umjetnom inteligencijom u jedinstveni, certificirani sustav upravljanja.
Povezani standardi
Usklađena struktura i integracija s drugim sustavima upravljanja
ISO/IEC 42001 slijedi Harmonizirana struktura koriste ga norme ISO 9001, ISO 27001, ISO 14001 i drugi standardi sustava upravljanja. Organizacije koje već koriste integrirani sustav upravljanja mogu proširiti svoje postojeće procese upravljanja, interne revizije, pregleda od strane uprave i poboljšanja kako bi uključile sustav upravljanja umjetnom inteligencijom.
ISO/IEC 42005 i procjena utjecaja umjetne inteligencije
Norma ISO/IEC 42005:2025 pruža sveobuhvatne smjernice za procjenu utjecaja sustava umjetne inteligencije na pojedince, skupine i društvo tijekom njihovog životnog ciklusa, budući da je to zahtjev za AIMS. Djeluje kao potporni standard za ISO/IEC 42001:2023, standard Sustava upravljanja umjetnom inteligencijom (AIMS), nudeći strukturirani pristup za procjenu, dokumentiranje i upravljanje potencijalnim štetama i koristima.
ISO 27001 i sigurnost informacija
Sustavi umjetne inteligencije uvelike ovise o podacima, a sigurnost informacija temeljni je element odgovorne umjetne inteligencije. Norma ISO/IEC 27001 specificira zahtjeve za sustav upravljanja sigurnošću informacija Norma ISO/IEC 42001 spominje sigurnost informacija kao dio kontrola za umjetnu inteligenciju, ali ne duplicira ISO 27001. Organizacije koje posjeduju ISO 27001 certifikat dobro su pozicionirani za proširenje svog sustava upravljanja na ISO/IEC 42001.
Smjernice za upravljanje rizicima umjetne inteligencije prema normi ISO/IEC 23894
Norma ISO/IEC 23894 pruža smjernice o upravljanju rizicima povezanim s umjetnom inteligencijom. To je dokument s uputama - a ne certificirani standard sustava upravljanja - i nadopunjuje ISO/IEC 42001 pružanjem detaljnijeg sadržaja o upravljanju rizicima koji organizacije mogu koristiti za operacionalizaciju zahtjeva norme ISO/IEC 42001.
ISO/IEC 38507 i implikacije upravljanja umjetnom inteligencijom
Norma ISO/IEC 38507 bavi se implikacijama umjetne inteligencije na upravljanje organizacijama i namijenjena je upravnim odborima i upravnim tijelima. To je smjernica koja nadopunjuje normu ISO/IEC 42001, a ne shema koja se može certificirati.
Zakon EU o umjetnoj inteligenciji i regulatorni kodeksi prakse
The Zakon EU o umjetnoj inteligenciji je primarni regulatorni okvir specifičan za umjetnu inteligenciju u EU i primjenjuje se u fazama do 2025. i 2026. godine. Uz zakon se razvijaju i kodeksi prakse za opću umjetnu inteligenciju, smjernice specifične za sektor i usklađeni standardi. ISO/IEC 42001 se široko spominje u tim raspravama i pruža priznatu referentnu točku sustava upravljanja za organizacije koje provode kontrole relevantne za Zakon o umjetnoj inteligenciji - ali certifikacija ISO/IEC 42001 nije formalno ekvivalentna usklađenosti sa Zakonom o umjetnoj inteligenciji.
Izgradite povjerenje u svoje AI sustave putem ISO 42001 certifikata
Vaša organizacija razvija ili implementira AI sustave i sada razmišljate o neovisnoj certifikaciji prema normi ISO 42001? Saznajte više na našoj stranici posvećenoj certifikaciji ISO 42001.
O DQS-u kao certifikacijskom tijelu
Ovaj članak dio je Centra znanja DQS-a, resursa o standardima sustava upravljanja i procesima certifikacije. Za kontekst o tome tko ga je napisao:
- Jedan od prvih njemačkih certifikatora sustava upravljanja — DQS izdao je svoj prvi certifikat ISO 9001 1986. godine i provodi audite i certifikate sustava upravljanja već više od 40 godina.
- Posluje iz više od 80 ureda u 60 zemalja s globalnom mrežom od više od 3000 revizori .
- Aktivno u ISO/IEC 42001 certifikat uz povezane standarde kao što su ISO 27001, ISO/IEC 27701 i ISO 9001 - tako da organizacije mogu dobiti usluge za umjetnu inteligenciju, informacijsku sigurnost i certifikaciju upravljanja kvalitetom od jednog pružatelja usluga.
- Član/ica IQNet , međunarodna mreža za certificiranje, koja podržava prekogranično priznavanje DQS certifikata.
Članke u ovom Centru znanja pišu i pregledavaju DQS stručnjaci koji rade s ovim standardima u revizijskoj praksi. Gdje je primjenjivo, sadržaj se provjerava u odnosu na trenutnu verziju standarda, službene publikacije tijela koje ga je izdalo i nedavne regulatorne ili akreditacijske smjernice. Ovaj je članak zadnji put pregledan 3. lipnja 2026.
Često postavljana pitanja o normi ISO 42001
Je li ISO 42001 obavezan?
Ne. ISO/IEC 42001 je dobrovoljni međunarodni standard. Međutim, kupci, regulatori i javnost sve više očekuju od organizacija koje razvijaju ili implementiraju sustave umjetne inteligencije da demonstriraju dokumentirano upravljanje umjetnom inteligencijom. Certifikacija prema normi ISO/IEC 42001 pruža strukturiran način dokazivanja takvog upravljanja.
Koja je trenutna verzija norme ISO 42001?
Trenutno objavljeno izdanje je ISO/IEC 42001:2023, objavljeno u prosincu 2023. To je prvo izdanje norme.
Znači li certifikacija ISO 42001 usklađenost sa Zakonom EU o umjetnoj inteligenciji?
Ne. Zakon EU o umjetnoj inteligenciji (Uredba (EU) 2024/1689) je regulatorni okvir koji se primjenjuje na sustave umjetne inteligencije stavljene na tržište EU, a primjenjuje se u fazama do 2025. i 2026. godine. ISO/IEC 42001 certifikat formalno nije ekvivalentan usklađenosti sa Zakonom o umjetnoj inteligenciji. Međutim, standard se široko smatra korisnim temeljem sustava upravljanja koji podržava organizacije u ispunjavanju mnogih očekivanja zakona u vezi s upravljanjem rizicima, transparentnošću i ljudskim nadzorom.
Kakav je odnos norme ISO 42001 i norme ISO 27001?
Norma ISO/IEC 27001 specificira zahtjeve za sustav upravljanja sigurnošću informacija i strukturirana je oko iste Harmonizirane strukture kao i ISO/IEC 42001. Sustavi umjetne inteligencije uvelike ovise o podacima, pa su ta dva sustava upravljanja komplementarna i mnoge ih organizacije integriraju. ISO 27001 certifikat pruža snažnu osnovu za proširenje sustava upravljanja na ISO/IEC 42001.
Koje bi organizacije trebale razmotriti certifikaciju ISO 42001?
Svaka organizacija koja pruža, razvija ili koristi AI sustave može razmotriti certifikaciju prema ISO/IEC 42001. Standard je neutralan u odnosu na sektor i veličinu. Posebno je relevantan za organizacije koje koriste AI u kontekstima većeg rizika ili utjecaja - kao što su financijsko odlučivanje, zdravstvo, javne usluge, zapošljavanje i kritična infrastruktura - te za pružatelje tehnologije čiji klijenti očekuju dokumentirano upravljanje AI-jem.
Kako se certificira ISO 42001?
Certifikacija prema normi ISO/IEC 42001 slijedi utvrđeni dvostupanjski model audita: 1. faza (pregled dokumentacije i spremnosti) i 2. faza (audit na licu mjesta) koja vodi do odluke o certifikaciji. Nakon početne certifikacije, sustav upravljanja održava se godišnjim nadzornim auditima i auditom za ponovnu certifikaciju na kraju trogodišnjeg ciklusa. Certifikaciju mora provoditi neovisno certifikacijsko tijelo; ISO sam po sebi ne certificira organizacije.