Nezavisni pregled od DQS-a, akreditovanog tijela za certifikaciju.
ISO/IEC 42001 je međunarodni standard sistema upravljanja vještačkom inteligencijom (AI). On specificira zahtjeve za Sistem upravljanja vještačkom inteligencijom (AIMS) koji podržava odgovoran razvoj, primjenu i korištenje AI sistema unutar organizacije. Standard se bavi upravljanjem, upravljanjem rizicima i kontinuiranim poboljšanjem AI aktivnosti, prepoznajući specifične karakteristike AI - uključujući ovisnost o podacima, kontinuirano učenje, očekivanja transparentnosti i utjecaje na ljude, organizacije i društvo.
Standard je relevantan za svaku organizaciju koja pruža, razvija ili koristi sisteme umjetne inteligencije - u javnom sektoru, privatnim preduzećima i akademskoj zajednici. Kupci, regulatori, partneri u lancu snabdijevanja i javnost sve više očekuju dokumentovane dokaze da organizacije odgovorno upravljaju umjetnom inteligencijom. ISO/IEC 42001 pruža prvi međunarodno priznati okvir prema kojem se može procijeniti sistem upravljanja umjetnom inteligencijom.
Trenutno izdanje je ISO/IEC 42001:2023, objavljeno u decembru 2023. godine. S obzirom na to da je standard relativno nov, broj certificiranih organizacija i dalje raste, a akreditacijski pejzaž – putem nacionalnih akreditacijskih tijela i akreditacijskih aranžmana koje priznaje IAF – se progresivno gradi. ISO/IEC 42001 certifikacija brzo postaje priznato sredstvo za organizacije da demonstriraju odgovorno upravljanje umjetnom inteligencijom u kontekstu Zakona EU o umjetnoj inteligenciji i drugih novonastalih propisa i kodeksa prakse u oblasti umjetne inteligencije.
Već razvijate ili implementirate AI sisteme u svojoj organizaciji?
Ako vaša organizacija uspostavlja sistem upravljanja umjetnom inteligencijom zasnovan na ISO 42001 standardu i tražite partnera za certifikaciju, naša namjenska stranica za certifikaciju ima sve što vam je potrebno - od pregleda procesa do personalizirane ponude.
Šta je ISO 42001, iz perspektive certifikacijskog tijela?
Iz perspektive certifikacijskog tijela, ISO/IEC 42001 je prvi certificirani standard sistema upravljanja za vještačku inteligenciju. Akreditirano certifikacijsko tijelo procjenjuje Sistem upravljanja vještačkom inteligencijom organizacije u odnosu na zahtjeve standarda putem nezavisne, dvostepene revizije i, u slučaju usklađenosti, izdaje certifikat koji se zatim održava periodičnim nadzorom.
ISO/IEC 42001 slijedi Harmoniziranu strukturu koju koriste drugi ISO standardi sistema upravljanja, što ga čini kompatibilnim sa ISO 9001 , ISO 27001 i ISO 14001 unutar integriranog sistema upravljanja. Certifikacija treće strane je nezavisni dokaz usklađenosti i na nju se sve više oslanjaju kupci, regulatori i partneri u lancu snabdijevanja kao dokaz odgovornog upravljanja umjetnom inteligencijom. Standard se spominje u raspravama o politici o Zakon EU o umjetnoj inteligenciji , Kodeks prakse EU za opću namjenu umjetne inteligencije i drugi novi okviri.
Kao certifikacijsko tijelo, DQS procjenjuje i certificira usklađenost — ne dizajnira niti implementira vaš Sistem upravljanja umjetnom inteligencijom. Ta nezavisnost je ono što certifikatu daje vrijednost: organizacija gradi i upravlja sistemom, a akreditovana treća strana ga verificira u skladu sa standardom.
Ključne činjenice na prvi pogled
| Puni naziv | ISO/IEC 42001:2023 — Informaciona tehnologija — Vještačka inteligencija — Sistem upravljanja |
| Objavio/la | Međunarodna organizacija za standardizaciju (ISO) i Međunarodna elektrotehnička komisija (IEC), putem zajedničkog tehničkog komiteta ISO/IEC JTC 1/SC 42 (Umjetna inteligencija). |
| Prvi put objavljeno | Decembar 2023. |
| Trenutna verzija | ISO/IEC 42001:2023 (prvo izdanje). Nacionalna akreditacijska tijela i putem aranžmana koje priznaje IAF nastavljaju razvijati akreditacijske aranžmane. |
| Vrsta sistema upravljanja | Sistem upravljanja umjetnom inteligencijom (AIMS) |
| Primjenjivo na | Bilo koja organizacija koja pruža, razvija ili koristi sisteme umjetne inteligencije, bez obzira na veličinu, sektor ili geografiju - uključujući tijela javnog sektora, privatna preduzeća i akademsku zajednicu. |
| Certificirano | Da. Nezavisna certifikacija treće strane od strane akreditovanog tijela za certifikaciju je najšire priznat oblik dokazivanja usklađenosti. |
| Struktura | Harmonizirana struktura (10 klauzula) plus Aneks A (referentni kontrolni ciljevi i kontrole za umjetnu inteligenciju), Aneks B (smjernice za implementaciju kontrola), Aneks C (organizacijski ciljevi i izvori rizika povezani s umjetnom inteligencijom) i Aneks D (upotreba u različitim domenima i sektorima). |
| Povezani standardi | ISO 27001 , ISO/IEC 23894, ISO/IEC 38507 |
Kontekst i pokretači
Regulativa o umjetnoj inteligenciji i Zakon EU o umjetnoj inteligenciji
Javna i regulatorna očekivanja u vezi s umjetnom inteligencijom su se brzo intenzivirala. Zakon EU o umjetnoj inteligenciji (Uredba (EU) 2024/1689) uvodi horizontalni regulatorni okvir zasnovan na riziku za sisteme umjetne inteligencije koji se stavljaju na tržište EU, s faznom primjenom do 2025. i 2026. godine. ISO/IEC 42001 sam po sebi ne osigurava usklađenost sa Zakonom o umjetnoj inteligenciji, ali njegov pristup zasnovan na riziku i sistemu upravljanja dobro je usklađen s očekivanjima zakona o upravljanju rizicima, transparentnosti i nadzoru, a ISO/IEC 42001 se široko spominje u diskusijama o implementaciji.
Očekivanja kupaca, lanca snabdijevanja i nabavke
Organizacije koje pružaju proizvode ili usluge zasnovane na vještačkoj inteligenciji sve češće dobijaju zahtjeve od svojih kupaca i dobavljača da demonstriraju dokumentovano upravljanje vještačkom inteligencijom. Certifikacija ISO/IEC 42001 pruža ovim organizacijama standardizovan način da dokažu da odgovorno upravljaju sistemima vještačke inteligencije tokom cijelog životnog ciklusa sistema - od dizajna i podataka, preko obuke, implementacije, praćenja i dekomisije.
Povjerenje, transparentnost i društveni utjecaj
Sistemi umjetne inteligencije djeluju u kontekstima gdje su njihovi utjecaji na ljude, organizacije i društvo vidljivi i posljedični. ISO/IEC 42001 zahtijeva od organizacija da sistematski razmotre ove utjecaje, podržava informirano donošenje odluka od strane rukovodstva i zainteresiranih strana te pruža dokumentiranu osnovu za upravljanje rizicima umjetne inteligencije, uz realizaciju prilika umjetne inteligencije.
Osnovni zahtjevi
Član 4 - Kontekst organizacije
Definiše eksterni i interni kontekst relevantan za Sistem upravljanja vještačkom inteligencijom (AI Management System), uključujući zainteresovane strane, regulatorno okruženje i granice AIMS-a. Organizacije moraju uzeti u obzir specifične karakteristike AI sistema u njihovom kontekstu, uključujući izvore podataka, namjeravanu upotrebu i razumno predvidljive zloupotrebe.
Član 5 - Liderstvo
Utvrđuje odgovornost najvišeg menadžmenta za AIMS, politiku umjetne inteligencije, organizacijske uloge i odgovornosti, te integraciju upravljanja umjetnom inteligencijom u šire organizacijsko upravljanje. Posvećenost liderstva je ključna za odgovornu umjetnu inteligenciju.
Član 6 - Planiranje
Obuhvata upravljanje rizicima i prilikama, ciljeve umjetne inteligencije, planiranje promjena i procese procjene rizika i procjene utjecaja umjetne inteligencije. Aneks C pruža izvore rizika specifične za umjetnu inteligenciju koje treba uzeti u obzir; Aneks A i B pružaju kontrole specifične za umjetnu inteligenciju i smjernice za implementaciju.
Član 7 - Podrška
Bavi se resursima, kompetencijom, sviješću, komunikacijom i dokumentiranim informacijama, uključujući specifične potrebe za kompetencijom i sviješću povezane s timovima za razvoj i implementaciju umjetne inteligencije.
Član 8 - Rad
Specificira zahtjeve za operativno planiranje i kontrolu, uključujući tretman rizika umjetne inteligencije, procjenu utjecaja umjetne inteligencije, kontrole tokom životnog ciklusa sistema umjetne inteligencije, upravljanje podacima i upravljanje dobavljačima i partnerima umjetne inteligencije.
Član 9 - Evaluacija performansi
Obuhvata praćenje, mjerenje, analizu i evaluaciju, interne revizije i pregled od strane menadžmenta, s posebnom pažnjom na praćenje performansi sistema vještačke inteligencije i kontinuirani pregled rizika vještačke inteligencije.
Član 10 - Poboljšanje
Obuhvata korektivne mjere i kontinuirano poboljšanje, uključujući učenje iz incidenata sa vještačkom inteligencijom i prilagođavanje kontrola kako se sistemi vještačke inteligencije i njihov kontekst razvijaju.
Aneks A i Aneks B — Referentne kontrole i smjernice
Aneks A navodi referentne kontrolne ciljeve i kontrole za AIMS; Aneks B pruža smjernice za implementaciju. Zajedno pokrivaju politike za AI, internu organizaciju za AI, resurse za AI sisteme, procjenu uticaja, životni ciklus AI sistema, podatke za AI, informacije za zainteresovane strane, korištenje AI sistema i odnose sa trećim stranama i kupcima.
Ciljne grupe i područja primjene
ISO/IEC 42001 se primjenjuje na bilo koju organizaciju koja pruža, razvija ili koristi sisteme umjetne inteligencije. Tipičan opseg uključuje tehnološke kompanije koje razvijaju proizvode i usluge umjetne inteligencije; organizacije u reguliranim sektorima (finansijske usluge, zdravstvo, javna uprava) koje primjenjuju umjetnu inteligenciju u procesima donošenja odluka i operativnim procesima; tijela javnog sektora koja koriste umjetnu inteligenciju u pružanju usluga i implementaciji politika; te organizacije u proizvodnji, logistici i potrošačkim uslugama koje koriste umjetnu inteligenciju u poslovanju.
Standard podržava informirane odluke upravnih odbora i izvršnih timova, funkcija za upravljanje rizicima i usklađenošću, lidera u oblasti tehnologije i podataka, te kupaca i partnera u nabavci. ISO/IEC 42001 certifikacija pruža strukturiranu osnovu za demonstraciju odgovornog upravljanja umjetnom inteligencijom i za kredibilnu interakciju s regulatorima, kupcima i javnošću.
Organizacije koje su u ranoj fazi usvajanja vještačke inteligencije mogu koristiti ISO/IEC 42001 kao okvir za dizajniranje svog upravljanja vještačkom inteligencijom od samog početka. Organizacije sa zrelim aktivnostima vještačke inteligencije mogu koristiti standard za integraciju fragmentiranih praksi upravljanja vještačkom inteligencijom u jedinstven, certificirani sistem upravljanja.
Povezani standardi
Harmonizirana struktura i integracija s drugim sistemima upravljanja
ISO/IEC 42001 slijedi Harmonizirana struktura koriste ga standardi ISO 9001, ISO 27001, ISO 14001 i drugi standardi sistema upravljanja. Organizacije koje već koriste integrirani sistem upravljanja mogu proširiti svoje postojeće procese upravljanja, interne revizije, pregleda od strane menadžmenta i poboljšanja kako bi uključile sistem upravljanja umjetnom inteligencijom.
ISO/IEC 42005 i procjena utjecaja umjetne inteligencije
ISO/IEC 42005:2025 pruža sveobuhvatne smjernice za procjenu utjecaja AI sistema na pojedince, grupe i društvo tokom njihovog životnog ciklusa, budući da je to zahtjev za AIMS. Djeluje kao prateći standard za ISO/IEC 42001:2023, standard Sistema upravljanja umjetnom inteligencijom (AIMS), nudeći strukturiran pristup za procjenu, dokumentiranje i upravljanje potencijalnim štetama i koristima.
ISO 27001 i sigurnost informacija
Sistemi umjetne inteligencije uveliko zavise od podataka, a sigurnost informacija je fundamentalni element odgovorne umjetne inteligencije. ISO/IEC 27001 specificira zahtjeve za sistem upravljanja sigurnošću informacija ISO/IEC 42001 upućuje na sigurnost informacija kao dio kontrola za umjetnu inteligenciju, ali ne duplicira ISO 27001. Organizacije koje posjeduju ISO 27001 certifikat su u dobroj poziciji da prošire svoj sistem upravljanja na ISO/IEC 42001.
Smjernice za upravljanje rizicima u vezi sa ISO/IEC 23894 i umjetnom inteligencijom
ISO/IEC 23894 pruža smjernice o upravljanju rizicima povezanim s umjetnom inteligencijom. To je smjernica - a ne certificirani standard sistema upravljanja - i dopunjuje ISO/IEC 42001 pružajući detaljniji sadržaj o upravljanju rizicima koji organizacije mogu koristiti za operacionalizaciju zahtjeva ISO/IEC 42001.
Implikacije ISO/IEC 38507 i upravljanja umjetnom inteligencijom
ISO/IEC 38507 se bavi implikacijama umjetne inteligencije na upravljanje organizacijama i namijenjen je upravnim odborima i upravnim tijelima. To je smjernica koja dopunjuje ISO/IEC 42001, a ne shema koja se može certificirati.
Zakon EU o umjetnoj inteligenciji i regulatorni kodeksi prakse
The Zakon EU o umjetnoj inteligenciji je primarni regulatorni okvir specifičan za umjetnu inteligenciju u EU i primjenjuje se u fazama do 2025. i 2026. godine. Kodeksi prakse za umjetnu inteligenciju opće namjene, smjernice specifične za sektor i usklađeni standardi razvijaju se paralelno sa zakonom. ISO/IEC 42001 se široko spominje u ovim diskusijama i pruža priznatu referentnu tačku sistema upravljanja za organizacije koje implementiraju kontrole relevantne za Zakon o umjetnoj inteligenciji - ali certifikacija ISO/IEC 42001 nije formalno ekvivalentna usklađenosti sa Zakonom o umjetnoj inteligenciji.
Izgradite povjerenje u svoje AI sisteme putem ISO 42001 certifikacije
Vaša organizacija razvija ili implementira AI sisteme i sada razmatrate nezavisnu certifikaciju prema ISO 42001 standardu? Saznajte više na našoj stranici posvećenoj ISO 42001 certifikaciji.
O DQS-u kao certifikacijskom tijelu
Ovaj članak je dio DQS Centra znanja, resursa o standardima sistema upravljanja i procesima certifikacije. Za kontekst o tome ko ga je napisao:
- Jedan od prvih njemačkih certifikatora sistema upravljanja — DQS izdao je svoj prvi ISO 9001 certifikat 1986. godine i vrši reviziju i certificiranje sistema upravljanja već preko 40 godina.
- Posluje iz više od 80 kancelarija u 60 zemalja sa svetskom mrežom od preko 3.000 revizori .
- Aktivno u ISO/IEC 42001 certifikacija uz srodne standarde kao što su ISO 27001, ISO/IEC 27701 i ISO 9001 - tako da organizacije mogu dobiti usluge u oblasti vještačke inteligencije, sigurnosti informacija i upravljanja kvalitetom od jednog dobavljača.
- Član/ica IQNet , međunarodna mreža za certifikaciju, koja podržava prekogranično priznavanje DQS certifikata.
Članke u ovom Centru znanja pišu i recenziraju DQS stručnjaci koji rade s ovim standardima u revizorskoj praksi. Gdje je primjenjivo, sadržaj se provjerava u odnosu na trenutnu verziju standarda, službene publikacije tijela koje ga je izdalo i nedavne regulatorne ili akreditacijske smjernice. Ovaj članak je posljednji put pregledan 3. juna 2026. godine.
Često postavljana pitanja o ISO 42001
Da li je ISO 42001 obavezan?
Ne. ISO/IEC 42001 je dobrovoljni međunarodni standard. Međutim, kupci, regulatori i javnost sve više očekuju od organizacija koje razvijaju ili implementiraju sisteme umjetne inteligencije da demonstriraju dokumentirano upravljanje umjetnom inteligencijom. Certifikacija prema ISO/IEC 42001 pruža strukturiran način dokazivanja takvog upravljanja.
Koja je trenutna verzija standarda ISO 42001?
Trenutno objavljeno izdanje je ISO/IEC 42001:2023, objavljeno u decembru 2023. godine. To je prvo izdanje standarda.
Da li ISO 42001 certifikacija znači usklađenost sa Zakonom EU o umjetnoj inteligenciji?
Ne. Zakon EU o umjetnoj inteligenciji (Uredba (EU) 2024/1689) je regulatorni okvir koji se primjenjuje na sisteme umjetne inteligencije stavljene na tržište EU, a primjenjuje se u fazama do 2025. i 2026. godine. ISO/IEC 42001 certifikacija formalno nije ekvivalentan usklađenosti sa Zakonom o umjetnoj inteligenciji. Međutim, standard se široko smatra korisnom osnovom sistema upravljanja koja podržava organizacije u ispunjavanju mnogih očekivanja zakona u vezi sa upravljanjem rizicima, transparentnošću i ljudskim nadzorom.
Kakav je odnos standarda ISO 42001 i ISO 27001?
ISO/IEC 27001 specificira zahtjeve za sistem upravljanja sigurnošću informacija i strukturiran je oko iste Harmonizirane strukture kao i ISO/IEC 42001. Sistemi umjetne inteligencije uveliko zavise od podataka, tako da su dva sistema upravljanja komplementarna i mnoge organizacije ih integriraju. ISO 27001 certifikat pruža snažnu osnovu za proširenje sistema upravljanja na ISO/IEC 42001.
Koje organizacije bi trebale razmotriti certifikaciju po ISO 42001 standardu?
Svaka organizacija koja pruža, razvija ili koristi sisteme umjetne inteligencije može razmotriti certifikaciju prema ISO/IEC 42001. Standard je neutralan u odnosu na sektor i veličinu. Posebno je relevantan za organizacije koje koriste umjetnu inteligenciju u kontekstima većeg rizika ili većeg uticaja - kao što su finansijsko odlučivanje, zdravstvo, javne usluge, zapošljavanje i kritična infrastruktura - i za pružatelje tehnologije čiji klijenti očekuju dokumentovano upravljanje umjetnom inteligencijom.
Kako se certificira ISO 42001?
Certifikacija prema ISO/IEC 42001 standardu slijedi utvrđeni dvostepeni model revizije: Faza 1 (pregled dokumentacije i spremnosti) i Faza 2 (revizija na licu mjesta) koja vodi do odluke o certifikaciji. Nakon početne certifikacije, sistem upravljanja se održava kroz godišnje nadzorne revizije i reviziju za recertifikaciju na kraju trogodišnjeg ciklusa. Certifikaciju mora provoditi nezavisno certifikacijsko tijelo; ISO sam po sebi ne certificira organizacije.