Neodvisen pregled s strani DQS, akreditiranega certifikacijskega organa.
ISO/IEC 42001 je mednarodni standard za sistem upravljanja umetne inteligence (AI). Določa zahteve za sistem upravljanja umetne inteligence (AIMS), ki podpira odgovoren razvoj, uvajanje in uporabo sistemov umetne inteligence znotraj organizacije. Standard obravnava upravljanje, obvladovanje tveganj in nenehno izboljševanje dejavnosti na področju AI, pri čemer upošteva specifične značilnosti AI – vključno z odvisnostjo od podatkov, neprekinjenim učenjem, pričakovanji glede preglednosti ter vplivi na ljudi, organizacije in družbo.
Standard je pomemben za vsako organizacijo, ki zagotavlja, razvija ali uporablja sisteme AI – v javnem sektorju, zasebnih podjetjih in akademskem svetu. Stranke, regulativni organi, partnerji v dobavni verigi in javnost vse bolj pričakujejo dokumentirane dokaze, da organizacije odgovorno upravljajo z umetno inteligenco. Standard ISO/IEC 42001 zagotavlja prvi mednarodno priznani okvir, na podlagi katerega je mogoče oceniti sistem upravljanja umetne inteligence.
Trenutna izdaja je ISO/IEC 42001:2023, objavljena decembra 2023. Ker je standard relativno nov, se število certificiranih organizacij še vedno povečuje, sistem akreditacij – prek nacionalnih akreditacijskih organov in akreditacijskih ureditev, ki jih priznava IAF – pa se postopoma razvija. Certifikacija po standardu ISO/IEC 42001 se hitro uveljavlja kot priznano sredstvo, s katerim organizacije dokazujejo odgovorno upravljanje umetne inteligence v okviru Zakona EU o umetni inteligenci ter drugih nastajajočih predpisov in kodeksov ravnanja na področju umetne inteligence.
V vaši organizaciji že razvijate ali uvajate sisteme umetne inteligence?
Če vaša organizacija vzpostavlja sistem upravljanja umetne inteligence na podlagi standarda ISO 42001 in iščete partnerja za certifikacijo, boste na naši posebni strani o certifikaciji našli vse, kar potrebujete – od pregleda procesov do prilagojene ponudbe.
Kaj je standard ISO 42001 z vidika certifikacijskega organa?
Z vidika certifikacijskega organa je ISO/IEC 42001 prvi standard za sistem upravljanja umetne inteligence, ki omogoča certifikacijo. Akreditirani certifikacijski organ oceni sistem upravljanja umetne inteligence v organizaciji glede na zahteve standarda s pomočjo neodvisnega, dvofaznega audita in ob ugotovljeni skladnosti izda certifikat, ki se nato ohranja z rednim nadzorom.
Standard ISO/IEC 42001 sledi usklajeni strukturi, ki jo uporabljajo tudi drugi standardi sistemov vodenja ISO, zaradi česar je združljiv s standardi ISO 9001, ISO 27001 in ISO 14001 v okviru integriranega sistema vodenja. Certifikacija s strani tretje osebe je neodvisen dokaz skladnosti, na katerega se stranke, regulativni organi in partnerji v dobavni verigi vedno bolj zanašajo kot na dokaz odgovornega upravljanja umetne inteligence. Na standard se sklicujejo v političnih razpravah o Zakonu EU o umetni inteligenci, Kodeksu ravnanja EU za umetno inteligenco splošnega namena ter drugih nastajajočih okvirih.
Kot certifikacijski organ DQS ocenjuje in potrjuje skladnost – ne oblikuje pa niti ne uvaja vašega sistema upravljanja umetne inteligence. Prav ta neodvisnost daje certifikatu vrednost: organizacija vzpostavi in upravlja sistem, akreditirana tretja stranka pa ga preveri glede na standard.
Ključni podatki na kratko
| Celoten naslov | ISO/IEC 42001:2023 – Informacijska tehnologija – Umetna inteligenca – Sistem vodenja |
| Izdala | Mednarodna organizacija za standardizacijo (ISO) in Mednarodna elektrotehnična komisija (IEC) prek skupnega tehničnega odbora ISO/IEC JTC 1/SC 42 (Umetna inteligenca). |
| Prva izdaja | december 2023 |
| Trenutna različica | ISO/IEC 42001:2023 (prva izdaja). Nacionalni akreditacijski organi in ureditve, ki jih priznava IAF, še naprej razvijajo akreditacijske ureditve. |
| Vrsta sistema vodenja | Sistem upravljanja z umetno inteligenco (AIMS) |
| Velja za | Vsako organizacijo, ki zagotavlja, razvija ali uporablja sisteme umetne inteligence, ne glede na velikost, sektor ali geografsko lokacijo – vključno z organi javnega sektorja, zasebnimi podjetji in akademskim okoljem. |
| Možnost certificiranja | Da. Neodvisna certifikacija s strani akreditiranega certifikacijskega organa je najbolj splošno priznana oblika dokazovanja skladnosti. |
| Struktura | Usklajena struktura (10 klavzul) ter Priloga A (referenčni cilji nadzora in nadzorni ukrepi za umetno inteligenco), Priloga B (smernice za izvajanje nadzornih ukrepov), Priloga C (organizacijski cilji in viri tveganj, povezani z umetno inteligenco) ter Priloga D (uporaba v različnih področjih in sektorjih). |
| Povezani standardi | ISO 27001, ISO/IEC 23894, ISO/IEC 38507 |
Kontekst in gonilne sile
Uredba o umetni inteligenci in Zakon EU o umetni inteligenci
Javna in regulativna pričakovanja glede umetne inteligence so se hitro okrepila. Zakon EU o umetni inteligenci (Uredba (EU) 2024/1689) uvaja horizontalni, na tveganju temelječi regulativni okvir za sisteme umetne inteligence, ki se dajejo na trg EU, z postopno uveljavitvijo v letih 2025 in 2026. Standard ISO/IEC 42001 sam po sebi ne zagotavlja skladnosti z Zakonom o umetni inteligenci, vendar je njegov pristop, ki temelji na tveganju in sistemu vodenja, dobro usklajen z zahtevami zakona glede obvladovanja tveganj, preglednosti in nadzora, poleg tega pa se v razpravah o izvajanju pogosto sklicujejo na standard ISO/IEC 42001.
Pričakovanja strank, dobavne verige in nabave
Organizacije, ki ponujajo izdelke ali storitve na podlagi umetne inteligence, se vse pogosteje soočajo z zahtevami svojih strank in partnerjev pri javnih naročilih, da dokažejo dokumentirano upravljanje umetne inteligence. Certifikacija po standardu ISO/IEC 42001 tem organizacijam omogoča standardiziran način dokazovanja, da odgovorno upravljajo sisteme umetne inteligence skozi celoten življenjski cikel sistema – od zasnove in podatkov prek usposabljanja, uvajanja, spremljanja do umika iz uporabe.
Zaupanje, preglednost in družbeni vpliv
Sistemi umetne inteligence delujejo v kontekstih, kjer so njihovi učinki na ljudi, organizacije in družbo vidni in pomembni. Standard ISO/IEC 42001 od organizacij zahteva, da te vplive sistematično upoštevajo, podpira informirano sprejemanje odločitev s strani vodstva in zainteresiranih strani ter zagotavlja dokumentirano podlago za obvladovanje tveganj umetne inteligence ob hkratnem izkoriščanju priložnosti, ki jih ponuja umetna inteligenca.
Osnovne zahteve
Ključ 4 – Kontekst organizacije
Opredeljuje zunanji in notranji kontekst, ki je pomemben za sistem upravljanja umetne inteligence, vključno z zainteresiranimi stranmi, regulativnim okoljem in mejami sistema upravljanja umetne inteligence. Organizacije morajo v svojem kontekstu upoštevati posebne značilnosti sistemov umetne inteligence, vključno z viri podatkov, nameravano uporabo in razumno predvidljivo zlorabo.
Ključ 5 – Vodstvo
Določa odgovornost najvišjega vodstva za sistem upravljanja umetne inteligence (AIMS), politiko umetne inteligence, vloge in odgovornosti v organizaciji ter vključitev upravljanja umetne inteligence v širše upravljanje organizacije. Zavezanost vodstva je ključnega pomena za odgovorno umetno inteligenco.
Ključ 6 – Načrtovanje
Obravnava upravljanje tveganj in priložnosti, cilje umetne inteligence, načrtovanje sprememb ter postopke ocenjevanja tveganj in vpliva umetne inteligence. Priloga C navaja vire tveganj, specifične za umetno inteligenco, ki jih je treba upoštevati; prilogi A in B pa navajata nadzorne ukrepe, specifične za umetno inteligenco, in smernice za izvajanje.
Ključ 7 — Podpora
Obravnava vire, kompetence, ozaveščenost, komunikacijo in dokumentirane informacije, vključno s specifičnimi potrebami po kompetencah in ozaveščenosti, povezanimi z ekipami za razvoj in uvajanje umetne inteligence.
Ključ 8 – Delovanje
Določa zahteve za operativno načrtovanje in nadzor, vključno z obravnavanjem tveganj umetne inteligence, oceno vpliva umetne inteligence, kontrolnimi ukrepi skozi celoten življenjski cikel sistema umetne inteligence, upravljanjem podatkov ter upravljanjem dobaviteljev in partnerjev na področju umetne inteligence.
Ključ 9 – Ocena uspešnosti
Zajema spremljanje, merjenje, analizo in ocenjevanje, notranje revizije ter pregled s strani vodstva, s posebnim poudarkom na spremljanju uspešnosti sistema umetne inteligence in stalnem pregledu tveganj umetne inteligence.
Ključ 10 – Izboljševanje
Zajema korektivne ukrepe in nenehno izboljševanje, vključno z učenjem iz incidentov, povezanih z umetno inteligenco, ter prilagajanjem kontrolnih mehanizmov v skladu z razvojem sistemov umetne inteligence in njihovega konteksta.
Priloga A in Priloga B – Referenčni nadzorni ukrepi in smernice
Priloga A navaja referenčne cilje nadzora in nadzorne ukrepe za AIMS; Priloga B pa vsebuje smernice za izvajanje. Skupaj zajemata politike za umetno inteligenco, notranjo organizacijo za umetno inteligenco, vire za sisteme umetne inteligence, ocenjevanje vplivov, življenjski cikel sistemov umetne inteligence, podatke za umetno inteligenco, informacije za zainteresirane strani, uporabo sistemov umetne inteligence ter odnose s tretjimi stranmi in strankami.
Ciljne skupine in področja uporabe
Standard ISO/IEC 42001 se uporablja za vsako organizacijo, ki zagotavlja, razvija ali uporablja sisteme umetne inteligence. Tipično področje uporabe vključuje tehnološka podjetja, ki razvijajo izdelke in storitve umetne inteligence; organizacije v reguliranih sektorjih (finančne storitve, zdravstvo, javna uprava), ki umetno inteligenco uporabljajo v postopkih odločanja in operativnih procesih; organe javnega sektorja, ki umetno inteligenco uporabljajo pri izvajanju storitev in izvajanju politik; ter organizacije v proizvodnji, logistiki in storitvah za potrošnike, ki umetno inteligenco uporabljajo v svojih dejavnostih.
Standard podpira utemeljene odločitve upravnih odborov in izvršnih ekip, oddelkov za obvladovanje tveganj in skladnosti, vodilnih na področju tehnologije in podatkov ter strank in partnerjev pri javnih naročilih. Certifikacija po standardu ISO/IEC 42001 zagotavlja strukturirano podlago za dokazovanje odgovornega upravljanja umetne inteligence ter za verodostojno sodelovanje z regulatorji, strankami in javnostjo.
Organizacije, ki so v zgodnji fazi uvajanja umetne inteligence, lahko standard ISO/IEC 42001 uporabijo kot okvir za oblikovanje svojega upravljanja umetne inteligence že od samega začetka. Organizacije z zrelimi dejavnostmi na področju umetne inteligence lahko standard uporabijo za integracijo razdrobljenih praks upravljanja umetne inteligence v enoten, certificiran sistem upravljanja.
Povezani standardi
Usklajena struktura in integracija z drugimi sistemi vodenja
Standard ISO/IEC 42001 sledi usklajeni strukturi, ki jo uporabljajo standardi ISO 9001, ISO 27001, ISO 14001 in drugi standardi sistemov vodenja. Organizacije, ki že uporabljajo integriran sistem vodenja, lahko svoje obstoječe procese upravljanja, notranje revizije, pregleda vodenja in izboljševanja razširijo tako, da vključijo sistem vodenja umetne inteligence.
ISO/IEC 42005 in ocena vpliva umetne inteligence
Standard ISO/IEC 42005:2025 zagotavlja celovite smernice za ocenjevanje vplivov sistemov umetne inteligence na posameznike, skupine in družbo skozi njihov celoten življenjski cikel, saj je to zahteva standarda AIMS. Deluje kot podporni standard za ISO/IEC 42001:2023, standard za sistem upravljanja umetne inteligence (AIMS), saj ponuja strukturiran pristop k ocenjevanju, dokumentiranju in upravljanju potencialnih škode in koristi.
ISO 27001 in informacijska varnost
Sistemi umetne inteligence so močno odvisni od podatkov, informacijska varnost pa je temeljni element odgovorne umetne inteligence. Standard ISO/IEC 27001 določa zahteve za sistem vodenja informacijske varnosti; standard ISO/IEC 42001 se sklicuje na informacijsko varnost kot del nadzornih ukrepov za umetno inteligenco, vendar ne podvaja standarda ISO 27001. Organizacije, ki imajo certifikat ISO 27001, so v dobrem položaju, da svoj sistem upravljanja razširijo na ISO/IEC 42001.
ISO/IEC 23894 in smernice za obvladovanje tveganj umetne inteligence
Standard ISO/IEC 23894 zagotavlja smernice za obvladovanje tveganj, povezanih z umetno inteligenco. Gre za dokument s smernicami – ne za standard sistema vodenja, ki se lahko certifi cira – in dopolnjuje standard ISO/IEC 42001 s podrobnejšo vsebino o obvladovanju tveganj, ki jo lahko organizacije uporabijo za operativno izvajanje zahtev standarda ISO/IEC 42001.
ISO/IEC 38507 in posledice umetne inteligence za upravljanje
Standard ISO/IEC 38507 obravnava posledice umetne inteligence za upravljanje v organizacijah in je namenjen upravnim odborom ter upravnim organom. Gre za dokument s smernicami, ki dopolnjuje standard ISO/IEC 42001, in ne za sistem, ki se lahko certificira.
Zakon EU o umetni inteligenci in regulativni kodeksi ravnanja
Zakon EU o umetni inteligenci je glavni regulativni okvir EU, namenjen umetni inteligenci, ki se bo postopoma uveljavljal v letih 2025 in 2026. Vzporedno z zakonom se razvijajo kodeksi ravnanja za umetno inteligenco splošnega namena, sektorska navodila in usklajeni standardi. V teh razpravah se pogosto sklicujejo na standard ISO/IEC 42001, ki predstavlja priznano referenčno točko za sistem vodenja v organizacijah, ki uvajajo nadzorne ukrepe v skladu z Zakonom o umetni inteligenci – vendar certifikacija po standardu ISO/IEC 42001 uradno ni enakovredna skladnosti z Zakonom o umetni inteligenci.
Zgradite zaupanje v svoje sisteme umetne inteligence s certifikacijo po standardu ISO 42001
Vaša organizacija razvija ali uvaja sisteme umetne inteligence in zdaj razmišljate o neodvisni certifikaciji po standardu ISO 42001? Več informacij najdete na naši posebni strani o certifikaciji po standardu ISO 42001.
O DQS kot certifikacijskem organu
Ta članek je del DQS Knowledge Centra, vira informacij o standardih sistemov vodenja in certifikacijskih postopkih. Za kontekst o tem, kdo ga je pripravil:
- DQS, eden prvih nemških certifikatorjev sistemov vodenja, je prvo potrdilo po standardu ISO 9001 izdal leta 1986 in že več kot 40 let izvaja revizije ter certificira sisteme vodenja.
- Deluje iz več kot 80 pisarn v 60 državah s svetovno mrežo več kot 3.000 revizorjev.
- Je dejavna na področju certifikacije po standardu ISO/IEC 42001 ter sorodnih standardih, kot so ISO 27001, ISO/IEC 27701 in ISO 9001 – tako lahko organizacijam ponudi storitve certifikacije na področjih umetne inteligence, informacijske varnosti in upravljanja kakovosti prek enega samega ponudnika.
- Je član mednarodne certifikacijske mreže IQNet, ki podpira čezmejno priznavanje certifikatov DQS.
Članke v tem centru znanja pišejo in pregledujejo strokovnjaki podjetja DQS, ki se v revizijski praksi ukvarjajo s temi standardi. Kadar je to primerno, se vsebina preveri glede na veljavno različico standarda, uradne publikacije organa, ki je standard izdal, ter najnovejša regulativna ali akreditacijska navodila. Ta članek je bil nazadnje pregledan 3. junija 2026.
Pogosta vprašanja o standardu ISO 42001
Ali je standard ISO 42001 obvezen?
Ne. ISO/IEC 42001 je prostovoljni mednarodni standard. Vendar pa stranke, regulativni organi in javnost od organizacij, ki razvijajo ali uvajajo sisteme umetne inteligence, vse bolj pričakujejo, da dokažejo dokumentirano upravljanje umetne inteligence. Certifikacija po standardu ISO/IEC 42001 zagotavlja strukturiran način za dokazovanje takšnega upravljanja.
Katera je trenutna različica standarda ISO 42001?
Trenutna objavljena izdaja je ISO/IEC 42001:2023, objavljena decembra 2023. To je prva izdaja standarda.
Ali certifikacija po standardu ISO 42001 pomeni skladnost z Zakonom EU o umetni inteligenci?
Ne. Zakon EU o umetni inteligenci (Uredba (EU) 2024/1689) je regulativni okvir, ki velja za sisteme umetne inteligence, dane na trg EU, in se bo postopoma uvajal v letih 2025 in 2026. Certifikacija po standardu ISO/IEC 42001 formalno ni enakovredna skladnosti z Zakonom o umetni inteligenci. Standard pa se na splošno obravnava kot koristna podlaga za sistem vodenja, ki organizacijam pomaga pri izpolnjevanju številnih zahtev zakona na področju obvladovanja tveganj, preglednosti in človeškega nadzora.
Kako je standard ISO 42001 povezan s standardom ISO 27001?
Standard ISO/IEC 27001 določa zahteve za sistem vodenja informacijske varnosti in je zasnovan na isti usklajeni strukturi kot standard ISO/IEC 42001. Sistemi umetne inteligence so močno odvisni od podatkov, zato se oba sistema vodenja dopolnjujeta, številne organizacije pa ju tudi integrirajo. Certifikat ISO 27001 zagotavlja trdno podlago za razširitev sistema vodenja na standard ISO/IEC 42001.
Katerim organizacijam je priporočljivo pridobiti certifikat ISO 42001?
Vsaka organizacija, ki zagotavlja, razvija ali uporablja sisteme umetne inteligence, lahko razmisli o certifikaciji po standardu ISO/IEC 42001. Standard je neodvisen od sektorja in velikosti organizacije. Zlasti je pomemben za organizacije, ki uporabljajo umetno inteligenco v okoljih z višjim tveganjem ali večjim vplivom – kot so sprejemanje finančnih odločitev, zdravstvo, javne storitve, zaposlovanje in kritična infrastruktura – ter za ponudnike tehnologije, katerih stranke pričakujejo dokumentirano upravljanje umetne inteligence.
Kako poteka certificiranje po standardu ISO 42001?
Certificiranje po standardu ISO/IEC 42001 poteka po uveljavljenem dvostopenjskem modelu revizije: 1. stopnja (pregled dokumentacije in pripravljenosti) ter 2. stopnja (revizija na kraju samem), ki vodita do odločitve o podelitvi certifikata. Po začetnem certificiranju se sistem vodenja vzdržuje z letnimi nadzornimi revizijami in revizijo za ponovno certificiranje ob koncu triletnega cikla. Certificiranje mora opraviti neodvisni certifikacijski organ; ISO sama organizacij ne certificira.