Zrelost ISO/IEC 42001 · Sistemi upravljanja umetne inteligence (AIMS)
Upravljanje vaše UI, izmerjeno po ISO 42001 in prevedeno v ovrednoten akcijski načrt.
10 tematskih področij, 5-stopenjska lestvica. In ukrep, ki popelje z vsake ravni na naslednjo.
10 tematskih področij referenčnega okvira, že pripravljenih od N1 do N5. Eno podjetje, ena poslovna enota, ali 300 hkrati.
Zrelost ISO/IEC 42001 · Sistemi upravljanja umetne inteligence (AIMS)
10 tematskih področij, 5-stopenjska lestvica.
Nordhavn Industries
53 / 100
Svojo zrelost merijo z Datamensio
Primer
Ta situacija bi lahko bila vaša.
Vzemimo primer podjetja: tri lokacije, tri preglednice, brez skupnega odgovora.
Nihče ne zna združiti podatkov.
Nordhavn Industries, 2.400 zaposlenih v Hamburgu, Lyonu in Portu. Naročnik vpraša, kje stoji skupina. Vsaka lokacija odgovori v svoji preglednici, s svojimi lestvicami.
Tri tedne, ena sama osnova.
Diagnostika ISO/IEC 42001:2023 je bila hkrati sprožena na vseh treh lokacijah, na podlagi zapiskov z razgovorov z odgovornimi osebami. Referenčni okvir je bil že napisan, prav tako 10 tematskih področij in ravni od N1 do N5.
Dva izdatka, preprečena še pred odobritvijo.
Ocena 53 od 100, vrzel strnjena na treh področjih. UI spremljevalec je opazil, da se dva ukrepa iz načrta podvajata z ukrepoma iz druge presoje. Predstavitev rezultatov odboru je nastala z enim stavkom.
Kaj so s tem preprečili
- 3lokacije, merjene na isti osnovi, namesto treh vprašalnikov za ponovno obdelavo
- 2podvojena ukrepa, odkrita še pred izdatkom
- 1predstavitev rezultatov odboru, brez ročnega usklajevanja
Te številke so iz primera. Lahko bi bile vaše.
Standard nalaga procese. Datamensio pove, kje stojite.
01
Referenčni okvir je že napisan
Tematska področja, vprašanja in ravni od N1 do N5 so pripravljeni. Ne začnete s prazno preglednico.
02
Ocena je na voljo še isti dan
Prek spleta, s povezavo za samoocenjevanje ali med razgovorom. Po področjih, primerljivo skozi čas.
03
Vrzel postane ovrednoten načrt
Vsak prehod na naslednjo raven nosi svoj ukrep. UI razvršča glede na pričakovani učinek, ne glede na vrstni red standarda.
04
Napredek se da dokazati
Krog za krogom, glede na vaš cilj in glede na vašo preteklost. To zahteva vaš upravni odbor.
Lestvica zrelosti
Ena raven, naslednja, in ukrep, ki ju povezuje.
Prav ta mehanizem (raven, višja raven in dejanje, ki ju povezuje) spremeni ugotovitev v razvojno pot.
Ali so primeri uporabe UI popisani in ocenjeni pred uvedbo v produkcijo?
- N1
Popisa ni. Primeri uporabe se pojavljajo v poslovnih enotah, ne da bi vodstvo poznalo njihov seznam.
- N2
Register obstaja, a ga vodijo le posamezne ekipe na lastno pobudo. Je nepopoln, ocenjevanje pred produkcijo pa ostaja neformalno.
- N3
Vsak nov primer uporabe je prijavljen in ocenjen po skupni matriki pred uvedbo v produkcijo. Še vedno se pojavljajo posamezne zapoznele prijave.
- N4
Prijava je pogoj za dostop do produkcijskih okolij. Ocene in odločitve o potrditvi so sledljive in pripisane imenovanemu odgovornemu.
- N5
Register se redno pregleduje, umaknjeni primeri uporabe so dokumentirani, spoznanja iz incidentov pa se vključujejo v matriko ocenjevanja.
Dejanje za prehod z N2 na N3
Objaviti enotno matriko ocenjevanja primerov uporabe (namen, prizadete osebe, uporabljeni podatki, raven tveganja) in njeno obravnavo uvrstiti na dnevni red obstoječega odbora za podatke, z obvezno vmesno točko pred vsako uvedbo v produkcijo.
« Zahvaljujoč Datamensiu veliko učinkoviteje izpolnjujemo svoje cilje. Inšpekcijske službe sklada FEDER in našega pristojnega ministrstva so ta pristop še posebej cenile, saj jim prinaša zanesljive podatke. »
Direktorica CCI 94CCI Île-de-France
« Menimo, da gre za najprimernejšo rešitev za razširitev našega projekta preobrazbe in merjenje učinka skladno z našimi potrebami. »
Maja Sucekvodja poslovanja, Interreg Danube
Redko sam
Referenčni okvir se da kombinirati. Povežite več okvirov za pokritje svoje dejavnosti, ali pa svojega napišite z UI.
Opravite svojo prvo meritevna ISO 42001.
O čem govori ta referenčni okvir
ISO/IEC 42001, objavljena leta 2023, je prvi mednarodni certificirljiv standard, posvečen upravljanju umetne inteligence. Sledi skupni strukturi standardov za sisteme upravljanja: kontekst, voditeljstvo, planiranje, podpora, izvajanje dejavnosti, ocenjevanje učinkovitosti, izboljševanje. Njena posebnost sta dva mehanizma, značilna za UI: ocena vplivov na ljudi in družbo, ločena od ocene tveganj za organizacijo, ter dokumentirano obvladovanje življenjskega cikla sistemov UI, od zasnove do umika, tudi kadar model prihaja od dobavitelja.
V praksi težava ni razumevanje standarda, temveč ugotoviti, kje organizacija dejansko stoji. Ali so uvedeni primeri uporabe UI popisani izčrpno, vključno s tistimi, ki jih je prinesla programska komponenta ponudnika? Kdo odloča, da sistem lahko preide v produkcijo, in na podlagi katerih dokumentiranih meril? Ali se vplivi na prizadete osebe ocenijo pred uvedbo ali šele po prvih pritožbah? Pri teh treh vprašanjih je vrzel med deklarirano politiko upravljanja in dejansko prakso pogosto velika.
Ena zmeda se pojavlja nenehno: ISO 42001 in evropska uredba o UI se ne nadomeščata. Uredba razvršča sisteme po stopnji tveganja in nalaga zavezujoče obveznosti ponudnikom in uvajalcem. Standard pa opisuje notranjo organizacijo, ki omogoča, da te obveznosti dolgoročno izpolnjujete. Sistem upravljanja, skladen z ISO 42001, predstavlja ponovno uporabljivo osnovo za dokazovanje zahtevane obvladljivosti, ne odvezuje pa analize uporabljivosti člen za členom.
Diagnostika zrelosti odgovarja na drugačno vprašanje kot presoja za certifikacijo. Presoja se konča z ugotovitvijo skladnosti ali odstopanja. Diagnostika umesti vsako prakso na postopno lestvico in pokaže natančno dejanje, ki omogoči prehod na višjo raven. Prav to omogoča pripravo na certifikacijo brez slepega lotevanja projekta in primerjavo poslovnih enot, ki ne napredujejo z enako hitrostjo.
V Datamensiu je referenčni okvir pripravljen za takojšnjo uporabo in prilagodljiv. Umetna inteligenca prilagodi tematska področja, vprašanja in ravni vašemu sektorju in obsegu, ali pa iz vaših lastnih dokumentov zgradi prilagojeno različico: politika UI, register primerov uporabe, postopki validacije modelov.
Referenčni standard: ISO/IEC 42001:2023
Ocenjevana tematska področja
Kontekst in obseg sistema AIMS
Opredelitev obsega, vlog organizacije (dobavitelj, uvajalec, razvijalec), deležnikov, izjave o uporabnosti ukrepov iz priloge A.
Voditeljstvo in politika UI
Formalizirana in posredovana politika UI, zavezanost vodstva, dodeljevanje virov, povezava z drugimi sistemi upravljanja.
Vloge, odgovornosti in upravljanje
Dodelitev odgovornosti vzdolž življenjskega cikla, organ za odločanje o primerih uporabe, ločitev razvoja in validacije, eskalacija odločitev.
Ocena tveganj, povezanih z UI
Metoda ocenjevanja, merila sprejemljivosti, prednostno razvrščanje primerov uporabe, obravnava tveganj in sprejemanje preostalih tveganj.
Ocena vplivov na posameznike in družbo
Identifikacija prizadetih oseb, analiza učinkov na temeljne pravice, upoštevanje ranljivih skupin, sledljivost ugotovitev.
Življenjski cikel sistemov UI
Zahteve pri zasnovi, nabori podatkov in njihov izvor, preverjanje in validacija pred uvedbo v produkcijo, tehnična dokumentacija, pogoji umika.
Podatki, ki jih uporabljajo sistemi UI
Kakovost in reprezentativnost podatkov, obvladovanje pristranskosti, sledljivost izvora, pravice uporabe, nadzor nad podatki za ponovno učenje.
Preglednost in obveščanje uporabnikov
Obveščanje o uporabi UI, razložljivost, sorazmerna z namenom uporabe, dokumentacija za uvajalce, obravnava pritožb in možnost človeškega posredovanja.
Dobavitelji in tretje strani
Merila izbora, pogodbene zahteve glede modelov in storitev UI, ocenjevanje ponovno uporabljenih komponent, spremljanje sprememb, ki jih uvede ponudnik.
Spremljanje, notranja presoja in izboljševanje
Kazalniki učinkovitosti sistemov v produkciji, zaznavanje odstopanj, notranje presoje, vodstveni pregled, korektivni ukrepi in izkušnje iz preteklih primerov.
Krajša različica referenčnega okvira obsega 32 vprašanj in je na voljo za spletno samoocenjevanje.
Pogosta vprašanja
Ali je ISO 42001 certificirljiv standard?
Da, gre za certificirljiv standard sistema upravljanja, ki ga potrjuje akreditiran organ, po vzoru ISO 27001. Datamensio izmeri vašo zrelost in pripravi na presojo, certifikatov pa ne izdaja.
Kakšna je razlika med to diagnostiko in presojo za certifikacijo?
Presoja preveri prisotnost zahtev in se konča z ugotovitvijo skladnosti ali odstopanja. Diagnostika umesti vsako prakso na lestvico zrelosti in pokaže dejanje, ki omogoči prehod na naslednjo raven. Diagnostika pripravlja, presoja potrjuje.
Ali morate biti že certificirani po ISO 27001, da se lahko lotite tega?
Ne, je pa to prednost. Struktura obeh standardov je skupna: kontekst, voditeljstvo, planiranje, ocenjevanje učinkovitosti. Organizacije, ki že imajo sistem upravljanja, lahko ponovno uporabijo del svojih postopkov in dokumentacije.
Kako se ta diagnostika navezuje na evropsko uredbo o UI?
Uredba nalaga obveznosti glede na stopnjo tveganja sistema. Standard opisuje organizacijo, ki omogoča njihovo dolgoročno izpolnjevanje. Trdna diagnostika ISO 42001 predstavlja ponovno uporabljivo osnovo, presečni načrt poti pa omogoča povezavo obeh področij brez podvajanja ukrepov.
Koliko časa traja ocenjevanje?
Kratka različica se izpolni v 20 do 30 minutah. Celovita različica, v sodelovalnem načinu, običajno traja od enega do dveh tednov: največ časa vzame zbiranje podatkov pri ekipah za podatke, varnost, pravne zadeve in poslovne enote.
Ali je referenčni okvir mogoče prilagoditi našemu kontekstu?
Da. Spremenite lahko vprašanja, ravni in tematska področja, ali pa izhajate iz lastnih dokumentov za pripravo prilagojene različice. Umetna inteligenca pripravi vsebine in izpopolni ravni po metodi CMMI. Referenčni okvir ostane pod vašim nadzorom.
Ali je za odgovarjanje potrebno tehnično znanje strojnega učenja?
Vprašanja se nanašajo na prakse upravljanja, ne na arhitekturo modelov. Nekatera zahtevajo prispevek podatkovnega znanstvenika ali arhitekta: sodelovalni način omogoča, da se taka vprašanja dodelijo pravi osebi.
Kje so gostovani podatki?
V Franciji, pri OVH, z varnostno kopijo pri Scaleway. Brez prenosa podatkov zunaj Evropske unije. Uporabljene modele UI je mogoče izbrati, tudi med evropskimi rešitvami.