Zrelost etičnih in odgovornih modelov umetne inteligence

Etična in odgovorna UI ni standard, temveč okvir praks, zgrajen na zdaj ustaljenih načelih: pravičnost in odsotnost diskriminacije, preglednost in razložljivost, dejanski človeški nadzor, robustnost in varnost, spoštovanje zasebnosti, opredeljena odgovornost, upoštevanje vplivov na okolje. Ta načela najdemo v priporočilih OECD in UNESCO, v okviru NIST AI Risk Management Framework in, v obliki sistema vodenja, v standardu ISO/IEC 42001. Opisujejo pričakovano ravnanje modelov in ekip, ki jih razvijajo, ne pa seznama izpolnjevalnih zahtev.

To je tisto, zaradi česar je temo težko voditi. Načela so soglasno sprejeta, njihovo izvajanje pa je neenakomerno od ekipe do ekipe in od modela do modela. Kdo odloči, da lahko model preide v produkcijo, in na podlagi katerih izmerjenih meril? Ali se pristranskosti preverjajo le enkrat pred začetkom uporabe ali se spremljajo skozi celoten življenjski cikel modela? Ali poslovni uporabnik ve, da je bila odločitev podprta z modelom, in na koga se obrniti za njen izpodboj? Večina organizacij zna odgovoriti za svoj izložbeni model, bistveno slabše pa za desetine modelov in primerov uporabe generativne UI, uvedenih mimo nadzora.

Prihod generativne UI je temo premaknil. Prakse odgovorne UI so bile sprva zasnovane za modele, razvite interno, na obvladovanih podatkih, z jasno opredeljenim življenjskim ciklom. Danes vse večji delež uporabe temelji na modelih zunanjih ponudnikov, vgrajenih v poslovna orodja, včasih aktiviranih mimo oddelka za informacijske sisteme. Vprašanje ni več zgolj, kako dobro zasnovati lastne modele, temveč kateri modeli se uporabljajo, kdo jih uporablja, za katere odločitve in s kakšno stopnjo nadzora. Pogosto se pojavi zmeda: odgovorna UI in regulativna skladnost se ne prekrivata. Slednja postavlja minimalni prag, prva pa opredeljuje način dela.

Diagnostika zrelosti odgovarja na drugačno vprašanje kot preprosto preverjanje da ali ne. Ne gre za ugotavljanje, ali listina obstaja, temveč na kateri ravni so prakse dejansko opremljene z orodji, ponovljive in spremljane. Vsako tematsko področje dobi oceno, vsaka vrzel glede na cilj sproži ukrep, umetna inteligenca Datamensio pa te ukrepe združi v prednostno razvrščen načrt poti, s stroškom, rokom in pričakovanim vplivom na oceno.

Referenčni okvir je pripravljen za takojšnjo uporabo in je v celoti vaš. Lahko prilagodite tematska področja, preoblikujete vprašanja, na novo opredelite ravni ali naročite, da umetna inteligenca zgradi različico, prilagojeno vaši panogi in vašim lastnim notranjim dokumentom, listini, politiki upravljanja modelov ali obstoječi presojevalni matriki.