Dojrzałość modeli SI etycznych i odpowiedzialnych

Etyczna i odpowiedzialna SI nie jest normą, lecz zbiorem praktyk, zbudowanym na zasadach, które są już ugruntowane: sprawiedliwość i brak dyskryminacji, przejrzystość i wyjaśnialność, skuteczny nadzór ludzki, odporność i bezpieczeństwo, poszanowanie prywatności, zidentyfikowana odpowiedzialność, uwzględnienie wpływu środowiskowego. Zasady te odnajdujemy w zaleceniach OECD i UNESCO, w NIST AI Risk Management Framework oraz, w formie systemu zarządzania, w ISO/IEC 42001. Opisują one oczekiwane zachowanie modeli i zespołów, które je projektują, a nie listę wymagań egzekwowalnych.

To właśnie czyni ten temat trudnym do sterowania. Zasady są powszechnie akceptowane, ich wdrożenie bywa nierówne między zespołami i między modelami. Kto decyduje, że model może zostać wdrożony do produkcji, i na podstawie jakich zmierzonych kryteriów? Czy błędy systematyczne (biasy) są testowane jednorazowo przed uruchomieniem, czy monitorowane przez cały cykl życia modelu? Czy użytkownik biznesowy wie, że decyzja została wspomagana przez model, i do kogo może się zwrócić, by ją zakwestionować? Większość organizacji potrafi odpowiedzieć na te pytania w odniesieniu do swojego modelu flagowego, znacznie rzadziej w odniesieniu do dziesiątek modeli i zastosowań generatywnej SI wdrożonych poza radarem.

Pojawienie się generatywnej SI przesunęło ten temat. Praktyki odpowiedzialnej SI zostały pierwotnie zaprojektowane dla modeli budowanych wewnętrznie, na danych pod kontrolą, z określonym cyklem życia. Coraz większa część zastosowań opiera się dziś na modelach dostawców zewnętrznych, zintegrowanych z narzędziami biznesowymi, czasem aktywowanych bez udziału działu systemów informatycznych. Pytanie nie dotyczy już wyłącznie dobrego projektowania modeli, ale tego, które są używane, przez kogo, do jakich decyzji i z jakim poziomem kontroli. Powraca częste nieporozumienie: odpowiedzialna SI i zgodność regulacyjna nie pokrywają się. Ta druga wyznacza minimum, pierwsza strukturyzuje sposób pracy.

Diagnoza dojrzałości odpowiada na inne pytanie niż kontrola typu tak lub nie. Nie chodzi o to, czy karta istnieje, lecz na jakim poziomie praktyki są rzeczywiście wyposażone w narzędzia, powtarzalne i monitorowane. Każdy obszar tematyczny otrzymuje wynik, każda luka wobec celu generuje działanie, a SI Datamensio grupuje te działania w priorytetyzowaną mapę drogową, z kosztem, terminem i oczekiwanym wpływem na wynik.

Model referencyjny jest gotowy do użycia i należy do Państwa. Mogą Państwo dostosować obszary tematyczne, przeformułować pytania, przedefiniować poziomy, lub zlecić SI zbudowanie wersji dostosowanej do Państwa branży i do Państwa własnych dokumentów wewnętrznych, karty, polityki zarządzania modelami czy istniejącej siatki przeglądu.