Maturidade dos modelos de IA éticos e responsáveis

A IA ética e responsável não é uma norma mas um quadro de práticas, construído sobre princípios já estabilizados: equidade e ausência de discriminação, transparência e explicabilidade, supervisão humana efetiva, robustez e segurança, respeito pela privacidade, responsabilidade identificada, consideração do impacto ambiental. Estes princípios encontram-se nas recomendações da OCDE e da UNESCO, no NIST AI Risk Management Framework e, sob a forma de sistema de gestão, na ISO/IEC 42001. Descrevem um comportamento esperado dos modelos e das equipas que os concebem, não uma lista de exigências opositíveis.

É isto que torna o tema difícil de gerir. Os princípios são consensuais, a sua aplicação é desigual de uma equipa para outra e de um modelo para outro. Quem decide que um modelo pode passar para produção, e com base em que critérios medidos? Os enviesamentos são testados uma vez antes da entrada em serviço, ou monitorizados durante todo o ciclo de vida do modelo? Um utilizador de negócio sabe que uma decisão foi assistida por um modelo, e a quem se dirigir para a contestar? A maioria das organizações sabe responder para o seu modelo de referência, muito menos para as dezenas de modelos e usos de IA generativa implementados fora do radar.

A chegada da IA generativa deslocou o tema. As práticas de IA responsável foram inicialmente concebidas para modelos construídos internamente, sobre dados controlados, com um ciclo de vida identificado. Uma parte crescente dos usos assenta hoje em modelos de fornecedores terceiros, integrados em ferramentas de negócio, por vezes ativados sem passar pela direção de sistemas de informação. A questão já não é apenas conceber bem os seus modelos, mas saber quais são utilizados, por quem, para que decisões e com que nível de controlo. Surge frequentemente uma confusão: a IA responsável e a conformidade regulamentar não coincidem. A segunda fixa um mínimo, a primeira estrutura a forma de trabalhar.

O diagnóstico de maturidade responde a uma questão diferente de um controlo de sim ou não. Não se trata de saber se existe uma carta, mas a que nível as práticas estão realmente equipadas, repetíveis e acompanhadas. Cada domínio recebe uma pontuação, cada desvio face à meta gera uma ação, e a IA da Datamensio agrupa essas ações num roteiro priorizado, com custo, prazo e impacto esperado na pontuação.

O referencial está pronto a usar e pertence-lhe. Pode ajustar os domínios, reformular as perguntas, redefinir os níveis, ou pedir à IA que construa uma variante adaptada ao seu setor e aos seus próprios documentos internos, carta, política de governação de modelos ou grelha de revisão existente.