A Microsoft passa a aplicar a governação da IA, deixando de se basear em políticas para passar a aplicar as regras em tempo de execução
A Microsoft delineou uma arquitetura de governação de IA que trasla a governação das políticas documentadas para a aplicação em tempo de execução, a avaliação contínua, a observabilidade e as provas de auditoria, à medida que as organizações implementam aplicações e agentes de IA em produção. O quadro abrange nove domínios de governação e quatro funções: política, controlo, visibilidade e prova, respondendo à necessidade de verificar se os requisitos de governação são aplicados e observáveis durante o funcionamento do sistema de IA.
Arquitetura de governança de IA da Microsoft (Fonte: Publicação no blogue da Microsoft)
A arquitetura trata a governança como um ciclo operacional contínuo. As políticas estabelecem requisitos e classificações de risco, os controlos traduzem-nos em regras de acesso e de tempo de execução, a observabilidade capta o comportamento do sistema e as avaliações testam a qualidade e a segurança. Os processos de auditoria transformam, então, a telemetria operacional em evidência para a conformidade e a investigação de incidentes.
Manasa T. Ramalinga, arquiteta de soluções na nuvem da Microsoft, descreveu a motivação numa publicação no LinkedIn que acompanha a arquitetura. Acrescentou que as organizações que estão a colocar cargas de trabalho de IA em produção estão a reestruturar as suas bases para construir sistemas mais seguros, em vez de tratarem a governança como algo secundário.
As organizações não podem escalar o que não conseguem controlar
A Microsoft identifica nove domínios de governação: política, governação de dados, governação de modelos, observabilidade, avaliações, segurança, identidade e acesso, auditoria e conformidade, e governação de agentes. Os controlos de tempo de execução podem abranger interações entre utilizadores, agentes, modelos, ferramentas, APIs, servidores MCP e sistemas empresariais.
A arquitetura combina o Microsoft Foundry com serviços que incluem o Microsoft Purview, o Microsoft Entra ID, o Defender e o Azure API Management. O AI Gateway do Foundry fornece um limite de tempo de execução para autenticação, limites de tokens, quotas e aplicação de políticas. A Microsoft também documenta a utilização do gateway para gerir ferramentas MCP, proporcionando autenticação centralizada, limitação de taxa, restrições de IP e registo de auditoria sem modificar os servidores MCP ou o código dos agentes. Documentação do Microsoft Foundry AI Gateway, orientações da Microsoft para a gestão de ferramentas MCP
As avaliações são realizadas tanto antes da implementação como em produção. O Microsoft Foundry suporta a avaliação de aplicações e agentes de IA em relação a conjuntos de dados utilizando avaliadores integrados e personalizados, permitindo que as equipas avaliem a qualidade e a segurança antes do lançamento e monitorizem o comportamento em produção posteriormente.
Anthony Bartolo, Principal Cloud Advocate da Microsoft, descreveu a distinção operacional numa publicação no LinkedIn
A sua política de IA só é considerada governação quando a produção a comprovar. Ele delineou o ciclo como sendo composto por regras definidas pela política, controlos de execução que as aplicam, observabilidade que capta o comportamento, avaliações que testam a qualidade e a segurança e auditorias que convertem a telemetria em evidência.
Ciclo de vida da governação da IA, desde a política até à classificação de riscos (Fonte: Publicação no blogue da Microsoft)
A abordagem é mais abrangente do que um plano de controlo específico da Microsoft. O Quadro de Gestão de Riscos de IA do NIST e o Perfil de IA Generativa fornecem um quadro independente de fornecedores para a gestão de riscos de IA ao longo do ciclo de vida, incluindo governação, medição, avaliação e mitigação de riscos. A arquitetura da Microsoft traduz essas preocupações de governação em controlos concretos da plataforma e telemetria operacional.
A governança de agentes adiciona controlos relativos à identidade, acesso, atividade e pontos de verificação do fluxo de trabalho dos agentes. O «Agent Governance Toolkit» de código aberto da Microsoft fornece capacidades de segurança em tempo de execução para agentes autónomos, incluindo a aplicação de políticas e pontos de interceção. A arquitetura também descreve a «Agent Control Specification» como um mecanismo para pontos de verificação nas entradas dos agentes, chamadas de modelos, execução de ferramentas e saídas, sendo que as ações de maior impacto podem exigir aprovação humana