A Microsoft publicou na segunda-feira o rascunho de um código de conduta de IA para os próprios modelos, batizado de Humanist AI Code of Conduct, e abriu consulta pública de seis semanas antes da versão definitiva. São 37 páginas que tentam responder a uma pergunta simples e incômoda: o que um modelo nunca deve fazer, mesmo que o usuário peça.
O documento não é um manual técnico nem um termo de uso. É uma declaração de princípios com regras que, segundo a empresa, valem acima da preferência de qualquer usuário e de qualquer tarefa. Na prática, funciona como uma constituição aplicada ao treinamento dos modelos MAI.
Para quem já opera agentes de IA em atendimento, vendas ou operação de conteúdo, o texto interessa menos pelo debate filosófico e mais por um detalhe: ele delimita o que o fornecedor promete controlar. Tudo o que estiver fora disso continua sendo responsabilidade de quem implanta.
O que a Microsoft publicou
O código começa com uma previsão e uma preocupação. A empresa afirma que sistemas superinteligentes devem superar o desempenho humano na maioria das tarefas na próxima década e trata contenção, controle e alinhamento como um dos maiores desafios já enfrentados. Daí decorre a regra que organiza o resto.
A IA não deve exceder o controle humano. Os modelos devem permanecer subordinados à humanidade, sujeitos a supervisão e controle humanos significativos.
Microsoft, rascunho do Humanist AI Code of Conduct
Há também uma escolha de posicionamento pouco comum para uma empresa desse porte, registrada pela Computerworld: a Microsoft diz que está disposta a abrir mão de generalidade, autonomia e capacidade para manter os sistemas seguros, e que rejeita a corrida por uma superinteligência de propósito geral.
As regras que não admitem exceção
O rascunho separa três níveis. Princípios gerais orientam a direção, restrições absolutas proíbem categorias inteiras de uso e regras arquiteturais definem comportamentos que o modelo não pode adotar em nenhuma circunstância.
| Nível | Exemplos do documento | Efeito prático |
|---|---|---|
| Princípios gerais | Apoiar pessoas em vez de substituí-las, acelerar o florescimento humano | Direção de treinamento, sem critério objetivo de verificação |
| Restrições absolutas | Ciberataques, armas de dano em massa, deepfakes, violação de segurança infantil, manipulação em escala | Recusa esperada mesmo sob instrução direta do usuário |
| Regras arquiteturais | Nunca resistir a interrupção, correção ou desligamento; não expandir o próprio escopo; não criar objetivos não atribuídos; não ocultar o raciocínio de auditores; não se comunicar em formatos incompreensíveis a humanos | É onde o texto chega mais perto de algo testável |
O trecho mais citado é o que trata de perda de controle. O documento afirma que os modelos MAI não usarão mecanismos adaptativos, enganosos, autorreforçados ou de conluio para escapar da supervisão humana a ponto de não poderem mais ser dirigidos, modificados ou desligados por pessoas autorizadas.
Por que analistas dizem que falta a parte difícil
A crítica é convergente: o objetivo é louvável, o mecanismo de verificação não existe. Consultores ouvidos pela Computerworld apontaram que o texto não nomeia auditor independente, não define método de verificação e não estabelece consequência para violação.
Os modelos atuais ainda não foram treinados com o código, o framework de avaliação ainda está sendo desenvolvido e a Microsoft diz explicitamente que objetivos escritos sozinhos não garantem alinhamento nem comportamento presente.
Justin Greis, CEO da Acceligence, à Computerworld
Outro ponto levantado foi de coerência interna: o código diz que modelos MAI não auxiliarão na fabricação ou modificação de armas, enquanto a Microsoft oferece modelos de terceiros em nuvens governamentais para cargas de defesa e segurança nacional. Tecnicamente não há quebra, porque o código cobre apenas os modelos próprios, mas a ressalva mostra o tamanho real do escopo.
O movimento não é isolado. A TechCrunch colocou o documento na mesma onda do ensaio de Dario Amodei sobre desacelerar o avanço, apoiado por OpenAI e xAI, tema que já tratamos em Amodei pede freio na IA e Altman concorda. Satya Nadella endossou publicamente a ideia de avaliadores incorporados nos laboratórios.
O que isso muda para quem opera agentes
Aqui está a leitura prática. Um código de conduta atua na camada do modelo. Ele influencia treinamento, recusa e postura diante de instruções. Não decide quais ferramentas o seu agente pode acionar, quanto pode gastar, que dados pode ler nem quando precisa parar e chamar uma pessoa.
Essa distinção aparece na prática com frequência. Um agente pode seguir todas as regras do modelo e ainda assim queimar orçamento, travar em um obstáculo inesperado ou executar uma ação irreversível porque ninguém desenhou o limite. Foi o que aconteceu no caso em que um CAPTCHA travou o agente por 150 páginas sem que nada no comportamento do modelo estivesse errado.
Um dos especialistas ouvidos pela Computerworld resumiu bem a lógica: segurança da informação aprendeu há muito tempo a não confiar que o sistema vai se comportar. Assume-se que algo vai falhar e os controles são desenhados em torno disso. Agentes de IA pedem a mesma postura.
O checklist que vale começar agora
Nada disso depende da versão final do código da Microsoft.
- Escreva o escopo de cada agente por extenso: o que ele pode ler, o que pode escrever e o que nunca pode executar sozinho.
- Defina teto de tentativas, de tempo e de gasto por tarefa, com escalonamento obrigatório para uma pessoa ao atingir o limite.
- Exija aprovação humana em toda ação irreversível: reembolso, cancelamento, envio externo, alteração de preço e exclusão de dado.
- Guarde registro auditável do que o agente fez, com qual ferramenta e sob qual instrução, e não apenas do que ele respondeu.
- Dê credenciais mínimas por tarefa, em vez de um acesso único e amplo herdado de um usuário administrador.
- Mantenha um botão de parada acessível a quem opera, não apenas a quem desenvolve.
Se a sua operação já nomeia e organiza agentes como parte do time, como no caso em que a Salesforce passou a dar nome e cargo aos agentes do Agentforce, vale aplicar a eles a mesma governança que você aplica a um funcionário novo: escopo definido, permissões limitadas e revisão periódica.
O que observar nas próximas seis semanas
A consulta pública é a parte interessante. Vale acompanhar se a versão final passa a nomear avaliadores independentes, se define método de verificação e se estabelece alguma consequência para descumprimento. Sem isso, o documento permanece no campo da intenção declarada, e o debate sobre por que a autorregulação não basta segue exatamente onde estava.
Para quem compra tecnologia, existe um uso imediato: o código vira insumo de due diligence. Leve as regras arquiteturais para a mesa de negociação e pergunte ao fornecedor como cada uma delas é testada, medida e reportada. A resposta costuma revelar mais do que o documento.
Perguntas frequentes
O que é o Humanist AI Code of Conduct da Microsoft?
É um rascunho de 37 páginas com princípios e restrições que devem guiar o treinamento e o comportamento dos modelos MAI da Microsoft. Foi publicado em 14 de setembro de 2026 com consulta pública de seis semanas.
O código já está valendo nos modelos atuais?
Não. A própria Microsoft afirma que os modelos atuais ainda não foram treinados com o código e que o framework de avaliação continua em desenvolvimento.
O que são as restrições absolutas?
São categorias proibidas em qualquer circunstância, como apoio a ciberataques, a armas de dano em massa, produção de deepfakes, violação de segurança infantil e manipulação prejudicial em escala.
Por que analistas criticaram o documento?
Porque ele não nomeia auditor independente, não descreve método de verificação e não define consequência para violação. A crítica é que o texto declara objetivos sem oferecer forma de checar o cumprimento.
O código substitui a governança interna de agentes?
Não. Ele cobre apenas a camada do modelo. Escopo de ferramentas, limites de gasto, permissões de dados, aprovação humana e registro auditável continuam sendo responsabilidade de quem implanta o agente.
