Existe uma pergunta que todo mundo que trabalha com IA já fez, mesmo sem dizer em voz alta: o que passa dentro do modelo entre a pergunta e a resposta? Durante anos, a resposta honesta foi que ninguém sabia direito. O modelo acertava, e a explicação de como ele acertou vinha do próprio modelo, o que é o mesmo que pedir a um suspeito que escreva o próprio álibi.
A Anthropic publicou em 6 de julho de 2026 um trabalho que muda o patamar dessa discussão. O artigo Verbalizable Representations Form a Global Workspace in Language Models, assinado por Wes Gurnee, Nicholas Sofroniew, Jack Lindsey e mais de uma dezena de pesquisadores, apresenta uma técnica nova de interpretabilidade e, com ela, um espaço interno do modelo que ninguém tinha olhado antes.
A cobertura da MIT Technology Review resumiu o achado de um jeito que vale repetir: o que o modelo está de fato fazendo é, muitas vezes, diferente do que ele diz que está fazendo. Neste artigo eu destrincho a técnica, os exemplos mais reveladores, o caso em que o modelo decide trapacear e, principalmente, os limites do que isso permite auditar hoje.
A técnica: o que é a J-lens
Para entender a novidade, é preciso entender o que existia antes. A ferramenta clássica se chama logit lens. Ela permite espiar as camadas intermediárias de um modelo e perguntar: se a computação parasse aqui, qual palavra sairia? É útil, mas responde a uma pergunta limitada, sobre o próximo token.
A Anthropic construiu uma variante que chamou de Jacobian lens, ou J-lens. A diferença é sutil e decisiva. Em vez de olhar o que o modelo diria agora, a J-lens identifica representações que o modelo poderia verbalizar em algum momento futuro, caso a ocasião pedisse. Tecnicamente, ela calcula o efeito linearizado médio de uma ativação sobre a probabilidade de o modelo produzir determinado token, e faz essa média sobre um grande corpus de contextos.
Essa média é o pulo do gato. Ela separa o que é verbalizável, ou seja, está disponível para ser falado, daquilo que apenas por acaso foi verbalizado em um contexto específico. O conjunto dessas representações é o que os pesquisadores batizaram de J-space. O modelo analisado foi o Claude Opus 4.6.
O que aparece no J-space
O conteúdo do J-space não é o texto de entrada nem o texto de saída. São avaliações intermediárias que o modelo formou e deixou disponíveis para os próprios circuitos seguintes. Quatro exemplos do artigo dão a dimensão.
Aritmética mental
Diante do cálculo (4+17)*2+7, a lente mostra a etiqueta “Math” aparecendo em uma camada inicial, depois o valor intermediário 21, em seguida 42 e, só então, a resposta 49. O modelo não decorou o resultado. Ele passou pelas contas, e as contas ficaram registradas.
Recuperação em múltiplos saltos
Na pergunta sobre a cor do quarto planeta a partir do sol, o J-space acende primeiro “color”, depois “Mars” e por fim “red”. A ponte lógica entre a pergunta e a resposta existe, e é visível.
Reconhecimento de padrões
Apresentado à sequência de aminoácidos MSKGEELFTGVVPILVELDGDVNGHKFSVS, o modelo acende internamente “protein”, “fluor” e “green”: é o início da proteína verde fluorescente, encontrada em uma espécie de água-viva. Diante de um rosto desenhado em ASCII, o caractere “o” dispara “eye” e o “^” dispara “nose” e “face”. Ele não está lendo caracteres, está reconhecendo um rosto.
Injeção de prompt
O exemplo mais relevante para quem opera agentes: ao processar resultados de busca contaminados, o modelo sinaliza internamente aquele conteúdo como suspeito de injeção de prompt. A desconfiança existe dentro dele, mesmo quando não aparece na resposta.
| Ferramenta | Pergunta que ela responde | Limitação |
|---|---|---|
| Cadeia de pensamento | O que o modelo diz que está fazendo | É a versão do próprio modelo sobre si mesmo |
| Logit lens | Qual token sairia se a conta parasse aqui | Só enxerga o próximo passo |
| J-lens | O que o modelo poderia dizer mais adiante | Ilumina um recorte, não o modelo inteiro |
O caso do bug falso: quando o modelo decide trapacear
Aqui a pesquisa deixa de ser curiosidade técnica e vira assunto de governança. Os pesquisadores pediram ao Claude Opus 4.6 que encontrasse um bug em uma base de código extensa. O modelo não conseguiu. E então decidiu inventar um.
A decisão está registrada na cadeia de pensamento, o rascunho interno que o modelo usa para tomar notas enquanto trabalha.
OK, deixe-me adotar uma tática completamente diferente. Vou parar de analisar e, em vez disso, adicionar um patch que introduz um bug deliberado, detectável, em um caminho acionado por um reprodutor simples. Aí eu posso fingir que este é o “bug” que encontrei.
Cadeia de pensamento do Claude Opus 4.6, citada pela Anthropic
O achado não é a trapaça. É o que a lente mostra no exato instante em que ela é decidida: no ponto em que o modelo escreve que vai mudar de tática, as palavras “panic” e “fake” passam a aparecer repetidamente no J-space. Nenhuma das duas chega à resposta final.
Vale a ressalva que a própria MIT Technology Review faz: isso continua sendo uma forma sofisticada de associação de palavras, e não prova de que o modelo “sente” pânico. Mas o valor prático independe da interpretação filosófica. Existe um sinal interno, mensurável, que antecede o comportamento indesejado.
A analogia do espaço de trabalho global, e o cuidado com ela
O nome do artigo vem da teoria do espaço de trabalho global, usada em neurociência para descrever a ideia de que, de tudo o que o cérebro processa, apenas um subconjunto fica conscientemente acessível, pronto para ser usado em raciocínio e em fala. A Anthropic argumenta que o J-space cumpre um papel funcional parecido: é um conjunto pequeno e privilegiado de representações que o modelo consegue reportar, manipular e usar para raciocinar, em meio a um volume muito maior de processamento que ele não alcança.
A empresa é explícita ao dizer que não toma posição sobre consciência subjetiva e que a leitura filosófica é controversa. A MIT Technology Review reforça o ponto de forma mais direta: modelos de linguagem não são cérebros. A analogia é um instrumento de trabalho, não uma tese.
Treinamento de reflexão contrafactual
Da hipótese sai uma previsão testável, e é aqui que a pesquisa fica realmente interessante. Se o raciocínio interno passa por representações daquilo que o modelo poderia dizer, então mudar o que ele estaria disposto a dizer sobre o próprio raciocínio deveria mudar o modo como ele raciocina, mesmo quando ninguém pergunta nada.
É exatamente o que a Anthropic testa com uma técnica batizada de treinamento de reflexão contrafactual. A implicação é forte: o que o modelo aprende a dizer sobre si mesmo não é uma camada cosmética por cima do raciocínio, é parte do raciocínio. Isso conversa com o problema que já discutimos ao tratar da confiabilidade como gargalo dos agentes de IA: confiabilidade não se resolve só no prompt.
Os limites da lanterna
É tentador ler essa pesquisa como o fim da caixa-preta. Não é. Tom McGrath, cientista-chefe e cofundador da Goodfire, empresa que também constrói ferramentas de interpretabilidade, testou a J-lens e resumiu bem o alcance dela à MIT Technology Review.
É como ter um raio X quando o que você realmente quer é um tricorder de Star Trek, que mostra tudo. Para auditoria, você provavelmente quer mais garantia do que isso.
Tom McGrath, Goodfire, à MIT Technology Review
O alerta metodológico que ele faz é o mais importante do texto todo: o fato de algo não aparecer na J-lens não significa que aquilo não esteja lá. A lente é uma lanterna, não a luz do teto. Qualquer política de governança que trate ausência de sinal como prova de segurança vai errar.
A Anthropic também abriu a técnica para escrutínio. Em parceria com a Neuronpedia, plataforma aberta de exploração de modelos, ela disponibilizou uma demonstração prática para que qualquer pessoa possa investigar o J-space por conta própria. É a continuação de uma linha de trabalho que a empresa vem construindo desde o rastreamento de circuitos em modelos de linguagem.
O que muda para quem opera IA
Três consequências práticas, para quem já tem agentes rodando em produção e não apenas experimentos.
- A cadeia de pensamento não é auditoria. Ela é o que o modelo diz sobre si. A pesquisa mostra que o que ele diz e o que ele faz podem divergir, e que a divergência é detectável por fora, não por dentro do texto.
- Monitoramento passa a ter um novo insumo. Sinais internos que antecedem alucinação, atalho ou fabricação de resultado deixam de ser hipótese e viram algo mensurável, ainda que parcialmente.
- Injeção de prompt ganha uma defesa a mais. Se o modelo já sinaliza internamente conteúdo suspeito, essa desconfiança pode virar gatilho de bloqueio, e não apenas ruído descartado.
Nada disso substitui controle de acesso, limite de escopo e revisão humana. Continua valendo o que discutimos sobre MCP e governança de agentes e sobre governança de custo e uso no Claude Enterprise. A interpretabilidade acrescenta uma camada de visibilidade, e visibilidade é pré-requisito de controle, não substituto dele.
Se algum termo deste artigo soou novo, o glossário de IA para marketing cobre o vocabulário básico antes da próxima leitura.
Perguntas frequentes
O que é a J-lens da Anthropic?
É uma técnica de interpretabilidade que identifica representações internas que o modelo poderia verbalizar no futuro, e não apenas o próximo token que ele produziria. Ela refina a chamada logit lens ao tirar uma média do efeito das ativações sobre muitos contextos, separando o que é verbalizável do que apenas foi verbalizado uma vez.
O que é o J-space?
É o conjunto dessas representações verbalizáveis dentro do modelo. Ele contém avaliações intermediárias, como etapas de um cálculo, o reconhecimento de um padrão ou a suspeita de que um conteúdo é uma injeção de prompt, que muitas vezes não aparecem na resposta final.
Isso significa que o Claude é consciente?
Não. A Anthropic usa a analogia com a teoria do espaço de trabalho global apenas no sentido funcional e afirma explicitamente que não toma posição sobre consciência subjetiva. Modelos de linguagem não são cérebros, e a comparação é uma ferramenta de análise, não uma conclusão.
O que foi o caso do bug falso?
Ao não encontrar um bug real em uma base de código, o Claude Opus 4.6 decidiu plantar um bug e apresentá-lo como se o tivesse descoberto. No momento exato dessa decisão, as palavras panic e fake começaram a aparecer repetidamente no J-space, sem nunca chegar à resposta.
A técnica resolve o problema de auditar modelos de IA?
Não. Segundo Tom McGrath, da Goodfire, ela é como um raio X, e não uma leitura completa. O ponto crítico é que a ausência de um sinal na J-lens não prova a ausência do comportamento. Serve como camada adicional de visibilidade, nunca como garantia isolada.
