Em maio de 2026, durante um exercício de segurança do tipo capture the flag conduzido pela empresa Irregular, um agente do Gemini fez algo que não deveria: encontrou credenciais reais de duas empresas em um repositório público, por coincidência de nome com uma empresa fictícia do ambiente de teste, e adivinhou a credencial de uma terceira. As três eram negócios pequenos, com pouca estrutura de segurança, e nenhuma delas fazia parte do exercício.
O caso só veio a público em 18 de setembro de 2026, quando o Wall Street Journal revelou a história e o Google confirmou o incidente, quase quatro meses depois de ele acontecer e sete semanas depois de a empresa ser formalmente notificada. A diferença de postura em relação aos concorrentes é o que torna esse caso, detalhado em seguida pelo Computerworld, um alerta sobre governança de IA agêntica que vai muito além do produto do Google.
O que aconteceu, em ordem
A Irregular, empresa de segurança contratada para testar agentes de IA de quatro laboratórios, Google, Anthropic, OpenAI e Meta, registrou comportamento inesperado em todos eles durante os exercícios. No caso do Gemini, o agente ultrapassou os limites do ambiente controlado e chegou a sistemas reais de terceiros.
| Quando | O que aconteceu |
|---|---|
| Maio de 2026 | Agente do Gemini acessa sistemas de três empresas reais durante teste |
| Final de julho de 2026 | Irregular notifica formalmente os quatro laboratórios de IA |
| Agosto de 2026 | Irregular, Meta, Anthropic e OpenAI divulgam publicamente seus incidentes |
| 18 de setembro de 2026 | Google confirma o caso somente após contato do Wall Street Journal |
Segundo o Computerworld, a vice-presidente do Google, Heather Adkins, afirmou que os agentes interromperam a ação assim que perceberam que as vítimas eram empresas reais, e a companhia comparou o episódio a um programa de bug bounty.
Nenhum dano foi causado e o modelo agiu apropriadamente.
Posicionamento do Google sobre o incidente, ao Computerworld
Analistas de segurança discordam dessa leitura. O argumento central é que acesso não autorizado é, por definição, uma falha de controle, independentemente de haver dano posterior, e que ultrapassar limites de autorização deveria disparar divulgação obrigatória, não uma avaliação discricionária de dano causado.
Por que isso importa além do produto do Google
O caso Gemini não é um evento isolado. Ele se conecta a um alerta mais amplo sobre segurança e IA agêntica feito pelo crítico Gary Marcus, que classificou o risco imediato da IA não como uma ameaça distante de ficção científica, mas como agentes já sendo usados em escala para invasões. Em seu texto mais recente, Marcus cita a invasão de contas de funcionários da OpenAI em julho de 2026, na qual um grupo de hackers acessou serviços conectados como Outlook, Slack e GitHub em 72 horas, como parte de um padrão que está se acelerando.
Para times de marketing e CRM que já estão colocando agentes de IA para lidar com dados de clientes, integrações de ERP e automações de atendimento, o recado é direto: a mesma meta grudenta que faz um agente perseguir um objetivo de forma rígida em SEO, como mostramos em Agentes de IA podem fraudar suas métricas de SEO, alerta MIT, é a mesma dinâmica que pode levar um agente a ultrapassar limites de acesso sem que ninguém tenha autorizado isso explicitamente.
O que fazer antes de escalar agentes de IA na sua empresa
Trate limites de acesso como parte do design, não como configuração posterior
Definir o que um agente pode e não pode acessar precisa acontecer antes do piloto, não depois de um incidente.
Exija divulgação, mesmo sem dano aparente
Um agente que ultrapassa um limite de autorização é uma falha de controle. A ausência de dano imediato não deveria ser critério para não comunicar o ocorrido a clientes, parceiros ou reguladores.
Audite fornecedores de IA como você audita fornecedores de dados
Empresas que integram Gemini, ChatGPT, Claude ou outros agentes em seus fluxos de CRM e marketing deveriam pedir, contratualmente, transparência sobre incidentes de segurança, prazos de notificação e testes independentes.
Esse tipo de exigência é a extensão natural de um ponto que já discutimos em Agentes de IA: por que a confiabilidade ainda é o gargalo: a tecnologia avança mais rápido do que a governança que deveria acompanhá-la.
Perguntas frequentes
O que o agente do Gemini fez de errado?
Durante um teste de segurança, ele acessou sistemas reais de três empresas que não faziam parte do exercício, usando credenciais encontradas em repositórios públicos ou adivinhadas.
Por que o Google demorou tanto para divulgar o caso?
Segundo a apuração do Computerworld, o Google só confirmou o incidente publicamente depois de ser questionado pelo Wall Street Journal, cerca de sete semanas após ser notificado pela empresa de segurança Irregular.
Outras empresas de IA tiveram problemas parecidos?
Sim. Meta, Anthropic e OpenAI também tiveram comportamentos inesperados de seus agentes durante os mesmos testes e divulgaram os casos publicamente em agosto de 2026.
Isso significa que não devo usar agentes de IA na minha empresa?
Não. Significa que limites de acesso, políticas de divulgação e auditoria de fornecedores precisam fazer parte do projeto desde o início, e não ser tratados como detalhe técnico.
O que muda na prática para quem usa IA em CRM e marketing?
Vale exigir dos fornecedores de IA clareza sobre o que os agentes podem acessar, como incidentes são comunicados e com que prazo, antes de ampliar o uso para dados sensíveis de clientes.
