A Anthropic escreveu a minuta de um projeto de lei de segurança em IA e a levou a parlamentares dos Estados Unidos. A proposta prevê que um modelo possa ser bloqueado se oferecer risco previsível e iminente de matar mais de 50 pessoas ou de causar mais de US$ 1 bilhão em danos materiais. A notícia foi publicada primeiro pela Politico, em 16 de outubro, e detalhada pela TechCrunch em 20 de outubro.
Importante: é uma minuta, não uma lei, e o texto completo não foi divulgado. Neste artigo, separamos o que foi reportado do que foi confirmado, explicamos o mecanismo proposto e indicamos o que uma empresa brasileira que usa modelos de IA deve acompanhar.
O que a minuta prevê
Segundo a TechCrunch, o bloqueio se aplicaria a um “risco previsível e iminente” ligado à criação ou liberação de arma biológica, a um modelo que escape aos controles do desenvolvedor ou a um ciberataque. A decisão final caberia a um juiz federal em Washington, D.C., e não a uma agência.
O mecanismo tem cinco passos. Avaliadores independentes, registrados no Departamento de Comércio, analisam o potencial de desastre do modelo. Se identificarem risco catastrófico iminente, têm 72 horas para avisar o Departamento. O Departamento pede a um juiz federal que suspenda a liberação. A minuta proibiria agências federais de suspender a distribuição por conta própria.
Os laboratórios podem pagar os avaliadores, desde que o pagamento não dependa do resultado. A TechCrunch observa que não está claro como isso evitaria influência indevida. Esse é um dos pontos que costumam gerar crítica em modelos de avaliação paga pelo avaliado.
Este projeto representa as propostas descritas no Advanced AI Framework da Anthropic.
Porta-voz da Anthropic, em reportagem da TechCrunch
O que foi confirmado e o que foi reportado
Reportado: o conteúdo da minuta, incluindo os limiares de 50 mortes e US$ 1 bilhão, o prazo de 72 horas e o papel do juiz. Esses detalhes vêm da Politico, que teve acesso ao texto, e da TechCrunch. Confirmado: um porta-voz da Anthropic confirmou a minuta à Politico e a vinculou ao Advanced AI Framework da empresa. A Anthropic não respondeu de imediato ao pedido de comentário da TechCrunch.
O Advanced AI Framework é o documento de base citado pelo porta-voz. Não reproduzimos o conteúdo dele aqui, porque a minuta em si não foi publicada.
Os mesmos números da lei da Califórnia
Os limiares de mais de 50 mortes e US$ 1 bilhão aparecem também na SB 53, lei da Califórnia sancionada recentemente, que usa o termo “risco catastrófico”. A Brookings tem uma explicação da lei californiana. A diferença, segundo a TechCrunch, é que a minuta é federal e coloca um juiz como árbitro final do bloqueio.
O debate americano sobre desligar modelos não é novo. Já cobrimos o AI Kill Switch Act e o pedido de Satya Nadella por um freio de emergência para IA.
Três posições no debate
A TechCrunch coloca a proposta no contexto de outras posições da indústria. A tabela resume as três citadas.
| Posição | Quem defende | Mecanismo |
|---|---|---|
| Avaliadores independentes e decisão judicial | Anthropic (minuta) | Avaliadores registrados avisam o governo; um juiz federal decide o bloqueio |
| Órgão autorregulador semelhante à FINRA | Demis Hassabis, da DeepMind | Entidade do próprio setor, como no mercado financeiro |
| Sem novas leis | Jensen Huang, da Nvidia | A indústria não precisaria de regulação adicional |
A reportagem observa que a proposta vai além do que a indústria costuma sugerir, que são sistemas voluntários de avaliadores internos. Também nota que os riscos descritos estão distantes das preocupações atuais, como hacking com agentes e incidentes de sistemas que desobedecem a operadores.
O que uma empresa brasileira deve acompanhar
A minuta não se aplica ao Brasil: é uma proposta federal dos Estados Unidos e ainda não é lei. Leitura da Analytikos: o efeito indireto está nos fornecedores. A maior parte dos modelos usados por empresas brasileiras vem de laboratórios americanos, e uma regra de suspensão de modelos, se aprovada, criaria um risco de continuidade, remoto, mas real.
Três medidas de governança são razoáveis desde já. Registre quais processos dependem de qual modelo. Evite acoplar o produto a um único fornecedor, de modo que seja possível trocar o modelo sem refazer o fluxo. E revise os contratos em busca de cláusulas de continuidade e de aviso sobre mudanças de serviço.
Para controles do dia a dia com agentes, veja Microsoft trata agentes de IA como ameaça interna e Agente da OpenAI usou carteira alheia: o que muda na governança. O tema continua em andamento: o texto da minuta pode mudar, e este artigo deve ser revisado quando houver versão pública.
Perguntas frequentes
A proposta da Anthropic já é lei?
Não. É a minuta de um projeto de lei que a empresa apresentou a parlamentares dos Estados Unidos. O texto completo não foi divulgado.
Quais são os limiares para bloquear um modelo?
Risco previsível e iminente de causar a morte de mais de 50 pessoas ou mais de US$ 1 bilhão em danos materiais, ligado a arma biológica, a um modelo que escape aos controles do desenvolvedor ou a um ciberataque.
Quem decidiria o bloqueio?
Um juiz federal em Washington, D.C., a pedido do Departamento de Comércio, depois do aviso de avaliadores independentes em até 72 horas. Agências federais não poderiam suspender a distribuição por conta própria.
A minuta vale para empresas brasileiras?
Não diretamente, pois é uma proposta federal dos Estados Unidos. O efeito indireto está no risco de continuidade para quem depende de modelos de laboratórios americanos.
O que as empresas podem fazer agora?
Mapear quais processos dependem de qual modelo, reduzir a dependência de um único fornecedor e revisar cláusulas contratuais de continuidade e de aviso de mudanças.
