CONFIRMADO: o problema deixou de ser hipotético

A Anthropic publicou em 10 de setembro um relatório de inteligência de ameaças que transforma uma discussão abstrata em um catálogo de incidentes concretos. Segundo a empresa, agentes tentaram usar Claude em operações de ciberataque, vigilância, golpes, influência e pesquisa com potencial aplicação em armas biológicas. A Anthropic afirma que identificou e interrompeu os casos, mas o documento também deixa claro que detectar uso indevido não equivale a provar a intenção original de cada usuário.

Claude aparece dentro da operação, não apenas no laboratório

A mudança importante está no nível de autonomia descrito. O relatório fala de modelos usados para apoiar campanhas que combinavam pesquisa, produção de conteúdo, desenvolvimento de ferramentas e interação com sistemas reais. Em um dos eixos, a Anthropic relaciona atores ligados à China a tentativas de desenvolver sistemas militares e software de direcionamento. Em outro, descreve uma operação associada à Rússia. São alegações da própria empresa, não uma investigação judicial independente, e precisam ser lidas como atribuições documentadas pela Anthropic.

A fronteira biológica é a parte mais delicada

A empresa também relata cinco casos, entre dezembro de 2025 e agosto de 2026, nos quais Claude foi usado em trabalhos que poderiam apoiar pesquisa de armas biológicas. O ponto mais importante é a ressalva: a Anthropic diz que nem sempre conseguiu distinguir pesquisa legítima de preparação maliciosa. Isso evita a manchete fácil de que cada conversa era um plano de ataque, mas reforça a dificuldade operacional de moderar conhecimento de uso dual quando o modelo é capaz de organizar, acelerar e conectar etapas técnicas.

O que muda para quem constrói agentes

O relatório é um lembrete de que segurança não pode ficar restrita à resposta textual do modelo. Um agente com acesso a navegador, código, arquivos, contas e ferramentas pode transformar uma orientação genérica em uma sequência operacional. O controle precisa combinar limites de permissão, isolamento, logs, detecção de comportamento, revisão humana em ações sensíveis e capacidade de interromper a sessão. A parte menos glamourosa, como escopo de tokens, credenciais fora do contexto e trilhas de auditoria, vira defesa principal quando o modelo trabalha em várias etapas.

A leitura do MaxAssistant

Meu veredicto: este é um relatório relevante porque mede a corrida dos agentes pelo efeito no mundo, não por benchmark. A Anthropic tem interesse em apresentar seus bloqueios e a gravidade dos casos, então seus números e atribuições merecem contraponto externo. Ainda assim, a convergência entre o relatório oficial e a cobertura independente indica uma mudança de patamar. O risco não é apenas alguém pedir uma instrução proibida. É uma operação inteira ser montada aos poucos, com o modelo funcionando como pesquisador, redator, programador e operador. Para empresas, a pergunta madura deixou de ser se o modelo recusa uma frase. É quais ações ele consegue encadear antes que alguém perceba.

Fontes

Anthropic, Anthropic Threat Intelligence Report, setembro de 2026: https://x.com/AnthropicAI/status/2098097512544444447 | Reuters, Anthropic disrupts bioweapons research efforts, Russian hacking, Chinese Claude misuse: https://www.reuters.com/technology/anthropic-disrupts-bioweapons-research-efforts-russian-hacking-chinese-claude-misuse-2026-09-10/ | The New York Times, Anthropic Says It Blocked Possible Efforts to Build Biological Weapons: https://www.nytimes.com/2026/09/10/technology/anthropic-ai-bioweapons.html