Anthropic diz ter barrado tentativa de uso de IA para fazer armas biológicas

A empresa americana de inteligência artificial Anthropic afirmou ter identificado e interrompido tentativas de uso de seu modelo de IA para "atividades maliciosas" que poderiam levar ao desenvolvimento de armas biológicas. As conclusões constam de um relatório de inteligência divulgado pela companhia e representam mais um capítulo da série de alertas feitos por pesquisadores e especialistas do setor sobre os riscos potenciais da tecnologia.

Segundo o documento, o uso indevido de recursos biológicos é "um dos riscos mais graves dos modelos de IA de ponta". Sem as salvaguardas adequadas, essas capacidades "poderiam ter consequências catastróficas", afirmou a Anthropic. O relatório destacou cinco estudos de caso de atores que usaram os modelos da empresa de maneiras que poderiam apoiar o desenvolvimento de armas biológicas. A empresa observou que as mesmas informações capazes de ajudar a produzir uma arma biológica também poderiam servir para desenvolver uma vacina ou uma cura para doenças.

Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times que a situação é "incrivelmente complexa". "Você não vê alguém, como se fosse em uma história em quadrinhos, dizendo: 'Ei, eu quero construir uma arma biológica para matar todo mundo'", afirmou.

O relatório também mencionou seis casos em que o modelo Claude foi usado para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, além dos sistemas de mira e controle que as operam. A empresa afirmou que o uso malicioso de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026. Nenhum dos casos envolveu o Claude Fable ou os modelos da classe Mythos, com exceção de um episódio de "destilação" — o treinamento de modelos menores a partir de modelos maiores e mais caros.

Além das tentativas ligadas a armas, a Anthropic relatou ter detectado usos indevidos que variaram de aplicativos de namoro falsos e golpes com wi-fi de hotéis a sistemas de vigilância criados para identificar dissidentes políticos. O documento cita ainda o uso do Claude por agentes ligados a uma campanha de ciberespionagem com base na Rússia e por uma instituição de propaganda iraniana, e acusa empresas chinesas de IA de tentarem replicar as capacidades do modelo. O grupo de hackers ShinyHunters e laboratórios sediados na China estão entre os nomes citados. A empresa disse ter incorporado as descobertas a seus processos para prevenir, detectar e interromper essas atividades no futuro, e afirmou ter compartilhado informações com autoridades e parceiros do setor quando apropriado.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.