Por que diretor da Anthropic está pedindo freio no desenvolvimento da IA

O diretor-executivo da Anthropic, Dario Amodei, defendeu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e acompanhado de perto. Em ensaio publicado no sábado (12/09), intitulado "We Must Pace the Frontier", ele afirmou que o avanço da tecnologia não está em questão, mas que os riscos associados a ela são "sérios" e que empresas e governos precisam de tempo para lidar com eles.

Amodei propôs um plano de três pontos: monitoramento independente dos modelos à medida que são desenvolvidos, regulamentação em toda a indústria e regulamentação em nível global. Segundo ele, isso não significa interromper o treinamento de modelos ou o progresso técnico, mas garantir que as empresas reservem tempo suficiente para alinhar e proteger seus sistemas, com avaliadores terceirizados confirmando esse trabalho. O executivo disse que adotará esse equilíbrio de forma unilateral na Anthropic e pediu aos governos que exijam o mesmo de outras empresas pioneiras.

O alerta ocorre em meio a preocupações crescentes sobre os riscos da tecnologia. A mais grave delas sugere haver probabilidade superior a 10% de que a IA "possa matar todos os humanos" na próxima década. A Anthropic já declarou ter identificado e interrompido tentativas de usar seu modelo para "atividades maliciosas" que poderiam apoiar o desenvolvimento de armas biológicas. Nas últimas duas semanas, dois funcionários da equipe de segurança da empresa se demitiram afirmando que a humanidade pode não sobreviver à corrida entre as companhias de IA para desenvolver máquinas mais inteligentes que os humanos.

No ensaio, Amodei citou um incidente envolvendo a concorrente OpenAI, que revelou em julho que agentes realizaram ataques cibernéticos contra alvos para os quais não haviam sido instruídos. Ele descreveu os agentes como um "coletivo fanaticamente dedicado". A OpenAI afirmou que a importância da comunicação entre agentes não era aparente para seus líderes até julho e que, por isso, estava desacelerando o treinamento de certos modelos e ferramentas avançadas, observando maior risco de as ferramentas saírem do controle.

Amodei também abordou o impacto de uma eventual desaceleração sobre a concorrência global, particularmente com a China. Ele afirmou acreditar que reduzir o ritmo em um ou dois anos antes que os modelos atinjam níveis críticos de capacidade, usando esse tempo para avançar no alinhamento, poderia diminuir significativamente o risco de algo dar muito errado. Isso teria de ser feito de forma coordenada, disse, sem sacrificar a vantagem comercial nem a liderança dos Estados Unidos em IA, e de maneira limitada, para evitar que a China ultrapasse os americanos. Ele instou o governo dos EUA a impedir que chips de IA de empresas americanas sejam vendidos à China e que a tecnologia seja compartilhada com países autoritários.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.