Profissionais de IA estão 'genuinamente assustados' com futuro da humanidade, diz pesquisador que se demitiu da Anthropic

Profissionais que trabalham com inteligência artificial estão "genuinamente assustados" com a velocidade dos avanços da tecnologia e com o que ela pode representar para o futuro da humanidade. A afirmação é de Jacob Coxon, pesquisador de 27 anos que pediu demissão da Anthropic, empresa criadora do chatbot Claude, após três anos dedicados ao pré-treinamento de modelos de IA — primeiro na OpenAI e depois na Anthropic.

Em entrevista à BBC, Coxon disse acreditar que, se o ritmo atual de progresso não for reduzido, existe "uma grande chance de todos morrermos em um futuro próximo". O anúncio de sua saída foi feito em uma longa publicação no X, que viralizou em meio às crescentes preocupações do setor com a segurança da IA. Segundo ele, os funcionários dessas empresas falam "muito sério" quando pedem regulamentação, porque se sentem presos em uma corrida e têm medo das consequências. Alguns colegas, relatou, chegam a considerar comprar terrenos por temer a instabilidade resultante do avanço rápido da tecnologia.

A saída ocorre após Dario Amodei, diretor da Anthropic e ex-chefe de Coxon, defender em um ensaio que o desenvolvimento de modelos de IA seja desacelerado e monitorado de perto. Amodei afirmou que os riscos associados à tecnologia são "sérios" e que empresas e governos precisam de tempo para lidar com eles. Coxon apoiou a proposta, mas defendeu que a desaceleração seja coordenada com a China para evitar uma corrida em escala internacional. Entre os riscos citados por Amodei está o de um enxame de bots agindo como um supercomputador capaz de dominar a internet — cenário que, para Coxon, pode se tornar realista em seis meses a um ano.

As declarações de Coxon repercutiram de formas distintas. O cientista antropológico Evan Hubinger disse acreditar que a IA pode matar todos os humanos e estimou esse risco em mais de 10% na próxima década. O cientista da computação e ganhador do Prêmio Nobel Geoffrey Hinton avaliou que uma probabilidade de 10% "não é irrazoável". Já Marc Warner, diretor executivo da Faculty AI, afirmou ser "extremamente difícil estabelecer uma probabilidade", mas ressaltou que essas pessoas são "muito sinceras no que dizem".

Nem todos no setor compartilham o alerta. O diretor executivo da Hugging Face, Clement Delangue, comparou perguntar a Coxon sobre o risco de extinção da IA a perguntar a um técnico de ar condicionado sobre mudanças climáticas. O CEO da Nvidia, Jensen Huang, já classificou como "um completo absurdo" a ideia de que a IA "será o fim da humanidade". Críticos também afirmam que a Anthropic tem tentado provocar pressão regulatória para bloquear a concorrência. Ainda assim, Coxon demonstrou otimismo: disse que os pesquisadores da área "realmente querem ver o lado positivo", como resolver doenças e melhorar a vida de todos.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.