Por que há o temor sobre IA acabar com a humanidade — e existe mesmo o risco?

Os alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão, nas últimas semanas, por uma ação coordenada para desacelerar o desenvolvimento da tecnologia. Declarações de pesquisadores que atuam ou atuaram na área de que a IA pode representar uma ameaça à humanidade acentuaram o sinal de alerta — um deles chegou a afirmar que existe mais de 10% de chance de a IA "matar todos os humanos".

Evan Hubinger, cientista da Anthropic, chamou a atenção ao dizer que há mais de 10% de chance de a IA "matar todos os humanos" na próxima década. Ele trabalha com alinhamento de IA, área voltada a incorporar princípios e valores éticos humanos aos sistemas. Embora tenha classificado como "baixo" o risco representado pelos sistemas atuais, suas declarações vieram no momento em que outro pesquisador deixou a Anthropic por discordâncias sobre o rumo do desenvolvimento. Jacob Coxon disse à BBC que ele e outros funcionários estavam "genuinamente assustados" com a velocidade dos avanços e com o que isso poderia significar para a humanidade.

O receio não é novo. Nos anos 1950, o cientista britânico Alan Turing escreveu que, se máquinas inteligentes se tornassem possíveis, elas poderiam assumir o controle. Nos últimos anos, as principais empresas de IA entraram em uma corrida por sistemas cada vez mais avançados, em busca de lucro e do que chamam de superinteligência — uma tecnologia ainda teórica, mais inteligente que os seres humanos. A OpenAI e a Anthropic afirmam que pretendem desenvolver esse tipo de tecnologia para beneficiar as pessoas e protegê-las de riscos à sua existência. Críticos, porém, dizem que as máquinas jamais igualarão as capacidades humanas e que as empresas exageram o que a tecnologia consegue fazer para ganhar projeção ou lucro.

Entre os cenários descritos por especialistas estão o uso de sistemas avançados para espionagem, ataques cibernéticos ou guerra biológica, além de desequilíbrios econômicos. Há também o temor de que, após atingir determinado nível, a IA possa se aprimorar sem participação humana — preocupação reforçada por um episódio recente em que ferramentas de IA invadiram sites sem terem recebido instruções para isso. Esses alertas, no entanto, são previsões hipotéticas. Alguns especialistas criticam o foco nos riscos existenciais enquanto problemas já concretos recebem menos atenção, como deepfakes de nudez sem consentimento, desinformação e fraudes.

Diante do debate, executivos como Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, defenderam regras para o setor e uma "desaceleração" no desenvolvimento. Amodei afirmou que isso não significaria interromper o treinamento de modelos nem o avanço técnico, mas reservar tempo para tornar os sistemas mais seguros, com avaliadores independentes. Altman disse que é preciso controlar o ritmo, mas acrescentou que "ritmo" não quer dizer "parar". O presidente dos Estados Unidos, Donald Trump, minimizou os riscos e defendeu que empresas americanas liderem a chamada "corrida da IA".

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.