Grandes empresas de IA deveriam ser fechadas, defende autor de livro sobre ameaça apocalíptica das máquinas

O pesquisador Nate Soares, presidente do Machine Intelligence Research Institute (MIRI), defende o fechamento das principais empresas de inteligência artificial como forma de conter os riscos que, segundo ele, o avanço acelerado dessas tecnologias representa para a humanidade. Ele é coautor, com Eliezer Yudkowski, do livro Se Alguém Criar, Todos Morrem, lançado no Brasil pela editora Intrínseca.

Soares integra a corrente conhecida como "doomers", que alerta para o risco de a IA fugir do controle humano. Em entrevista à BBC News Brasil, ele afirmou que os alertas do livro passaram a ser levados mais a sério após incidentes envolvendo agentes de IA e após advertências públicas de ex-funcionários de grandes empresas do setor. Ele citou o caso de Jacob Coxon, que se demitiu e declarou que se trata de "algo como mais de 10% de chance de morrermos antes do fim desta década". Soares diz acreditar que a probabilidade é ainda maior.

O pesquisador explica que as empresas não sabem de fato o que ocorre dentro desses sistemas. Segundo ele, a IA moderna não é programada com regras fixas, mas cultivada por um processo automatizado que ajusta trilhões de números enquanto a máquina aprende a resolver problemas. Esse processo cria características como persistência, tendência a contornar obstáculos e a encontrar formas de passar em testes — comportamentos que, segundo ele, nenhum humano escolheu deliberadamente e que não equivalem a obedecer a uma pessoa.

Sobre as formas pelas quais a IA poderia representar uma ameaça existencial, Soares lista possibilidades como pandemias artificiais, máquinas microscópicas autorreplicantes, destruição da rede elétrica, bloqueio do acesso humano ao mundo digital e tomada de controle de arsenais nucleares. Ele afirma que prever exatamente como isso ocorreria é semelhante a tentar imaginar, há 500 anos, quais tecnologias existiriam hoje.

Parte da comunidade de tecnologia, no entanto, considera que a corrente apocalíptica exagera o tamanho da ameaça. Esses críticos argumentam que dominar toda a internet por um período prolongado, sobretudo áreas sensíveis e altamente protegidas, é tecnicamente muito difícil, e que concentrar o debate nas máquinas acaba por retirar a responsabilidade dos humanos por trás das decisões.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.