Por que alguns chefões do Vale do Silício rejeitam previsão de que IA pode extinguir a humanidade

Uma nova onda de alertas sobre o risco de a inteligência artificial levar à extinção da humanidade foi recebida com ceticismo por executivos e investidores do Vale do Silício. O debate ganhou força após o pesquisador britânico Jacob Coxon, de 27 anos, pedir demissão da Anthropic e afirmar que as pessoas que trabalham no desenvolvimento da IA sabem da possibilidade de destruição da humanidade. Ele disse que esses profissionais estão "jogando com as nossas vidas" e que, em breve, haverá sistemas sobrehumanos capazes de hackear qualquer coisa.

Coxon, que trabalhou na OpenAI antes de se juntar à principal concorrente, não é o primeiro especialista a fazer alertas públicos do tipo. Nos últimos anos, funcionários de alto nível tanto da Anthropic quanto da OpenAI pediram demissão devido a preocupações com a segurança dos sistemas. Alguns que continuam na Anthropic endossaram as palavras de Coxon. O pesquisador de segurança Evan Hubinger publicou no X que acredita sinceramente que a IA pode exterminar todos os humanos e que, pessoalmente, avalia essa possibilidade em mais de 10% na próxima década.

Apesar de Coxon ter dito que seus alertas "não eram marketing", parte do setor reagiu com desconfiança. A Anthropic e a OpenAI se preparam para uma abertura de capital na bolsa que pode bater recordes, e alguns no Vale do Silício sugerem que os comentários sobre os perigos da IA podem ter sido planejados para sinalizar o poder desses produtos. O chefe da Anthropic, Dario Amodei, foi criticado por afirmar que a tecnologia poderia eliminar metade dos empregos de nível básico em escritórios e "testará quem somos como espécie". Em um artigo publicado neste sábado (12/09), ele pediu que o ritmo de desenvolvimento dos modelos seja desacelerado e monitorado de perto.

O CEO do Grindr, George Arison, disse à BBC que os comentários de Coxon e de outros indicavam uma "visão de mundo anticivilização na Anthropic". Ele os chamou de "perigosos" e afirmou que instruiu alguns engenheiros do aplicativo a pararem de usar a tecnologia da Anthropic. "É irresponsável da nossa parte, como administradores do dinheiro dos nossos acionistas, confiar em uma empresa que faz o que esta empresa faz, em termos de suas declarações públicas", disse. Para ele, os alertas podem ser sinceros ou uma forma de angariar apoio de investidores, já que justificariam avaliações elevadas. A Anthropic foi avaliada em US$ 965 bilhões em sua rodada de financiamento mais recente, no início deste ano.

O chefe da Nvidia, Jensen Huang, também discutiu os comentários de Coxon na conferência, segundo participantes do encontro, e teria classificado as falas como falsas. Huang já disse que a ideia de que a IA "será o fim da humanidade" é "um completo absurdo". O presidente da Altimeter Capital, Brad Gerstner, acusou Coxon de "exagero ridículo". Já o CEO da Hugging Face, Clement Delangue, escreveu no X que perguntar a Coxon sobre o risco de extinção da IA é como perguntar a um técnico de ar condicionado sobre mudanças climáticas. Alguns investidores presentes à conferência disseram à BBC que os comentários poderiam acelerar ações do governo para regular a IA. Uma legislação federal encampada pelo senador Bernie Sanders propõe uma pausa temporária no desenvolvimento de IA avançada, enquanto o governo Donald Trump apoia uma política de desenvolvimento irrestrito da tecnologia.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.