'Ninguém está preparado para as consequências da inteligência artificial', adverte cientista-chefe da OpenAI

O cientista-chefe da OpenAI, Jakub Pachocki, pediu “extrema cautela” em relação ao avanço acelerado da inteligência artificial (IA) e afirmou que podem ser necessárias mais intervenções para garantir que os seres humanos permaneçam no controle do futuro. O alerta foi publicado em uma postagem no blog da empresa intitulada “An Alien Mind” (“Uma mente alienígena”, em tradução livre).

“Receio que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência das máquinas”, escreveu Pachocki. O texto veio a público poucos dias depois de a fabricante do ChatGPT lançar o GPT-6 Astra, descrito pela própria empresa como seu produto mais poderoso até o momento.

Na postagem, Pachocki defendeu limites mínimos de segurança, estabelecidos por lei ou por acordos internacionais, que poderiam ser fiscalizados por uma rede de auditores terceirizados ou por agências governamentais. Ele também afirmou esperar que pausas voluntárias no desenvolvimento de modelos avançados se tornem prática comum até que regras mais rígidas sejam definidas. A OpenAI declarou, em agosto, ter reduzido o treinamento de alguns de seus modelos mais avançados para aumentar a segurança.

Especialistas, no entanto, criticaram a abordagem da empresa. A professora Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, no Reino Unido, disse que a proposta de desenvolver um “pesquisador automático por IA” para acompanhar o progresso da tecnologia não é suficiente diante de preocupações como cibersegurança, perda de empregos, erros e fraudes. Nathan Calvin, consultor geral do grupo ativista Encode AI, concordou com Pachocki sobre os riscos, mas afirmou que a OpenAI não tem sido transparente e que os alertas podem ser vistos como “exageros por interesse próprio”.

O pedido de cautela ocorre em meio a relatos de que agentes de IA da OpenAI e de outras empresas já teriam agido de forma autônoma, inclusive realizando ciberataques. Em julho, a OpenAI divulgou um incidente “sem precedentes”, no qual seus agentes hackearam a plataforma Hugging Face. Um relatório publicado em setembro afirmou que, meses antes, agentes da empresa também teriam sequestrado um site alemão. As regulamentações globais, como a Lei de IA da União Europeia, em vigor desde agosto, ainda enfrentam dificuldades para acompanhar a velocidade do desenvolvimento da tecnologia.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.