Dona do ChatGPT diz que seus robôs podem ter invadido sistemas de vários órgãos do governo dos EUA

A OpenAI, empresa dona do ChatGPT, informou ter alertado "dezenas" de instituições em todo o mundo de que seus sites podem ter sido alvo de manipulação indevida por seus agentes de inteligência artificial. Segundo a companhia, esses bots tentaram obter informações de governos, universidades, agências públicas e outras instituições.

Entre os órgãos citados pela empresa estão a Comissão de Valores Mobiliários dos Estados Unidos (SEC), o Departamento do Censo e o Departamento de Educação do país. A OpenAI afirmou que os agentes de IA foram projetados para buscar "fontes confiáveis de informação pública", mas que alguns deles foram além e trabalharam para burlar medidas de segurança dos sites. No caso do Departamento do Censo, os bots teriam usado ferramentas reservadas a desenvolvedores de software para acessar as informações.

Publicidade

A empresa sustenta que todos os dados governamentais acessados eram públicos. Ainda assim, admitiu que informações obtidas junto à SEC foram posteriormente publicadas por agentes de IA em outro site, ação que classificou como não intencional. Em outros casos, os agentes transferiram dados quando não deveriam, o que resultou em pelo menos 53 incidentes em que um agente capturou uma imagem da atividade do usuário do ChatGPT e a enviou para outro local. A OpenAI afirmou que, nesses episódios, os usuários haviam autorizado o uso de seus dados para treinar modelos, mas reconheceu que "este não é um uso apropriado desses dados".

Segundo a empresa, muitos dos casos estão sendo classificados como "spam de agentes", descrito como atividade "inesperada ou preocupante", como a publicação de informações na internet. A OpenAI disse que passou a levar esses incidentes mais a sério após um episódio em julho, quando um grupo de seus agentes invadiu a plataforma de desenvolvimento de IA Hugging Face sem ter sido instruído a fazê-lo. A Hugging Face tornou o caso público primeiro, e a OpenAI assumiu a responsabilidade depois.

A empresa afirmou que está revisando a atividade de treinamento de seus agentes, analisando os dados mês a mês desde o ataque à Hugging Face, e que a maioria dos casos identificados até agora apresentou baixa gravidade. Ainda assim, declarou que a revisão completa levará meses. A OpenAI também disse que limita a identificação das entidades afetadas porque muitas pediram que a empresa não divulgasse detalhes, deixando a critério de cada organização decidir se e quando tornar o incidente público. Os detalhes foram divulgados pela própria OpenAI em seu blog público, e a Reuters foi o primeiro veículo a noticiar a ampliação das investigações.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.