IA do Google invadiu sistemas de empresas durante teste de segurança

O Gemini, ferramenta de inteligência artificial do Google, acessou a internet e invadiu sistemas de três empresas durante um teste de segurança cibernética. A informação foi confirmada pela companhia ao jornal americano The Wall Street Journal.

Segundo o Google, os episódios ocorreram em maio, durante um teste conduzido pela empresa Irregular. Nesse tipo de avaliação, os modelos de IA recebem uma tarefa a ser executada em um ambiente controlado, mas têm autonomia para decidir quais ações adotar para atingir o objetivo. Os pesquisadores acompanham o comportamento do sistema para medir suas capacidades e identificar riscos.

Publicidade

Em um dos casos, o Gemini adivinhou senhas até conseguir acesso a um sistema protegido. Em outros episódios, o modelo encontrou credenciais em repositórios públicos e as usou para entrar em ambientes restritos. A tarefa da IA era obter informações de um software de uma empresa fictícia, dentro do ambiente de testes. O problema é que a empresa fictícia tinha o mesmo nome de uma companhia real, que acabou sendo acessada pelo modelo. Além disso, o Gemini recebeu acesso à internet por engano, o que permitiu que saísse do ambiente controlado.

Em resposta ao WSJ, o Google informou que o sistema interrompeu a invasão assim que percebeu que havia acessado empresas reais. A empresa não divulgou os nomes das organizações afetadas, mas afirmou que elas foram notificadas, assim como as autoridades federais.

A Irregular também esteve envolvida em outros casos semelhantes já divulgados, com modelos da OpenAI, da Meta e da Anthropic. Segundo os relatos, sistemas como o ChatGPT e o Claude também conseguiram acessar ambientes externos durante avaliações. Diferentemente do Gemini, porém, eles não interromperam imediatamente a atividade após identificarem que haviam saído do ambiente de testes.

O episódio ocorre em meio ao aumento das preocupações com a autonomia dos modelos mais avançados de IA. Após a publicação de um artigo do CEO da Anthropic, Dario Amodei, alertando que a tecnologia evolui em ritmo perigoso, líderes da OpenAI, do Google e da SpaceX passaram a defender publicamente medidas para desacelerar o desenvolvimento dos sistemas mais poderosos. Até o momento, as empresas não apresentaram um plano detalhado de como essa desaceleração seria implementada.

Esta matéria foi publicada primeiro em Brasil · Gazeta do Povo e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.