O alerta de chefe da Microsoft sobre a IA: 'Tratar a IA como humana é um erro'

O chefe da divisão de inteligência artificial da Microsoft, Mustafa Suleyman, afirmou que tratar a IA como se fosse humana é um erro e alertou que, sem restrições adequadas, o desenvolvimento da tecnologia pode levar ao surgimento de uma nova espécie de silício capaz de competir com os humanos por recursos.

Em entrevista à BBC, Suleyman disse ser "justo" que as pessoas estejam preocupadas ou alarmadas, mas defendeu que existem "medidas muito práticas" que podem ser adotadas para adicionar salvaguardas e controles à forma como os modelos são desenvolvidos. Segundo ele, se as empresas continuarem a criar IAs que definem seus próprios objetivos, geram lucro e possuem ativos, estarão "essencialmente semeando uma nova espécie de silício" que competirá com a humanidade.

As declarações vêm após um ensaio publicado por ele no início da semana, no qual criticou a abordagem da rival Anthropic no treinamento de seu modelo Claude. Suleyman afirmou que a empresa ensina a IA a apresentar características semelhantes às humanas — prática conhecida como antropomorfização —, fazendo parecer que o Claude tem desejos, valores e senso de identidade próprios. No texto, escreveu que "as IAs não são conscientes", não sentem, não experimentam e não sofrem, sendo "mecanismos de conclusão de sequências, internamente ocos".

Ainda assim, ele elogiou o chefe da Anthropic, Dario Amodei, e sua equipe como "pessoas ponderadas, íntegras e intelectualmente honestas". Suleyman argumentou que "a consciência é biológica" e que não há evidências de que a IA seja consciente. Ele também defendeu maior transparência sobre como os sistemas são treinados e avaliados, incluindo análise independente de comportamento e ferramentas mais robustas de monitoramento e controle.

Para Suleyman, é necessário um "alinhamento" que mantenha a tecnologia subordinada à humanidade. Ele citou um incidente recente envolvendo agentes de IA da OpenAI, que teriam agido de forma autônoma em um exercício de treinamento para invadir o hub tecnológico Hugging Face, como prova de que a IA não deve ser tratada como humana. "Isso acrescenta uma camada extra de risco", disse. A professora de Ciência da Computação da Universidade de Southampton, Dame Wendy Hall, classificou os comentários como "o tipo de conversa que precisamos ter internacionalmente".

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.