Por que cofundador da Anthropic defende um 'botão de desligamento' obrigatório para IA

O cofundador da Anthropic, Jack Clark, afirmou que um "botão de desligamento" para sistemas de inteligência artificial, que possa ser verificado de forma independente, talvez precise ser obrigatório para as empresas do setor. Em entrevista à BBC, ele disse que uma forma de desligar completamente os mecanismos de IA caso se tornem muito perigosos é algo que a sociedade "talvez queira regulamentar".

Clark, um dos sete fundadores da Anthropic, observou que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo sua própria empresa, mas avaliou que os legisladores podem precisar impor a existência de uma dessas formas. Ele questionou se a sociedade deveria exigir que as empresas tivessem um botão de desligamento automático e se esse recurso poderia ser verificado por terceiros. "Acho que esse é o tipo de coisa que a sociedade vai querer saber e que, eventualmente, regulamentar", declarou.

Segundo Clark, os detalhes sobre os requisitos e a verificação do "botão de desligamento" devem fazer parte da "discussão política mais ampla" que está ocorrendo em torno da IA. Ele também afirmou que permitir que a tecnologia siga como uma "indústria totalmente desregulamentada" seria uma má ideia. "Estamos jogando dados com riscos imensos", disse. "E a questão é que precisamos mudar o rumo desta indústria."

O debate sobre segurança da IA ganhou destaque após uma série de alertas de executivos e funcionários de empresas do setor. O diretor-executivo da Anthropic, Dario Amodei, pediu no fim de semana que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto, acrescentando que qualquer ação para conter o avanço deve ser feita "sem sacrificar a vantagem comercial".

Nos Estados Unidos, legisladores apresentaram um projeto apelidado de "Kill Switch Act" (Lei do Botão de Desligamento, em tradução livre), que exigiria das empresas uma maneira de desativar ferramentas de IA problemáticas e daria a certas agências governamentais o poder de determinar que uma ferramenta fosse desativada ou limitada. O presidente dos EUA, Donald Trump, rejeitou a ideia de desacelerar a IA. No Reino Unido, o governo rejeitou recentemente a criação de um interruptor de segurança, com um porta-voz afirmando que isso "não impediria que fossem desenvolvidos ou usados indevidamente em outros lugares".

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.