Por que a China considera uma ameaça a IA que imita as relações humanas

A China passou a aplicar, em 15 de julho, as regras mais abrangentes do mundo para chatbots de inteligência artificial que simulam relações humanas. A regulamentação impõe limites a qualquer IA capaz de manter "interações emocionais prolongadas" com pessoas, alcançando tanto aplicativos criados para funcionar como amigos ou namorados virtuais quanto grandes modelos de linguagem que imitem a forma de interação humana.

Pelas novas normas, assistentes de IA devem deixar claro que não são humanos e enviar notificações a cada duas horas, lembrando o tempo de uso. Os chatbots não podem criar "confiança ou dependência emocional", induzir decisões "irracionais", incentivar automutilação ou suicídio, nem empregar "violência verbal". Menores de 14 anos precisam de consentimento dos pais para usar qualquer IA que fale como um ser humano, e todos os menores de 18 anos estão impedidos de acessar parceiros, cônjuges ou parentes virtuais. As empresas estão sujeitas a multas de 200 mil yuans e podem ser expostas publicamente pelo governo.

O alcance dos chamados "companheiros de IA" era amplo antes da entrada em vigor das regras: cerca de 128 milhões de usuários mensais ativos fora da China, segundo a empresa de inteligência de mercado Sensor Tower, e estimativas que variam entre 29 e 70 milhões de pessoas dentro do país. Uma semana antes da vigência da legislação, Alibaba e ByteDance encerraram as funções de companhia de seus assistentes de IA.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.