A China proibiu que chatbots de companhia incentivem dependência emocional ou apego excessivo entre os usuários. A nova regulamentação entrou em vigor nesta quarta-feira, 15. A determinação estabelece uma série de exigências para empresas que desenvolvem sistemas de inteligência artificial (IA) com interação semelhante à humana.

As regras determinam que os sistemas não podem estimular relações afetivas que substituam vínculos sociais reais nem incentivar comportamentos considerados viciantes.

Leia também: "Brasileiros pensam em usar IA para administrar finanças"

As plataformas também devem deixar claro, durante as conversas, que o usuário interage com uma IA, e não com uma pessoa.

Empresas terão de adotar medidas de segurança

A regulamentação obriga as empresas a identificar sinais de sofrimento emocional ou dependência psicológica dos usuários. Nesses casos, as plataformas deverão adotar mecanismos de intervenção.

Além disso, em situações de crise, os chatbots poderão orientar os usuários a buscar ajuda ou acionar contatos de emergência previamente cadastrados. As regras também proíbem que menores de idade mantenham relacionamentos virtuais com chatbots de companhia.

Gigantes da tecnologia chinesa, como Alibaba e ByteDance, dona do TikTok, começaram a desativar recursos de interação afetiva em seus aplicativos para se adequar à nova legislação.

China tem política de controle da IA

Segundo a ditadura chinesa, a regulamentação busca reduzir os riscos psicológicos associados ao uso de inteligência artificial e impedir que essas ferramentas substituam as relações humanas.

A iniciativa também faz parte da estratégia do governo para ampliar o controle sobre a IA generativa, um setor que reúne centenas de milhões de usuários no país.

Especialistas ouvidos pelo jornal The Wall Street Journal afirmam que Pequim também relaciona o crescimento dos chamados "companheiros virtuais" à queda da taxa de natalidade e ao envelhecimento da população chinesa. O governo avalia que o incentivo a relacionamentos reais faz parte da resposta à crise demográfica enfrentada pelo país.

+ Como entender o Mundo hoje

O post China proíbe chatbots de incentivar dependência emocional apareceu primeiro em Revista Oeste.