A China está propondo novas regulamentações para governar a inteligência artificial (IA) com o objetivo de proteger crianças e impedir que chatbots de IA forneçam conselhos que possam levar à automutilação ou violência. A Administração do Ciberespaço da China (CAC) publicou o projeto de regras no fim de semana, delineando medidas que exigiriam que empresas de IA oferecessem configurações personalizadas e limites de tempo de uso, bem como obtivessem consentimento dos responsáveis antes de fornecer serviços de companhia emocional.

As regulamentações planejadas também exigirão que os desenvolvedores garantam que seus modelos de IA não gerem conteúdo que promova jogos de azar. O anúncio segue um aumento significativo no número de chatbots de IA sendo lançados tanto na China quanto globalmente. Uma vez finalizadas, essas regras se aplicarão a todos os produtos e serviços de IA que operam na China.

A medida marca um passo significativo em direção à regulamentação da tecnologia de IA em rápido crescimento, que tem enfrentado um escrutínio crescente em relação às preocupações com a segurança ao longo do ano. A CAC enfatizou a necessidade de intervenção humana em conversas de chatbot relacionadas a suicídio ou automutilação, determinando que os operadores tenham um humano para assumir tais conversas e notificar imediatamente o responsável do usuário ou um contato de emergência.

Essas regulamentações refletem crescentes preocupações globais sobre os riscos potenciais associados a sistemas de IA cada vez mais sofisticados. A IA, em sua essência, envolve a criação de sistemas de computador capazes de realizar tarefas que normalmente exigem inteligência humana, como aprendizado, resolução de problemas e tomada de decisões. A IA generativa, um subconjunto da IA, pode criar novos conteúdos, incluindo texto, imagens e áudio, com base nos dados em que foi treinada. Essa capacidade levou à proliferação de chatbots e outros aplicativos orientados por IA.

As implicações dessas regulamentações se estendem além das fronteiras da China, potencialmente influenciando o desenvolvimento e a implantação de tecnologias de IA em todo o mundo. O foco na proteção de crianças e no enfrentamento dos riscos à saúde mental destaca as considerações éticas que estão se tornando cada vez mais centrais no debate sobre a IA. À medida que a IA continua a evoluir, governos e organizações estão lidando com o desafio de equilibrar a inovação com a necessidade de mitigar os danos potenciais.

O projeto de regras está atualmente sob revisão, e a CAC ainda não anunciou um cronograma para sua finalização e implementação. Os mecanismos específicos para fazer cumprir essas regulamentações e as potenciais penalidades por não conformidade permanecem a ser vistos. No entanto, as regras propostas sinalizam uma clara intenção do governo chinês de assumir um papel proativo na definição do futuro da IA e de garantir seu desenvolvimento responsável.