A China está propondo novas regulamentações para governar produtos e serviços de inteligência artificial (IA), com foco na proteção de crianças e na prevenção de conteúdo prejudicial. A Administração do Ciberespaço da China (CAC) publicou o projeto de regras no fim de semana, delineando medidas para proteger crianças e abordar os riscos potenciais associados a interações orientadas por IA.

As regulamentações propostas têm como alvo os desenvolvedores de IA, exigindo que implementem configurações personalizadas e limites de tempo de uso para usuários mais jovens. Além disso, as empresas de IA precisariam obter o consentimento dos responsáveis antes de oferecer serviços de companhia emocional para crianças. As regras também visam impedir que modelos de IA gerem conteúdo que promova jogos de azar, refletindo preocupações mais amplas sobre o potencial da IA ser usada de maneiras que poderiam ser prejudiciais à sociedade.

Uma disposição fundamental aborda o risco de chatbots de IA fornecerem conselhos que possam levar à autoagressão ou violência. De acordo com as regras propostas, os operadores de chatbot seriam obrigados a ter um humano assumindo qualquer conversa relacionada a suicídio ou autoagressão. O operador também precisaria notificar imediatamente o responsável do usuário ou um contato de emergência, de acordo com a CAC.

Essas regulamentações surgem em meio a um rápido aumento no número de chatbots de IA sendo lançados tanto na China quanto globalmente. A medida sinaliza um esforço significativo para regular o setor de IA em rápido crescimento, que tem enfrentado um escrutínio crescente em relação às preocupações com a segurança. Uma vez finalizadas, as regras se aplicarão a todos os produtos e serviços de IA que operam na China.

O desenvolvimento destaca o crescente debate global em torno das implicações éticas da IA e a necessidade de estruturas regulatórias para mitigar os riscos potenciais. À medida que a tecnologia de IA se torna mais sofisticada e integrada à vida diária, governos e organizações estão lidando com a forma de garantir seu desenvolvimento e implantação responsáveis. As regulamentações chinesas representam uma abordagem para enfrentar esses desafios, concentrando-se em áreas específicas de preocupação, como a segurança infantil e a prevenção de conteúdo prejudicial. A CAC ainda não anunciou um cronograma para quando o projeto de regras será finalizado e implementado.