A China propôs novas regulamentações direcionadas ao desenvolvimento de inteligência artificial (IA), com foco na proteção de crianças e na prevenção de conteúdo impulsionado por IA que possa levar à autoagressão ou violência. A Administração do Ciberespaço da China (CAC) publicou o rascunho das regras no fim de semana, delineando medidas para que as empresas de IA implementem configurações personalizadas e limites de tempo de uso para usuários mais jovens.

As regras propostas abordam a rápida proliferação de chatbots de IA na China e globalmente, exigindo que os desenvolvedores obtenham o consentimento dos responsáveis antes de fornecer serviços de companhia emocional. Além disso, as regulamentações exigem intervenção humana em conversas de chatbot relacionadas a suicídio ou autoagressão, com notificação imediata ao responsável do usuário ou contato de emergência. As regras também proíbem que modelos de IA gerem conteúdo que promova jogos de azar.

Essas regulamentações marcam um passo significativo em direção à regulamentação do cenário de IA em rápida evolução na China, onde as preocupações com a segurança e as implicações éticas se intensificaram. As regras se aplicarão a produtos e serviços de IA que operam na China.

A medida da CAC reflete uma tendência global crescente de governos lidando com o impacto social da IA. A IA, em sua essência, envolve a criação de sistemas de computador capazes de realizar tarefas que normalmente exigem inteligência humana, como aprendizado, resolução de problemas e tomada de decisões. Esses sistemas dependem de algoritmos e vastas quantidades de dados para identificar padrões e fazer previsões. A IA generativa, um subconjunto da IA, pode criar novos conteúdos, incluindo texto, imagens e áudio, levantando preocupações sobre o potencial uso indevido e a disseminação de desinformação.

As regulamentações propostas destacam os desafios de equilibrar a inovação com o desenvolvimento responsável da IA. Garantir que os sistemas de IA sejam seguros, éticos e benéficos para a sociedade exige uma análise cuidadosa dos riscos potenciais e a implementação de salvaguardas apropriadas. O foco do governo chinês na proteção de crianças e na prevenção de conteúdo prejudicial reflete uma abordagem proativa para mitigar esses riscos.

O rascunho das regras está atualmente em revisão, e a CAC não anunciou um cronograma para sua finalização e implementação. Uma vez finalizadas, espera-se que as regulamentações tenham um impacto significativo na indústria de IA na China, potencialmente influenciando o desenvolvimento e a implantação de tecnologias de IA em todo o mundo.