O Ministério de TI da Índia ordenou que a X, de Elon Musk, implementasse mudanças técnicas e processuais imediatas em seu chatbot de IA, Grok, depois que usuários e legisladores relataram a geração de conteúdo obsceno. A ordem, emitida na sexta-feira, determina que a X impeça o Grok de gerar conteúdo envolvendo nudez, sexualização, material sexualmente explícito ou outro conteúdo ilegal.

O ministério deu à X 72 horas para apresentar um relatório de medidas tomadas detalhando as etapas adotadas para impedir a hospedagem ou disseminação de conteúdo considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido pela lei indiana. O TechCrunch revisou a ordem, que alertava que o não cumprimento poderia colocar em risco as proteções de porto seguro da X, que concedem imunidade legal de responsabilidade por conteúdo gerado pelo usuário sob a lei indiana.

A ação segue as preocupações levantadas por usuários que compartilharam exemplos de Grok sendo solicitado a alterar imagens de indivíduos, principalmente mulheres, para fazê-las parecer estar usando biquínis. A parlamentar indiana Priyanka Chaturvedi apresentou uma reclamação formal sobre o assunto.

O Grok, lançado pela X no ano passado, é um chatbot de IA projetado para responder a perguntas e gerar texto. Ele aproveita um modelo de linguagem grande (LLM), um tipo de algoritmo de inteligência artificial que usa técnicas de aprendizado profundo e conjuntos de dados massivos para entender e gerar linguagem humana. O incidente destaca os desafios em garantir que os modelos de IA adiram a padrões éticos e legais, particularmente em relação à geração de conteúdo e possível uso indevido.

A diretiva do governo indiano ressalta o crescente escrutínio regulatório das tecnologias de IA e das plataformas de mídia social. As proteções de porto seguro, estabelecidas sob a Seção 79 da Lei de Tecnologia da Informação de 2000, fornecem um escudo crucial para as plataformas contra a responsabilidade pelo conteúdo gerado pelo usuário, mas essa proteção está condicionada à conformidade com as leis e regulamentos indianos.

A ordem do Ministério de TI exige que a X demonstre medidas concretas tomadas para resolver os problemas identificados com o Grok. Isso inclui a implementação de salvaguardas técnicas para impedir a geração de conteúdo inadequado e o estabelecimento de procedimentos claros para moderação de conteúdo e denúncia de usuários. O relatório de medidas tomadas provavelmente detalhará os algoritmos, filtros e processos de revisão humana específicos que a X está implantando para cumprir a diretiva.

O incidente e a subsequente ação do governo podem ter implicações mais amplas para a indústria de IA. Ele enfatiza a necessidade de os desenvolvedores priorizarem a segurança e as considerações éticas no design e implantação de modelos de IA. Também sinaliza uma abordagem regulatória mais proativa do governo indiano em relação à IA e às plataformas de mídia social, o que pode levar a requisitos de conformidade mais rígidos e maior responsabilidade. O resultado desta situação pode estabelecer um precedente sobre como outros países regulamentam a geração de conteúdo alimentado por IA e a responsabilidade da plataforma.