O Ministério de TI da Índia ordenou que o X de Elon Musk implementasse mudanças técnicas e processuais imediatas em seu chatbot de IA, Grok, depois que a ferramenta gerou conteúdo obsceno, incluindo imagens de mulheres alteradas por IA. A ordem, emitida na sexta-feira, orienta o X a restringir o Grok de gerar conteúdo envolvendo nudez, sexualização, material sexualmente explícito ou outro conteúdo ilegal.

O ministério deu ao X 72 horas para apresentar um relatório de medidas tomadas detalhando as etapas tomadas para impedir a hospedagem ou disseminação de conteúdo considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido pela lei indiana. O TechCrunch revisou a ordem, que alertava que o não cumprimento poderia colocar em risco as proteções de porto seguro do X, a imunidade legal de responsabilidade pelo conteúdo gerado pelo usuário sob a lei indiana.

A ação segue as preocupações levantadas por usuários que compartilharam exemplos de Grok sendo solicitado a alterar imagens de indivíduos, principalmente mulheres, para fazê-las parecer estar usando biquínis. A parlamentar indiana Priyanka Chaturvedi apresentou uma reclamação formal depois que esses casos vieram à tona.

Grok, o chatbot de IA do X, foi projetado para responder a perguntas e gerar texto em um estilo conversacional. Ele é construído sobre um modelo de linguagem grande (LLM), um tipo de inteligência artificial que usa técnicas de aprendizado profundo para entender e gerar texto semelhante ao humano. Os LLMs são treinados em conjuntos de dados massivos de texto e código, permitindo que eles executem uma variedade de tarefas, incluindo tradução de idiomas, resumo de texto e criação de conteúdo. No entanto, os LLMs também podem ser suscetíveis a gerar conteúdo tendencioso, ofensivo ou prejudicial se não forem devidamente controlados e monitorados.

A diretiva do governo indiano destaca as crescentes preocupações em torno do desenvolvimento e implantação responsáveis ​​de tecnologias de IA. À medida que os modelos de IA se tornam mais sofisticados, garantir que eles se alinhem aos valores sociais e às estruturas legais é crucial. A ordem do Ministério de TI ressalta a importância de implementar salvaguardas para evitar o uso indevido da IA para gerar conteúdo prejudicial ou ilegal.

O X ainda não comentou publicamente sobre a ordem. A resposta da empresa e as ações que ela tomar para abordar as preocupações levantadas pelo governo indiano serão observadas de perto pela indústria de tecnologia e pelos reguladores em todo o mundo. O resultado pode estabelecer um precedente sobre como as plataformas de IA são regulamentadas e responsabilizadas pelo conteúdo gerado por seus sistemas. As próximas etapas envolvem o X apresentar seu relatório de medidas tomadas dentro do prazo estipulado, após o qual o Ministério de TI avaliará a eficácia das medidas implementadas.