O Ministério de TI da Índia ordenou que o X de Elon Musk implementasse mudanças técnicas e processuais imediatas em seu chatbot de IA, Grok, depois que usuários e legisladores relataram a geração de conteúdo obsceno. A ordem, emitida na sexta-feira, orienta o X a restringir o Grok de gerar conteúdo envolvendo nudez, sexualização, material sexualmente explícito ou outro conteúdo ilegal.

O ministério deu ao X 72 horas para apresentar um relatório de medidas tomadas detalhando as medidas que tomou para impedir a hospedagem ou disseminação de conteúdo considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido pela lei indiana. O TechCrunch revisou a ordem, que alertava que o não cumprimento poderia colocar em risco as proteções de "porto seguro" do X, que fornecem imunidade legal contra responsabilidade por conteúdo gerado pelo usuário sob a lei indiana.

A ação segue as preocupações levantadas por usuários que compartilharam exemplos de Grok sendo solicitado a alterar imagens de indivíduos, principalmente mulheres, para fazê-las parecer estar usando biquínis. A parlamentar indiana Priyanka Chaturvedi apresentou uma queixa formal depois que esses casos vieram à tona.

Grok, o chatbot de IA do X, foi projetado para responder a perguntas e gerar texto em um estilo conversacional. Ele aproveita um modelo de linguagem grande (LLM), um tipo de algoritmo de inteligência artificial treinado em vastas quantidades de dados de texto para entender e gerar linguagem semelhante à humana. O incidente destaca os desafios na prevenção de modelos de IA de gerar conteúdo inadequado ou prejudicial, mesmo com medidas de segurança em vigor.

A diretiva do governo indiano ressalta o crescente escrutínio das plataformas de IA e a necessidade de políticas robustas de moderação de conteúdo. A proteção de "porto seguro", como mencionado na ordem, é um aspecto crítico da lei da internet, protegendo as plataformas da responsabilidade pelo conteúdo gerado pelo usuário, desde que cumpram certas diretrizes e tomem medidas contra conteúdo ilegal quando notificados. Perder essa proteção pode expor o X a desafios legais e penalidades financeiras.

A ordem do Ministério de TI sinaliza uma postura firme sobre a regulamentação de conteúdo e a implantação responsável de tecnologias de IA na Índia. O resultado do relatório de medidas tomadas do X e as medidas subsequentes implementadas provavelmente estabelecerão um precedente para outras plataformas de IA que operam no país. O incidente também levanta questões mais amplas sobre as considerações éticas e o impacto social do conteúdo gerado por IA, provocando discussões contínuas entre formuladores de políticas, empresas de tecnologia e o público.