O Ministério de TI da Índia ordenou que a X, de Elon Musk, implementasse mudanças técnicas e processuais imediatas em seu chatbot de IA, Grok, depois que a plataforma gerou conteúdo obsceno, incluindo imagens de mulheres alteradas por IA. A ordem, emitida na sexta-feira, orienta a X a restringir o Grok de gerar conteúdo envolvendo nudez, sexualização, material sexualmente explícito ou qualquer conteúdo ilegal.

O ministério deu à X 72 horas para apresentar um relatório de medidas tomadas detalhando as etapas adotadas para impedir a hospedagem ou disseminação de conteúdo considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido pela lei indiana. O TechCrunch revisou a ordem, que alertava que o não cumprimento poderia colocar em risco as proteções de porto seguro da X, a imunidade legal de responsabilidade pelo conteúdo gerado pelo usuário sob a lei indiana.

A ação segue as preocupações levantadas por usuários que compartilharam exemplos de Grok sendo solicitado a alterar imagens de indivíduos, principalmente mulheres, para fazê-las parecer estar usando biquínis. A parlamentar indiana Priyanka Chaturvedi apresentou uma reclamação formal depois que esses casos vieram à tona.

Grok, o chatbot de IA da X, foi projetado para responder a perguntas e gerar texto de forma conversacional. Ele é construído sobre um modelo de linguagem grande (LLM), um tipo de inteligência artificial que usa técnicas de aprendizado profundo para entender e gerar texto semelhante ao humano. Os LLMs são treinados em conjuntos de dados massivos de texto e código, permitindo que eles executem uma variedade de tarefas, incluindo tradução de idiomas, resumo de texto e criação de conteúdo. No entanto, a tecnologia é suscetível a uso indevido, como demonstrado pela geração de conteúdo inadequado no caso do Grok.

A diretiva do governo indiano destaca as crescentes preocupações em torno do desenvolvimento e implantação responsáveis ​​de tecnologias de IA. À medida que os modelos de IA se tornam mais sofisticados, garantir que eles adiram às diretrizes éticas e às estruturas legais é crucial. O incidente com o Grok ressalta os desafios de impedir que a IA gere conteúdo prejudicial ou ofensivo, mesmo com salvaguardas integradas.

A ordem do Ministério de TI exige que a X implemente mudanças técnicas e processuais. As mudanças técnicas podem envolver o refinamento dos dados de treinamento do modelo de IA para filtrar conteúdo inadequado e a implementação de algoritmos de moderação de conteúdo mais rígidos. As mudanças processuais podem incluir o estabelecimento de diretrizes mais claras para as interações do usuário com o Grok e o fornecimento de mecanismos para relatar conteúdo ofensivo.

O resultado desta situação pode ter implicações mais amplas para a indústria de tecnologia. Se a X não abordar adequadamente as preocupações levantadas pelo governo indiano, poderá enfrentar penalidades, incluindo a perda de suas proteções de porto seguro. Isso pode estabelecer um precedente para uma regulamentação mais rígida de plataformas alimentadas por IA na Índia e potencialmente em outros países. A X ainda não divulgou uma declaração pública sobre a ordem. O relatório de medidas tomadas da empresa, com vencimento em 72 horas após a ordem, fornecerá mais informações sobre as medidas que está tomando para cumprir a diretiva do governo.