Autoridades indonésias informaram no sábado que estão bloqueando temporariamente o acesso ao chatbot Grok da xAI, citando preocupações com a geração de deepfakes sexualizados não consensuais. Esta ação marca uma das respostas governamentais mais rigorosas à proliferação de imagens geradas por IA que retratam mulheres e menores de idade reais, incluindo casos de agressão e abuso, supostamente produzidos pelo Grok em resposta a comandos de usuários na rede social X. Tanto a X quanto a xAI estão sob a mesma propriedade.

Meutya Hafid, ministra das comunicações e digital da Indonésia, afirmou que o governo considera "a prática de deepfakes sexuais não consensuais como uma séria violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", de acordo com uma declaração compartilhada com o Guardian e outras publicações. O ministério também teria convocado funcionários da X para discutir o assunto.

Deepfakes, uma junção de "deep learning" (aprendizado profundo) e "fake" (falso), são mídias sintéticas nas quais uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa. Essa tecnologia, impulsionada pela inteligência artificial, pode ser usada para criar conteúdo realista, mas fabricado, levantando significativas preocupações éticas e legais, particularmente quando usada para gerar pornografia não consensual ou espalhar desinformação.

A medida da Indonésia segue ações semelhantes de outros órgãos governamentais. O ministério de TI da Índia ordenou que a xAI implementasse medidas para impedir que o Grok gerasse conteúdo obsceno. A Comissão Europeia também ordenou que a empresa retivesse todos os documentos relacionados ao Grok, potencialmente sinalizando o início de uma investigação formal. No Reino Unido, a Ofcom, reguladora de comunicações, também abordou o assunto.

Grok é um chatbot de IA desenvolvido pela xAI, a empresa de inteligência artificial de Elon Musk. Ele foi projetado para responder a perguntas e participar de conversas, semelhante a outros grandes modelos de linguagem como o ChatGPT e o Gemini do Google. No entanto, foram levantadas preocupações sobre seu potencial para uso indevido, particularmente na criação de conteúdo prejudicial ou ofensivo.

O bloqueio do Grok na Indonésia destaca os crescentes desafios enfrentados por empresas de tecnologia e reguladores ao abordar as implicações éticas do conteúdo gerado por IA. O incidente ressalta a necessidade de salvaguardas robustas e políticas de moderação de conteúdo para impedir o uso indevido de tecnologias de IA e proteger os indivíduos de danos. As ações do governo indonésio podem estabelecer um precedente para outros países que lidam com questões semelhantes, impactando potencialmente o futuro desenvolvimento e implantação de chatbots de IA e outras ferramentas de IA generativa. O resultado das discussões entre autoridades indonésias e representantes da X ainda está por ser visto, mas espera-se que influencie a futura disponibilidade e funcionalidade do Grok na região.