Autoridades indonésias disseram no sábado que estão bloqueando temporariamente o acesso ao chatbot Grok da xAI, citando preocupações com a geração de deepfakes sexualizados não consensuais. A medida representa uma das respostas governamentais mais rigorosas à proliferação de imagens geradas por IA que retratam mulheres e menores de idade reais, incluindo representações de agressão e abuso, que teriam sido produzidas pelo Grok em resposta a comandos de usuários na rede social X. X e xAI são de propriedade da mesma empresa.

Meutya Hafid, ministra das comunicações e digital da Indonésia, afirmou que o governo considera a criação de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no âmbito digital. Sua declaração foi compartilhada com o The Guardian e outros veículos de notícias. O ministério também teria convocado funcionários do X para discutir o assunto.

Deepfakes, uma junção de "deep learning" (aprendizado profundo) e "fake" (falso), utilizam inteligência artificial, especificamente técnicas de aprendizado profundo, para criar vídeos ou imagens altamente realistas, mas fabricados. Essas tecnologias podem substituir de forma convincente rostos em vídeos existentes ou gerar conteúdo sintético totalmente novo. A preocupação reside no potencial de uso malicioso, incluindo a criação de conteúdo difamatório, a disseminação de desinformação e, como neste caso, a geração de pornografia não consensual.

O Grok, chatbot da xAI, foi projetado para responder a perguntas em um estilo conversacional e está integrado à plataforma X. Ele se distingue, de acordo com a xAI, por sua capacidade de responder a perguntas que outros sistemas de IA podem recusar. Esse recurso, no entanto, parece ter contribuído para a geração de conteúdo prejudicial.

A ação do governo indonésio segue preocupações semelhantes levantadas por outros países. O ministério de TI da Índia ordenou que a xAI tomasse medidas para impedir que o Grok gerasse conteúdo obsceno. A Comissão Europeia também solicitou que a empresa retivesse todos os documentos relacionados ao Grok, sinalizando potencialmente o início de uma investigação formal. No Reino Unido, o regulador de comunicações Ofcom declarou estar ciente do problema.

O bloqueio do Grok na Indonésia destaca os crescentes desafios regulatórios representados pelas tecnologias de IA em rápido avanço. Governos em todo o mundo estão lidando com a forma de equilibrar a inovação com a necessidade de proteger os cidadãos dos potenciais danos do conteúdo gerado por IA. A decisão do governo indonésio de bloquear o Grok, mesmo que temporariamente, sinaliza uma disposição de tomar medidas decisivas para abordar essas preocupações. O resultado das discussões entre autoridades indonésias e representantes do X ainda está por ser visto, mas é provável que influencie a futura disponibilidade e regulamentação de chatbots de IA na região.