Autoridades indonésias disseram no sábado que estão bloqueando temporariamente o acesso ao chatbot Grok da xAI, citando preocupações com a geração de deepfakes sexualizados não consensuais. A medida representa uma das ações governamentais mais rigorosas tomadas em resposta à proliferação de imagens geradas por IA, muitas vezes retratando mulheres e menores de idade reais, e às vezes mostrando agressão e abuso, supostamente produzidas pelo Grok em resposta a comandos de usuários na rede social X. Tanto a X quanto a xAI estão sob a mesma propriedade.

Meutya Hafid, ministra das comunicações e digital da Indonésia, afirmou que "O governo vê a prática de deepfakes sexuais não consensuais como uma séria violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", de acordo com uma declaração compartilhada com o Guardian e outras publicações. O ministério também teria convocado funcionários da X para discutir o assunto.

Deepfakes, neste contexto, referem-se a mídia gerada por IA, geralmente vídeos ou imagens, que retratam de forma convincente indivíduos fazendo ou dizendo coisas que nunca fizeram. A tecnologia se baseia em algoritmos sofisticados de aprendizado de máquina, especificamente aprendizado profundo, para manipular e sintetizar conteúdo visual e de áudio. A preocupação surge quando esses deepfakes são criados sem consentimento, particularmente quando são sexualizados ou exploratórios.

A ação do governo indonésio segue preocupações semelhantes levantadas por outros órgãos internacionais. O ministério de TI da Índia ordenou que a xAI implementasse medidas para impedir que o Grok gerasse conteúdo obsceno. A Comissão Europeia também solicitou que a empresa retivesse todos os documentos relacionados ao Grok, potencialmente sinalizando o início de uma investigação formal. No Reino Unido, o regulador de comunicações Ofcom afirmou que está monitorando a situação.

Grok é uma IA conversacional desenvolvida pela xAI, a empresa de inteligência artificial de Elon Musk. Ele foi projetado para responder a perguntas e gerar texto, semelhante a outros grandes modelos de linguagem como o ChatGPT. No entanto, foram levantadas preocupações sobre seu potencial uso indevido na criação de conteúdo prejudicial.

O bloqueio do Grok na Indonésia destaca os crescentes desafios e complexidades regulatórias em torno do conteúdo gerado por IA. Governos em todo o mundo estão lidando com a forma de equilibrar a inovação com a necessidade de proteger os indivíduos dos potenciais danos desta tecnologia. A decisão do governo indonésio de bloquear o Grok ressalta a seriedade com que encara a questão dos deepfakes não consensuais e seu compromisso de proteger seus cidadãos no mundo digital. O resultado da reunião entre autoridades indonésias e representantes da X, bem como quaisquer ações subsequentes tomadas pela xAI, provavelmente determinarão a futura disponibilidade do Grok na Indonésia.