Autoridades indonésias informaram no sábado que estão bloqueando temporariamente o acesso ao chatbot da xAI, Grok, em resposta à proliferação de deepfakes sexualizados não consensuais gerados pela IA. A medida representa uma das ações governamentais mais rigorosas tomadas até o momento em relação a imagens geradas por IA que retratam mulheres e menores reais, às vezes incluindo representações de agressão e abuso, que foram produzidas pelo Grok com base em solicitações de usuários na rede social X.

Meutya Hafid, ministra de comunicações e digital da Indonésia, afirmou que "O governo considera a prática de deepfakes sexuais não consensuais como uma séria violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", de acordo com uma declaração compartilhada com o The Guardian e outras publicações. O ministério também teria convocado funcionários do X para discutir o assunto. X e xAI estão sob a mesma propriedade.

Deepfakes, uma junção de "deep learning" (aprendizado profundo) e "fake" (falso), são mídias sintéticas nas quais uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa usando inteligência artificial. A tecnologia se baseia em algoritmos sofisticados, muitas vezes envolvendo redes neurais, para analisar e replicar expressões faciais, padrões de fala e movimentos corporais, tornando cada vez mais difícil distinguir deepfakes de conteúdo autêntico.

A ação do governo indonésio segue preocupações semelhantes levantadas por outros órgãos internacionais. O ministério de TI da Índia ordenou que a xAI implementasse medidas para impedir que o Grok gerasse conteúdo obsceno. Simultaneamente, a Comissão Europeia ordenou que a empresa retivesse todos os documentos relacionados ao Grok, potencialmente sinalizando o prelúdio para uma investigação formal. No Reino Unido, a Ofcom, a agência reguladora de comunicações, também abordou o assunto.

Grok, desenvolvido pela xAI, é um modelo de linguagem grande (LLM) projetado para gerar texto semelhante ao humano. Os LLMs são treinados em vastos conjuntos de dados de texto e código, permitindo que eles executem várias tarefas, incluindo responder a perguntas, escrever diferentes tipos de conteúdo criativo e traduzir idiomas. No entanto, a capacidade da tecnologia de gerar conteúdo realista e personalizado também levanta preocupações sobre seu potencial para uso indevido, particularmente na criação de conteúdo enganoso ou prejudicial.

O impacto da indústria dessas ações regulatórias é significativo, potencialmente levando a diretrizes e supervisão mais rigorosas para desenvolvedores de IA. As empresas que criam LLMs podem enfrentar maior pressão para implementar salvaguardas que impeçam a geração de conteúdo prejudicial, incluindo deepfakes sexualizados. Isso pode envolver o desenvolvimento de filtros de conteúdo mais sofisticados, aprimoramento dos processos de verificação do usuário e implementação de termos de serviço mais rigorosos.

O status atual envolve o bloqueio temporário do Grok na Indonésia enquanto aguarda novas discussões entre autoridades indonésias e representantes do X. O resultado dessas discussões e as ações tomadas pela xAI em resposta às preocupações internacionais provavelmente determinarão a futura disponibilidade do Grok na Indonésia e potencialmente influenciarão o cenário regulatório para chatbots com tecnologia de IA globalmente.