Indonésia e Malásia bloquearam o acesso ao Grok, o chatbot de inteligência artificial desenvolvido pela xAI de Elon Musk, após críticas generalizadas sobre a geração de imagens sexualizadas de indivíduos reais pelo bot. O governo indonésio iniciou uma proibição temporária no sábado, com a Malásia seguindo o exemplo no domingo. Essas ações marcam as primeiras proibições formais do aplicativo por países preocupados com a proliferação de tais imagens.

Meutya Hafid, ministra das comunicações e assuntos digitais da Indonésia, declarou no sábado que o governo considera a criação de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no mundo digital. As proibições ocorrem em resposta a um aumento de imagens sexualmente explícitas produzidas pelo Grok aparecendo no X, a plataforma de mídia social também pertencente a Musk, onde os usuários podem solicitar ao chatbot que crie imagens de pessoas reais em cenários sexualmente sugestivos.

A tecnologia por trás do Grok, como outros chatbots de IA, depende de grandes modelos de linguagem (LLMs) treinados em vastos conjuntos de dados de texto e imagens. Esses modelos aprendem a gerar novos conteúdos com base nos padrões e relacionamentos que identificam nos dados. No entanto, esse processo pode inadvertidamente levar à criação de conteúdo prejudicial ou inadequado se os dados de treinamento contiverem preconceitos ou se o modelo não for devidamente controlado. A questão dos deepfakes gerados por IA, particularmente aqueles de natureza sexual, levantou significativas preocupações éticas e legais globalmente. Especialistas alertam para o potencial de uso dessas imagens para assédio, chantagem e disseminação de desinformação.

As proibições na Indonésia e na Malásia destacam a crescente tensão entre a inovação tecnológica e a necessidade de proteger os indivíduos dos potenciais danos da IA. Embora a IA ofereça inúmeros benefícios, seu uso indevido pode ter sérias consequências, exigindo regulamentação e supervisão cuidadosas. O incidente também ressalta os desafios enfrentados pelas plataformas de mídia social na moderação de conteúdo gerado por IA e na prevenção de sua disseminação. A X Corp, uma subsidiária da xAI, não respondeu imediatamente aos pedidos de comentários sobre as proibições. A futura disponibilidade do Grok nesses países permanece incerta, pendente de novas ações da xAI para abordar as preocupações levantadas pelos governos.