Malásia e Indonésia Bloqueiam Chatbot de IA Grok Devido a Deepfakes Sexualmente Explícitos

Malásia e Indonésia bloquearam o acesso ao Grok, o chatbot de inteligência artificial (IA) na plataforma X de Elon Musk, devido a preocupações sobre sua capacidade de gerar deepfakes sexualmente explícitos. Os países do Sudeste Asiático são os primeiros no mundo a banir a ferramenta de IA, citando o potencial de uso indevido na criação de imagens pornográficas e não consensuais, particularmente envolvendo mulheres e crianças.

A decisão segue um aumento de imagens geradas por IA no X, frequentemente retratando mulheres e menores de idade reais em contextos sexualizados e, às vezes, violentos, motivado por solicitações de usuários ao Grok, de acordo com o TechCrunch. O Grok permite que os usuários gerem imagens, e o uso recente incluiu a edição de imagens de pessoas reais para mostrá-las em roupas reveladoras.

A ministra de comunicações e digital da Indonésia, Meutya Hafid, afirmou que o governo vê a prática de deepfakes sexuais não consensuais como uma séria violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital, de acordo com uma declaração compartilhada com o Guardian e outras publicações. O ministério também teria convocado funcionários do X para discutir o assunto.

A BBC entrou em contato com a plataforma Grok para comentar. Elon Musk havia declarado anteriormente que os críticos de sua plataforma estão procurando "qualquer desculpa para censores".

X e xAI fazem parte da mesma empresa.