Malásia e Indonésia Bloqueiam IA Grok Devido a Deepfakes Sexualmente Explícitos
Malásia e Indonésia bloquearam o acesso ao Grok, o chatbot de inteligência artificial (IA) na plataforma X de Elon Musk, devido a preocupações sobre sua capacidade de gerar deepfakes sexualmente explícitos. Os países do Sudeste Asiático são os primeiros no mundo a banir a ferramenta de IA, citando o potencial para a criação de imagens pornográficas e não consensuais envolvendo mulheres e crianças.
O Grok, que permite aos usuários gerar imagens, foi recentemente usado para editar imagens de pessoas reais para representá-las em roupas reveladoras, de acordo com a BBC. Autoridades em ambos os países expressaram sérias preocupações sobre a proliferação de tais imagens.
A ministra das comunicações e digital da Indonésia, Meutya Hafid, afirmou que "o governo considera a prática de deepfakes sexuais não consensuais como uma séria violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", de acordo com uma declaração compartilhada com o Guardian e outras publicações. O ministério também teria convocado funcionários do X para discutir o assunto.
As proibições representam as medidas mais agressivas até agora por funcionários do governo em resposta a um aumento de imagens sexualizadas geradas por IA, muitas vezes retratando mulheres e menores reais, e às vezes retratando violência, postadas pelo Grok em resposta a solicitações de usuários no X, de acordo com o TechCrunch.
A BBC entrou em contato com a plataforma Grok para comentar. Musk havia declarado anteriormente que os críticos de sua plataforma estão procurando "qualquer desculpa para censores".
Discussion
Join the conversation
Be the first to comment