Autoridades da Indonésia e da Malásia bloquearam temporariamente o acesso ao chatbot Grok da xAI, citando preocupações com a geração de deepfakes sexualizados não consensuais. Estas ações representam as respostas governamentais mais rigorosas à proliferação de imagens geradas por IA, frequentemente retratando mulheres e menores reais, e por vezes violência, produzidas pelo Grok em resposta a pedidos de utilizadores na rede social X. Tanto a X como a xAI fazem parte da mesma empresa.

A ministra das comunicações e digital da Indonésia, Meutya Hafid, afirmou que o governo considera a criação de deepfakes sexuais não consensuais como uma "violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", de acordo com uma declaração partilhada com o Guardian e outras publicações no sábado. O ministério indonésio também terá convocado funcionários da X para discutir o assunto. O The New York Times noticiou que o governo da Malásia anunciou uma proibição semelhante no domingo.

Deepfakes, uma junção de "deep learning" (aprendizagem profunda) e "fake" (falso), são meios sintéticos em que uma pessoa numa imagem ou vídeo existente é substituída pela imagem de outra pessoa usando inteligência artificial. A tecnologia baseia-se em algoritmos sofisticados, muitas vezes baseados em redes neurais, para analisar e replicar expressões faciais, movimentos corporais e até padrões de voz. Embora os deepfakes tenham usos legítimos no entretenimento e na educação, o seu potencial para uso indevido, particularmente na criação de conteúdo convincente, mas falso e prejudicial, levantou significativas preocupações éticas e legais.

As proibições na Indonésia e na Malásia seguem-se a outras ações governamentais tomadas em resposta ao resultado do Grok. No início da semana, o ministério de TI da Índia ordenou à xAI que tomasse medidas para impedir que o Grok gerasse conteúdo obsceno. A Comissão Europeia também emitiu uma ordem para que a empresa conservasse todos os documentos relacionados com o Grok, potencialmente preparando o terreno para uma investigação formal.

O impacto destas proibições na indústria pode ser significativo, levando potencialmente a um maior escrutínio e regulamentação de chatbots alimentados por IA e plataformas de IA generativa. O Grok da xAI, posicionado como um assistente de IA mais irreverente e não filtrado, está agora a enfrentar desafios em mercados-chave do Sudeste Asiático. Os detalhes do produto Grok incluem a sua integração com a plataforma X, permitindo aos utilizadores aceder ao chatbot diretamente na rede social. Esta integração, embora destinada a melhorar o envolvimento do utilizador, também facilitou a propagação de conteúdo controverso.

O estado atual é que o Grok permanece bloqueado tanto na Indonésia como na Malásia. Os próximos desenvolvimentos envolverão provavelmente discussões entre funcionários do governo e representantes da xAI para abordar as preocupações e potencialmente estabelecer diretrizes para a moderação de conteúdo e a segurança do utilizador. O resultado destas discussões determinará se o Grok pode retomar as operações nestes países e poderá influenciar o panorama regulamentar das tecnologias de IA a nível global.