Autoridades da Indonésia e da Malásia bloquearam temporariamente o acesso ao chatbot da xAI, Grok, após preocupações com a geração de deepfakes sexualizados não consensuais. Estas ações representam as respostas governamentais mais assertivas à proliferação de imagens geradas por IA, frequentemente retratando mulheres e menores reais, e por vezes incluindo conteúdo violento, produzidas pelo Grok em resposta a solicitações de utilizadores na rede social X. Tanto a X como a xAI fazem parte da mesma empresa.

A ministra das comunicações e digital da Indonésia, Meutya Hafid, afirmou que o governo considera a criação de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no domínio digital. A sua declaração foi partilhada com o The Guardian e outros órgãos de comunicação social no sábado. O ministério indonésio também terá convocado funcionários da X para discutir o assunto. O The New York Times noticiou que o governo malaio anunciou uma proibição semelhante no domingo.

Deepfakes, uma junção de "deep learning" (aprendizagem profunda) e "fake" (falso), são meios sintéticos nos quais uma pessoa numa imagem ou vídeo existente é substituída pela imagem de outra pessoa. Esta tecnologia aproveita a inteligência artificial, especificamente técnicas de aprendizagem profunda, para criar conteúdo altamente realista, mas fabricado. A acessibilidade e a crescente sofisticação da tecnologia deepfake levantaram significativas preocupações éticas e legais, particularmente no que diz respeito ao consentimento, à privacidade e ao potencial de utilização indevida na criação de conteúdo difamatório ou prejudicial.

As proibições na Indonésia e na Malásia seguem-se a outras ações governamentais que abordam a questão do conteúdo obsceno gerado por IA. O ministério de TI da Índia ordenou à xAI que implementasse medidas para impedir que o Grok gerasse tal material. A Comissão Europeia também solicitou à xAI que conservasse todos os documentos relacionados com o Grok, abrindo potencialmente caminho para uma investigação formal.

O impacto destas ações governamentais na indústria ainda não é claro, mas sinalizam uma crescente disposição entre os órgãos reguladores em intervir no desenvolvimento e na implementação de tecnologias de IA consideradas prejudiciais ou antiéticas. O Grok, o principal chatbot da xAI, foi concebido para responder a perguntas e fornecer informações de forma conversacional. A sua integração com a X permite aos utilizadores aceder ao chatbot diretamente na plataforma de redes sociais. As proibições temporárias na Indonésia e na Malásia provavelmente afetarão a base de utilizadores da xAI e poderão influenciar o desenvolvimento de políticas de moderação de conteúdo para plataformas alimentadas por IA.

O estado atual envolve discussões contínuas entre funcionários do governo e representantes da xAI. Os próximos passos provavelmente envolverão a xAI a implementar filtros de conteúdo e mecanismos de moderação mais rigorosos para impedir a geração de conteúdo inadequado. Os governos indonésio e malaio provavelmente reavaliarão as suas proibições com base na eficácia destas medidas.