Malásia e Indonésia bloquearam o acesso ao Grok, o chatbot de inteligência artificial desenvolvido pela plataforma X de Elon Musk, devido a preocupações sobre sua capacidade de gerar deepfakes sexualmente explícitos. Os ministérios das comunicações de ambos os países anunciaram as proibições em declarações separadas no fim de semana, citando o potencial da ferramenta de IA para ser mal utilizada na criação de imagens pornográficas e não consensuais, particularmente envolvendo mulheres e crianças.

O Grok, que permite aos usuários gerar imagens, teria sido usado para editar imagens existentes de indivíduos, retratando-os em situações reveladoras ou comprometedoras. A Comissão de Comunicações e Multimídia da Malásia declarou no domingo que havia emitido notificações ao X no início do ano, solicitando medidas mais rigorosas para impedir o "uso indevido repetido" do Grok. Essas nações do Sudeste Asiático são as primeiras a implementar tal proibição à ferramenta de IA.

Deepfakes, um produto de técnicas avançadas de IA, utilizam aprendizado profundo para criar imagens, vídeos ou gravações de áudio realistas, mas fabricadas. A tecnologia levanta preocupações éticas significativas, particularmente em relação ao consentimento, privacidade e o potencial de uso malicioso, como espalhar desinformação ou criar conteúdo difamatório. A capacidade da IA de gerar falsificações hiper-realistas obscurece a linha entre a realidade e a fabricação, representando desafios para indivíduos e sociedade em discernir conteúdo autêntico de mídia manipulada.

As proibições na Malásia e na Indonésia destacam as crescentes preocupações internacionais sobre o potencial uso indevido de tecnologias de IA. No Reino Unido, o secretário de tecnologia expressou apoio a uma proibição semelhante ao Grok, provocando críticas de Musk, que acusou o governo de tentar suprimir a liberdade de expressão. Este debate sublinha a tensão entre a necessidade de regular a IA para evitar danos e o desejo de proteger a liberdade de expressão.

As ações tomadas pela Malásia e Indonésia refletem uma abordagem proativa para lidar com os potenciais danos associados aos deepfakes gerados por IA. As proibições servem como um aviso para outros desenvolvedores e plataformas de IA sobre a necessidade de implementar salvaguardas para impedir o uso indevido de suas tecnologias. A situação permanece fluida, e espera-se que mais discussões e ações regulatórias ocorram à medida que os governos lidam com o cenário em rápida evolução da inteligência artificial.