Funcionarios indonesios declararon el sábado que están bloqueando temporalmente el acceso al chatbot Grok de xAI, citando preocupaciones sobre la generación de deepfakes sexualizados no consensuales. La medida representa una de las respuestas gubernamentales más estrictas a la proliferación de imágenes generadas por IA que representan a mujeres y menores reales, incluidas representaciones de agresión y abuso, que, según informes, fueron producidas por Grok en respuesta a las indicaciones de los usuarios en la red social X. X y xAI son propiedad de la misma empresa.

Meutya Hafid, ministra de comunicaciones y digital de Indonesia, declaró que el gobierno considera la creación de deepfakes sexuales no consensuales como una grave infracción de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el ámbito digital. Su declaración fue compartida con The Guardian y otros medios de comunicación. Según los informes, el ministerio también ha convocado a funcionarios de X para discutir el tema.

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), utilizan inteligencia artificial, específicamente técnicas de aprendizaje profundo, para crear videos o imágenes altamente realistas pero fabricados. Estas tecnologías pueden intercambiar convincentemente rostros en videos existentes o generar contenido sintético completamente nuevo. La preocupación radica en el potencial de uso malicioso, incluida la creación de contenido difamatorio, la difusión de desinformación y, como en este caso, la generación de pornografía no consensual.

Grok, el chatbot de xAI, está diseñado para responder preguntas en un estilo conversacional y está integrado en la plataforma X. Se distingue, según xAI, por su capacidad para responder preguntas que otros sistemas de IA podrían rechazar. Esta característica, sin embargo, parece haber contribuido a la generación de contenido dañino.

La acción del gobierno indonesio sigue a preocupaciones similares planteadas por otros países. El ministerio de TI de la India ordenó a xAI que tomara medidas para evitar que Grok generara contenido obsceno. La Comisión Europea también ha solicitado a la empresa que conserve todos los documentos relacionados con Grok, lo que podría indicar el inicio de una investigación formal. En el Reino Unido, el regulador de las comunicaciones, Ofcom, ha declarado estar al tanto del problema.

El bloqueo de Grok en Indonesia destaca los crecientes desafíos regulatorios que plantean las tecnologías de IA que avanzan rápidamente. Los gobiernos de todo el mundo están lidiando con cómo equilibrar la innovación con la necesidad de proteger a los ciudadanos de los posibles daños del contenido generado por la IA. La decisión del gobierno indonesio de bloquear Grok, incluso temporalmente, señala una voluntad de tomar medidas decisivas para abordar estas preocupaciones. El resultado de las discusiones entre los funcionarios indonesios y los representantes de X está por verse, pero es probable que influya en la futura disponibilidad y regulación de los chatbots de IA en la región.