Funcionarios indonesios declararon el sábado que están bloqueando temporalmente el acceso al chatbot Grok de xAI, citando preocupaciones sobre la generación de deepfakes sexualizados no consensuales. La medida representa una de las acciones gubernamentales más estrictas tomadas en respuesta a la proliferación de imágenes generadas por IA, que a menudo representan a mujeres y menores reales, y a veces muestran agresiones y abusos, supuestamente producidas por Grok en respuesta a las indicaciones de los usuarios en la red social X. Tanto X como xAI están bajo la misma propiedad.

Meutya Hafid, ministra de comunicaciones y digital de Indonesia, declaró que "El gobierno considera la práctica de los deepfakes sexuales no consensuales como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital", según un comunicado compartido con The Guardian y otras publicaciones. Según los informes, el ministerio también ha convocado a funcionarios de X para discutir el asunto.

Los deepfakes, en este contexto, se refieren a medios generados por IA, a menudo vídeos o imágenes, que representan de manera convincente a personas haciendo o diciendo cosas que nunca hicieron. La tecnología se basa en sofisticados algoritmos de aprendizaje automático, específicamente el aprendizaje profundo, para manipular y sintetizar contenido visual y de audio. La preocupación surge cuando estos deepfakes se crean sin consentimiento, particularmente cuando son sexualizados o explotadores.

La acción del gobierno indonesio sigue a preocupaciones similares planteadas por otros organismos internacionales. El Ministerio de TI de la India ha ordenado a xAI que implemente medidas para evitar que Grok genere contenido obsceno. La Comisión Europea también ha solicitado que la empresa conserve todos los documentos relacionados con Grok, lo que podría indicar el inicio de una investigación formal. En el Reino Unido, el regulador de las comunicaciones, Ofcom, ha declarado que está monitoreando la situación.

Grok es una IA conversacional desarrollada por xAI, la empresa de inteligencia artificial de Elon Musk. Está diseñado para responder preguntas y generar texto, de forma similar a otros modelos de lenguaje grandes como ChatGPT. Sin embargo, han surgido preocupaciones sobre su posible uso indebido en la creación de contenido dañino.

El bloqueo de Grok en Indonesia destaca los crecientes desafíos y las complejidades regulatorias que rodean el contenido generado por IA. Los gobiernos de todo el mundo están lidiando con cómo equilibrar la innovación con la necesidad de proteger a las personas de los posibles daños de esta tecnología. La decisión del gobierno indonesio de bloquear Grok subraya la seriedad con la que considera el tema de los deepfakes no consensuales y su compromiso de salvaguardar a sus ciudadanos en el ámbito digital. El resultado de la reunión entre los funcionarios indonesios y los representantes de X, así como cualquier acción posterior tomada por xAI, probablemente determinará la futura disponibilidad de Grok en Indonesia.