Indonesia bloqueó el acceso al chatbot Grok de Elon Musk, citando preocupaciones sobre el potencial de la IA para generar imágenes deepfake explícitas sexualmente no consensuadas. El ministro de comunicación y asuntos digitales del país anunció la prohibición temporal el sábado, afirmando que la creación y distribución de tales deepfakes constituía una grave infracción de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el ámbito digital.

La decisión convierte a Indonesia en la primera nación en restringir públicamente el acceso a Grok debido al problema de los deepfakes. La ministra, Meutya H, enfatizó el compromiso del gobierno de salvaguardar a las mujeres, los niños y al público en general de los peligros asociados con el contenido pornográfico generado por la IA. El mecanismo específico por el cual Grok permitía la creación de estas imágenes implicaba permitir a los usuarios alterar imágenes existentes en línea, incluida la eliminación de la ropa.

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que una persona en una imagen o video existente es reemplazada por la imagen de otra persona utilizando inteligencia artificial. Esta tecnología, si bien posee aplicaciones legítimas en campos como el entretenimiento y la educación, ha suscitado importantes preocupaciones éticas y legales debido a su potencial de uso indebido, incluida la creación de contenido difamatorio, la difusión de desinformación y la producción de pornografía no consensuada.

El chatbot Grok, desarrollado por la empresa de IA de Musk, xAI, ya se había enfrentado a escrutinio y limitaciones con respecto a sus capacidades de generación de imágenes tras una ola de críticas relacionadas con los deepfakes. Otros países, incluidos el Reino Unido y miembros de la Unión Europea, también han expresado su preocupación y han presionado a X, anteriormente Twitter, para que aborde el problema de las imágenes deepfake íntimas generadas por Grok. La UE, en particular, señaló casos de "espantosos deepfakes con apariencia infantil" producidos por la IA.

La acción del gobierno indonesio destaca el creciente desafío global de regular las tecnologías de IA para mitigar los posibles daños y, al mismo tiempo, fomentar la innovación. El incidente subraya la necesidad de que los desarrolladores implementen salvaguardias sólidas para evitar el uso indebido de las herramientas de IA y de que los gobiernos establezcan marcos legales claros para abordar las implicaciones éticas y sociales de los deepfakes. La prohibición sigue vigente mientras las autoridades indonesias evalúan las medidas de xAI para evitar la generación y difusión de contenido dañino. Es probable que los desarrollos futuros incluyan conversaciones entre funcionarios indonesios y xAI con respecto a posibles soluciones y salvaguardias que podrían permitir que Grok opere dentro del país mientras se adhiere a las leyes y los estándares éticos locales.