Malasia e Indonesia Bloquean el Chatbot de IA Grok por Deepfakes Sexualmente Explícitos

Malasia e Indonesia han bloqueado el acceso a Grok, el chatbot de inteligencia artificial (IA) en la plataforma X de Elon Musk, debido a preocupaciones sobre su capacidad para generar deepfakes sexualmente explícitos. Los países del sudeste asiático son los primeros en el mundo en prohibir la herramienta de IA, citando el posible uso indebido en la creación de imágenes pornográficas y no consensuadas, particularmente involucrando a mujeres y niños.

La decisión se produce tras un aumento de imágenes generadas por IA en X, que a menudo representan a mujeres y menores reales en contextos sexualizados y, a veces, violentos, impulsado por solicitudes de usuarios a Grok, según TechCrunch. Grok permite a los usuarios generar imágenes, y el uso reciente ha incluido la edición de imágenes de personas reales para mostrarlas con ropa reveladora.

La ministra de comunicaciones y digital de Indonesia, Meutya Hafid, declaró que el gobierno considera la práctica de deepfakes sexuales no consensuados como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital, según una declaración compartida con The Guardian y otras publicaciones. El ministerio también ha convocado, según informes, a funcionarios de X para discutir el asunto.

La BBC se ha puesto en contacto con la plataforma Grok para obtener comentarios. Elon Musk había declarado previamente que los críticos de su plataforma están buscando "cualquier excusa para los censores".

X y xAI forman parte de la misma empresa.