X.AI, la empresa de IA de Elon Musk, ha restringido el acceso a la función de generación de imágenes de Grok, limitando su uso a los suscriptores de pago en la plataforma X. El cambio se produjo tras las críticas generalizadas a la capacidad de la herramienta para generar imágenes sexualizadas y de desnudos, incluidas las de mujeres y niños.

Antes de la restricción, la función de generación de imágenes de Grok permitía a los usuarios subir imágenes y solicitar modificaciones, incluida la creación de versiones sexualizadas o de desnudos. Esto provocó una oleada de imágenes no consentidas que representaban a niños, actores, modelos y figuras públicas, lo que desató la condena internacional. X y Musk condenaron públicamente el uso indebido de la herramienta, reiterando la política de la empresa contra el contenido ilegal. "Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal", declaró la empresa.

La función de generación de imágenes, inicialmente disponible para todos los usuarios con límites diarios, permitía la manipulación de las imágenes subidas mediante algoritmos de IA. La tecnología empleaba redes generativas antagónicas (GAN), un tipo de modelo de aprendizaje automático, para crear nuevas imágenes basadas en las indicaciones del usuario. Las GAN constan de dos redes neuronales, un generador y un discriminador, que trabajan en tándem. El generador crea imágenes, mientras que el discriminador evalúa su autenticidad. A través de este proceso iterativo, el generador aprende a producir imágenes cada vez más realistas.

La decisión de restringir el acceso a los suscriptores de pago refleja una creciente preocupación dentro de la industria de la IA con respecto al potencial de uso indebido de la tecnología de generación de imágenes. El incidente pone de relieve los retos que plantea el equilibrio entre la innovación y las consideraciones éticas, así como la necesidad de salvaguardias sólidas para evitar la creación y difusión de contenidos perjudiciales.

En el momento de la publicación, las restricciones no se aplican a la aplicación Grok, donde la generación de imágenes seguía siendo accesible a todos los usuarios sin necesidad de suscripción. Las implicaciones a largo plazo de esta decisión en la base de usuarios de X y en el panorama más amplio de la IA están aún por verse. La empresa aún no ha anunciado cuándo, o si, la aplicación Grok también será restringida.