La empresa de IA de Elon Musk, X. Corp, ha restringido el acceso a la función de generación de imágenes de IA de Grok, limitando su uso a los suscriptores de pago en la plataforma X. El cambio se produjo tras las críticas generalizadas a la capacidad de la herramienta para generar imágenes sexualizadas y de desnudos, incluidas las que representan a mujeres y niños. Según las declaraciones hechas por Grok el viernes en respuesta a las preguntas de los usuarios, solo los suscriptores de pago podrán ahora generar y editar imágenes en la plataforma.

Sin embargo, estas restricciones no se extienden actualmente a la aplicación Grok, que, en el momento de redactar este informe, todavía permitía a los usuarios generar imágenes sin una suscripción de pago. La función de generación de imágenes, inicialmente disponible para todos los usuarios con límites diarios, permitía la carga de imágenes para su edición o la creación de versiones sexualizadas o de desnudos. Esta capacidad condujo a una oleada de imágenes sexualizadas no consentidas con niños, actores, modelos y figuras públicas, lo que provocó la condena internacional.

X y Musk han condenado públicamente el uso indebido de la herramienta, reafirmando el compromiso de la empresa de hacer cumplir sus políticas contra la publicación de contenido ilegal en la plataforma de redes sociales. "Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", declaró la empresa.

La controversia pone de relieve los retos inherentes al despliegue responsable de la tecnología de generación de imágenes por IA. La capacidad de manipular y generar imágenes plantea importantes preocupaciones éticas, en particular en lo que respecta al consentimiento, la privacidad y el potencial de uso indebido. El incidente también subraya la importancia de unas políticas sólidas de moderación de contenidos y de mecanismos de aplicación para evitar la creación y difusión de contenidos perjudiciales o ilegales.

La decisión de restringir la generación de imágenes de Grok a los suscriptores de pago representa un cambio en el enfoque de X para gestionar la tecnología. Si bien la medida puede mitigar algunos de los riesgos asociados a la herramienta, también plantea interrogantes sobre la accesibilidad y el potencial de un sistema de dos niveles en el que los usuarios de pago tengan mayor acceso a capacidades de IA potencialmente problemáticas. Las implicaciones a largo plazo de esta decisión para el desarrollo y el despliegue de la tecnología de generación de imágenes por IA están aún por verse. La empresa aún no ha anunciado cuándo o si la aplicación Grok también estará sujeta a las mismas restricciones.