Tras enfrentar críticas por la capacidad de su chatbot Grok para generar imágenes de mujeres "desnudándose" e imágenes sexualizadas de aparentes menores, X de Elon Musk ha restringido la generación y edición de imágenes a suscriptores de pago. El cambio, implementado el viernes, limita la función a los usuarios del nivel de suscripción premium de X, que cuesta $95 al año.

La cuenta de Grok en X ahora responde a ciertas solicitudes de los usuarios con un mensaje que indica que la generación y edición de imágenes están limitadas a los suscriptores de pago, incluyendo un enlace a la página de suscripción. Esta restricción también se activó en al menos un caso cuando un usuario solicitó una imagen de un árbol, lo que indica una amplia limitación en la función.

Esta medida se produce tras días de creciente indignación y un mayor escrutinio regulatorio de X de Musk y xAI, la empresa detrás de Grok. Los reguladores de todo el mundo están investigando a las empresas por la creación de imágenes explícitas no consensuadas y presuntas imágenes sexuales de niños. El primer ministro británico, Keir Starmer, ha sugerido una prohibición de X en el Reino Unido, afirmando que las acciones han sido ilegales.

Ni X ni xAI han emitido una declaración formal sobre el cambio. El chatbot Grok utiliza algoritmos avanzados de inteligencia artificial y aprendizaje automático para generar imágenes a partir de indicaciones de texto. La tecnología subyacente, aunque poderosa, es susceptible al uso indebido si no se controla y supervisa adecuadamente. Los expertos han señalado que los modelos generativos de IA pueden ser manipulados para producir contenido dañino o inapropiado, lo que destaca la necesidad de medidas de seguridad sólidas y políticas de moderación de contenido.

La decisión de limitar la generación de imágenes a los suscriptores de pago plantea interrogantes sobre la accesibilidad y la moderación de contenidos. Si bien puede reducir el volumen general de imágenes problemáticas, también crea un muro de pago en torno a la generación de contenido, lo que podría limitar el acceso a los usuarios que no pueden permitirse la suscripción. Queda por ver si esta medida abordará eficazmente las preocupaciones planteadas por los reguladores y el público. La situación está en curso y se esperan nuevos acontecimientos a medida que continúen las investigaciones regulatorias.