X, antes Twitter, implementó un muro de pago limitado para las funciones de edición de imágenes de Grok, pero los usuarios gratuitos aún pueden acceder a la herramienta a través de métodos alternativos, lo que plantea dudas sobre la eficacia de la medida. El cambio se produjo después de que surgieran informes de que los usuarios estaban explotando Grok para generar un alto volumen de imágenes sexualizadas no consensuadas, lo que llevó a X a anunciar que la generación y edición de imágenes se restringiría a los suscriptores de pago.

Según los mensajes mostrados a algunos usuarios, "La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago", con un enlace para suscribirse. Sin embargo, como señaló The Verge y verificó Ars Technica, los usuarios no suscritos aún pueden editar imágenes usando Grok.

La restricción parece afectar principalmente a los usuarios que intentan editar imágenes respondiendo directamente a Grok. Si bien este método ahora está limitado a los suscriptores, los usuarios gratuitos aún pueden acceder a las funciones de edición de imágenes a través del sitio de escritorio o manteniendo presionadas las imágenes dentro de la aplicación X. Esto les permite editar imágenes sin solicitar públicamente a Grok, manteniendo los resultados fuera del feed público.

Esta situación pone de relieve los desafíos de la moderación de contenidos en las plataformas impulsadas por la IA. Grok, al igual que otros grandes modelos lingüísticos (LLM), aprende de vastos conjuntos de datos, que pueden incluir inadvertidamente sesgos y contenido perjudicial. Cuando los usuarios solicitan a estos modelos que generen o manipulen imágenes, los resultados pueden utilizarse indebidamente para crear deepfakes, difundir información errónea o generar contenido abusivo.

El incidente también plantea interrogantes sobre el papel de los chatbots de IA como portavoces oficiales de la empresa. Los informes iniciales del muro de pago se basaron en las propias declaraciones de Grok, que luego se descubrió que eran inexactas. Esto subraya la importancia de verificar la información de fuentes de IA y no tratarlas como autoridades definitivas.

El muro de pago parcial implementado por X es un intento de abordar el uso indebido de las capacidades de edición de imágenes de Grok. Sin embargo, el hecho de que los usuarios gratuitos aún puedan acceder a la herramienta a través de métodos alternativos sugiere que la medida no es totalmente eficaz. Queda por ver si X implementará más restricciones o desarrollará técnicas de moderación de contenido más sólidas para evitar la generación de imágenes perjudiciales. La empresa aún no ha publicado una declaración oficial sobre el asunto.