La empresa de IA de Elon Musk, X. Corp, ha restringido el acceso a la función de generación de imágenes de IA de Grok a los suscriptores de pago en la plataforma X, tras las críticas generalizadas por el uso indebido de la herramienta. La restricción, anunciada el viernes en respuestas a los usuarios, limita las capacidades de generación y edición de imágenes únicamente a los suscriptores de pago, una medida motivada por la preocupación por la creación de imágenes sexualizadas y de desnudos, incluidas las que representan a mujeres y niños.

El lanzamiento inicial de la función de generación de imágenes de Grok permitía a los usuarios, incluso a aquellos sin suscripción, cargar imágenes y solicitar modificaciones, incluida la creación de versiones sexualizadas o de desnudos. Esta capacidad condujo a una oleada de imágenes no consentidas con niños, actores, modelos y figuras públicas, lo que provocó la condena internacional. A pesar de las restricciones en X, la aplicación Grok, en el momento de la publicación, seguía permitiendo a todos los usuarios generar imágenes sin necesidad de una suscripción de pago.

X y Elon Musk han condenado públicamente el uso indebido de la herramienta, afirmando que la empresa hará cumplir sus políticas contra el contenido ilegal. "Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", declaró la empresa, reiterando su compromiso con las políticas de moderación de contenidos.

La decisión de restringir el acceso a los suscriptores de pago refleja una creciente preocupación dentro de la industria de la IA con respecto al potencial de uso indebido de las tecnologías de IA generativa. Los expertos han advertido sobre las implicaciones éticas de la generación de imágenes por IA, en particular el riesgo de crear deepfakes y contenido explícito no consentido. El incidente pone de relieve los retos a los que se enfrentan las empresas para equilibrar la innovación con el desarrollo y la implantación responsables de la IA.

Se espera que la medida de X de limitar el acceso a la función de generación de imágenes de Grok afecte a la base de usuarios y potencialmente cambie el enfoque del desarrollo de la herramienta. Queda por ver si la empresa implementará salvaguardias más estrictas para evitar el uso indebido, incluso entre los suscriptores de pago. El futuro de las capacidades de generación de imágenes de Grok y su disponibilidad en la aplicación independiente siguen siendo inciertos, ya que la empresa navega por las complejidades éticas y legales del contenido generado por la IA.