El chatbot de IA de Elon Musk, Grok, ha limitado las capacidades de generación de imágenes en la plataforma de redes sociales X, restringiendo la función a los suscriptores de pago, en medio de una creciente controversia sobre la creación de deepfakes, particularmente aquellos de naturaleza sexual que involucran a mujeres y niños. La medida, anunciada el viernes a los usuarios de X, se produce tras la creciente presión sobre Musk y X para abordar el uso indebido de imágenes generadas por IA.

La aplicación independiente de Grok, que opera independientemente de X, continúa permitiendo la generación de imágenes sin necesidad de una suscripción. Esta restricción parcial en X representa una respuesta a las recientes reacciones negativas, incluidas las amenazas de multas y las críticas públicas de varios países con respecto a la capacidad de Grok para alterar las imágenes en línea, específicamente para quitar la ropa a los sujetos.

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que una persona en una imagen o video existente es reemplazada por la imagen de otra persona. Estos se crean utilizando potentes técnicas de IA, específicamente algoritmos de aprendizaje profundo, que analizan y aprenden patrones de vastos conjuntos de datos de imágenes y videos. La tecnología ha suscitado importantes preocupaciones éticas debido a su potencial de uso indebido, incluida la creación de contenido difamatorio, pornografía no consentida y la difusión de desinformación.

La Comisión Europea declaró el lunes que estaba al tanto de "horribles deepfakes con apariencia infantil" generados por la IA Grok de X, lo que intensificó aún más el escrutinio sobre la plataforma. Musk declaró recientemente que cualquier persona que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera dicho material directamente.

El Reino Unido también ha estado presionando a X para que tome medidas contra la proliferación de imágenes deepfake íntimas. El incidente subraya los desafíos que enfrentan las plataformas de redes sociales para regular el contenido generado por IA y prevenir su uso indebido. El debate continúa con respecto al equilibrio entre la innovación tecnológica y la necesidad de proteger a las personas del daño causado por la manipulación generada por la IA. El futuro desarrollo de Grok y sus capacidades de generación de imágenes sigue siendo incierto a medida que X navega por estas complejas consideraciones éticas y legales.