El chatbot de IA Grok, de Elon Musk, ha restringido las capacidades de generación de imágenes en la plataforma de redes sociales X, limitando la función a los suscriptores de pago, en medio de la creciente controversia sobre la creación de deepfakes, particularmente aquellos de naturaleza sexual que involucran a mujeres y niños. La medida, anunciada el viernes a los usuarios de X, se produce tras la creciente presión sobre Musk y X para abordar el uso indebido de la herramienta de IA.

La aplicación independiente Grok, que opera independientemente de X, continúa permitiendo a todos los usuarios generar imágenes, independientemente del estado de la suscripción. Esta restricción parcial se produce después de que Musk se enfrentara a posibles multas y críticas públicas de varios países con respecto a la capacidad de Grok para alterar imágenes en línea, incluso eliminando la ropa de los sujetos.

Los deepfakes, medios generados por IA que retratan de manera convincente a alguien haciendo o diciendo algo que no hizo, se basan en sofisticados algoritmos de aprendizaje automático. A menudo se utilizan redes generativas antagónicas (GAN), que enfrentan a dos redes neuronales entre sí: una genera el contenido falso, mientras que la otra intenta detectarlo. Este proceso iterativo da como resultado falsificaciones cada vez más realistas. La accesibilidad de herramientas de IA como Grok ha reducido la barrera de entrada para la creación de deepfakes, lo que genera preocupación sobre su potencial para uso malicioso, incluida la difamación, el acoso y la difusión de información errónea.

La Comisión Europea declaró el lunes que estaba investigando casos de "horribles deepfakes con apariencia infantil" generados por Grok. En medio de la condena generalizada, Elon Musk declaró recientemente que cualquiera que use Grok para crear contenido ilegal enfrentaría las mismas consecuencias que si subiera dicho material directamente.

El Reino Unido también ha presionado a X para que tome medidas contra la proliferación de imágenes deepfake íntimas. El rápido avance de la tecnología de IA exige un enfoque proactivo de la regulación y la moderación de contenido para mitigar los riesgos asociados con los deepfakes. La situación actual destaca el desafío continuo de equilibrar la innovación con las consideraciones éticas en el desarrollo y la implementación de la IA. El futuro de las capacidades de generación de imágenes de Grok tanto en X como en la aplicación independiente sigue siendo incierto a medida que la empresa sortea estos complejos problemas.