La medida se produce tras importantes reacciones negativas y el escrutinio de los reguladores y el público. El gobierno del Reino Unido calificó la decisión como una "vindicación" de su llamamiento a X para que controle las capacidades de Grok. Ofcom, el regulador de las comunicaciones del Reino Unido, describió el cambio como un "avance positivo", pero enfatizó que su investigación sobre si la plataforma violó las leyes del Reino Unido "sigue en curso". Ofcom declaró: "Estamos trabajando día y noche para avanzar en esto y obtener respuestas sobre lo que salió mal y lo que se está haciendo para solucionarlo".

La Secretaria de Tecnología, Liz Kendall, también acogió con satisfacción el cambio, pero indicó que "esperaría que los hechos fueran establecidos de manera completa y sólida por la investigación en curso de Ofcom".

Las medidas tecnológicas específicas implementadas por X para evitar que Grok cree este tipo de imágenes no se detallaron en el anuncio. Sin embargo, tales medidas suelen implicar una combinación de técnicas, incluidos algoritmos de reconocimiento de imágenes diseñados para identificar personas reales en fotografías, y filtros que impiden que la IA genere contenido sexualmente explícito o revelador. Estos filtros a menudo se basan en modelos de aprendizaje automático entrenados para detectar y bloquear salidas inapropiadas.

La controversia que rodea las capacidades de edición de imágenes de Grok destaca las crecientes preocupaciones sobre el potencial de la IA para ser utilizada en la creación de deepfakes no consentidos, particularmente aquellos de naturaleza sexual. Los activistas y las víctimas han argumentado que el cambio llega demasiado tarde para deshacer el daño ya causado por la tecnología. La periodista y activista Jess Davies, que no fue citada directamente en el material fuente proporcionado, probablemente ha estado entre quienes abogan por controles más estrictos.

El incidente subraya los desafíos que enfrentan las plataformas de redes sociales para regular las herramientas impulsadas por la IA y prevenir su uso indebido. A medida que la tecnología de IA se vuelve más sofisticada y accesible, la necesidad de salvaguardias sólidas y directrices éticas se vuelve cada vez más crítica. El impacto en la industria es significativo, lo que podría conducir a regulaciones más estrictas y un mayor escrutinio de las aplicaciones de IA en las plataformas de redes sociales. El estado actual es que las medidas tecnológicas están implementadas y la investigación de Ofcom está en curso. Los próximos acontecimientos probablemente incluirán los resultados de la investigación de Ofcom y posibles acciones adicionales por parte de los reguladores y legisladores para abordar los riesgos asociados con los deepfakes generados por IA.