La medida se produce tras las críticas y el escrutinio regulatorio, incluida una investigación en curso por parte del regulador de comunicaciones del Reino Unido, Ofcom, sobre si X ha violado las leyes del Reino Unido. Ofcom declaró que el cambio era un "avance bienvenido", pero enfatizó que su investigación "sigue en curso". El regulador añadió: "Estamos trabajando día y noche para avanzar en esto y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo".

La Secretaria de Tecnología, Liz Kendall, también acogió con satisfacción las acciones de la plataforma, afirmando que "esperaría que los hechos fueran establecidos de manera completa y sólida por la investigación en curso de Ofcom".

Grok, lanzado en 2023, es una herramienta de IA integrada en la plataforma X. Las medidas tecnológicas específicas implementadas para evitar la manipulación de imágenes no se detallaron en el anuncio. Sin embargo, la compañía indicó que las medidas están diseñadas para restringir la capacidad de la cuenta de Grok para realizar la función específica de edición de imágenes que generó preocupación.

El uso de la IA para crear deepfakes, particularmente aquellos de naturaleza sexual, ha suscitado importantes preocupaciones éticas y legales. Los críticos argumentan que dicha tecnología puede utilizarse para acosar, difamar y explotar a personas, causando un daño significativo a las víctimas. La periodista y activista Jess Davies, junto con otros activistas y víctimas, han declarado que el cambio ha llegado demasiado tarde para deshacer el daño ya causado.

El gobierno del Reino Unido había pedido previamente a X que controlara a Grok, y los funcionarios han descrito la reciente acción de la plataforma como una "reivindicación" de sus esfuerzos. El incidente pone de relieve los desafíos que enfrentan las plataformas de redes sociales en la gestión de las herramientas de IA y la prevención de su uso indebido. El impacto de esta decisión en la industria podría llevar a otras plataformas a reevaluar y reforzar sus protocolos de seguridad de la IA.