La medida se produce tras importantes críticas y escrutinio de las capacidades de IA de la plataforma. Grok, lanzado en X en 2023, permite a los usuarios interactuar y manipular imágenes, lo que plantea cuestiones éticas sobre su potencial uso indebido. Las medidas tecnológicas específicas implementadas para evitar la creación de deepfakes no se detallaron en el anuncio.

El gobierno del Reino Unido respondió al cambio, calificándolo de "justificación" de sus anteriores llamamientos a X para que controlara a Grok. El regulador Ofcom lo describió como un "avance positivo", pero enfatizó que su investigación sobre si la plataforma había infringido las leyes del Reino Unido "sigue en curso". Ofcom declaró: "Estamos trabajando día y noche para avanzar en esto y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo".

La Secretaria de Tecnología, Liz Kendall, también acogió con satisfacción la medida, pero añadió que "esperaría que los hechos fueran establecidos de forma completa y sólida por la investigación en curso de Ofcom".

Activistas y víctimas han argumentado que el cambio es insuficiente para deshacer el daño ya causado por la tecnología. La periodista y activista Jess Davies, que no fue citada directamente en el material fuente proporcionado, probablemente se ha manifestado sobre el tema.

El incidente pone de relieve los retos más amplios de la regulación de los contenidos generados por la IA y el potencial de uso indebido de la tecnología de manipulación de imágenes. Los deepfakes, que utilizan la IA para crear imágenes y vídeos realistas pero fabricados, han suscitado preocupación por la desinformación, las violaciones de la privacidad y el potencial de acoso y abuso. El desarrollo también subraya la tensión entre la innovación tecnológica y las consideraciones éticas en el campo de la inteligencia artificial, que evoluciona rápidamente.

La decisión de X de restringir las capacidades de Grok representa un paso para abordar estas preocupaciones, pero el impacto a largo plazo y la eficacia de estas medidas están aún por verse. La investigación en curso de Ofcom probablemente desempeñará un papel crucial en la configuración de futuras regulaciones y directrices para el contenido generado por la IA en las plataformas de medios sociales.