Cette décision intervient après des critiques et un examen réglementaire, notamment une enquête en cours de l'Ofcom, l'autorité britannique de régulation des communications, visant à déterminer si X a enfreint les lois britanniques. L'Ofcom a déclaré que ce changement était un "développement bienvenu", mais a souligné que son enquête "reste en cours". L'autorité de régulation a ajouté : "Nous travaillons jour et nuit pour faire avancer ce dossier et obtenir des réponses sur ce qui n'a pas fonctionné et sur ce qui est fait pour y remédier."

La secrétaire d'État à la Technologie, Liz Kendall, a également salué les actions de la plateforme, déclarant qu'elle "s'attend à ce que les faits soient pleinement et solidement établis par l'enquête en cours de l'Ofcom".

Grok, lancé en 2023, est un outil d'IA intégré à la plateforme X. Les mesures technologiques spécifiques mises en œuvre pour empêcher la manipulation d'images n'ont pas été détaillées dans l'annonce. Cependant, l'entreprise a indiqué que ces mesures sont conçues pour restreindre la capacité du compte Grok à effectuer la fonction spécifique de retouche d'image qui a suscité des inquiétudes.

L'utilisation de l'IA pour créer des deepfakes, en particulier ceux à caractère sexuel, a soulevé d'importantes préoccupations éthiques et juridiques. Les critiques soutiennent qu'une telle technologie peut être utilisée pour harceler, diffamer et exploiter des individus, causant un préjudice important aux victimes. La journaliste et militante Jess Davies, ainsi que d'autres militants et victimes, ont déclaré que ce changement intervient trop tard pour réparer le préjudice déjà causé.

Le gouvernement britannique avait précédemment appelé X à contrôler Grok, et des responsables ont décrit la récente action de la plateforme comme une "justification" de leurs efforts. Cet incident met en évidence les défis auxquels sont confrontées les plateformes de médias sociaux pour gérer les outils d'IA et empêcher leur mauvaise utilisation. L'impact de cette décision sur l'industrie pourrait amener d'autres plateformes à réévaluer et à renforcer leurs protocoles de sécurité en matière d'IA.