Cette décision fait suite à d'importantes réactions négatives et à un examen minutieux des capacités d'IA de la plateforme. Grok, lancé sur X en 2023, permet aux utilisateurs d'interagir avec des images et de les manipuler, soulevant des questions éthiques quant à son potentiel de détournement. Les mesures technologiques spécifiques mises en œuvre pour empêcher la création de deepfakes n'ont pas été détaillées dans l'annonce.

Le gouvernement britannique a réagi à ce changement, le qualifiant de « justification » de ses précédents appels à X pour qu'il contrôle Grok. L'organisme de réglementation Ofcom l'a décrit comme une « évolution positive », mais a souligné que son enquête visant à déterminer si la plateforme avait enfreint les lois britanniques « reste en cours ». Ofcom a déclaré : « Nous travaillons sans relâche pour faire avancer ce dossier et obtenir des réponses sur ce qui n'a pas fonctionné et sur ce qui est fait pour y remédier. »

La secrétaire d'État à la Technologie, Liz Kendall, s'est également félicitée de cette décision, mais a ajouté qu'elle « s'attendait à ce que les faits soient pleinement et solidement établis par l'enquête en cours d'Ofcom ».

Des militants et des victimes ont fait valoir que ce changement est insuffisant pour réparer le préjudice déjà causé par la technologie. La journaliste et militante Jess Davies, qui n'a pas été citée directement dans la source fournie, s'est probablement exprimée avec véhémence sur la question.

L'incident met en évidence les défis plus larges de la réglementation du contenu généré par l'IA et le potentiel de détournement de la technologie de manipulation d'images. Les deepfakes, qui utilisent l'IA pour créer des images et des vidéos réalistes mais fabriquées, ont soulevé des inquiétudes quant à la désinformation, aux violations de la vie privée et au potentiel de harcèlement et d'abus. Cette évolution souligne également la tension entre l'innovation technologique et les considérations éthiques dans le domaine en évolution rapide de l'intelligence artificielle.

La décision de X de restreindre les capacités de Grok représente un pas vers la résolution de ces préoccupations, mais l'impact à long terme et l'efficacité de ces mesures restent à déterminer. L'enquête en cours d'Ofcom jouera probablement un rôle crucial dans l'élaboration des futures réglementations et directives relatives au contenu généré par l'IA sur les plateformes de médias sociaux.