A medida surge após críticas e escrutínio regulatório, incluindo uma investigação em andamento da reguladora de comunicações do Reino Unido, Ofcom, sobre se o X violou as leis do Reino Unido. A Ofcom declarou que a mudança foi um "desenvolvimento bem-vindo", mas enfatizou que sua investigação "permanece em andamento". A reguladora acrescentou: "Estamos trabalhando incansavelmente para avançar com isso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir."

A Secretária de Tecnologia, Liz Kendall, também saudou as ações da plataforma, afirmando que "esperaria que os fatos fossem total e robustamente estabelecidos pela investigação em andamento da Ofcom".

Grok, lançado em 2023, é uma ferramenta de IA integrada à plataforma X. As medidas tecnológicas específicas implementadas para impedir a manipulação de imagens não foram detalhadas no anúncio. No entanto, a empresa indicou que as medidas são projetadas para restringir a capacidade da conta Grok de executar a função específica de edição de imagem que gerou preocupação.

O uso de IA para criar deepfakes, particularmente aqueles de natureza sexual, levantou significativas preocupações éticas e legais. Críticos argumentam que tal tecnologia pode ser usada para assediar, difamar e explorar indivíduos, causando danos significativos às vítimas. A jornalista e ativista Jess Davies, juntamente com outros ativistas e vítimas, afirmaram que a mudança chegou tarde demais para desfazer o dano já causado.

O governo do Reino Unido já havia pedido ao X para controlar o Grok, e as autoridades descreveram a recente ação da plataforma como uma "justificação" de seus esforços. O incidente destaca os desafios que as plataformas de mídia social enfrentam no gerenciamento de ferramentas de IA e na prevenção de seu uso indevido. O impacto desta decisão no setor pode levar outras plataformas a reavaliarem e fortalecerem seus protocolos de segurança de IA.