A medida surge após a crescente preocupação com o potencial de deepfakes sexuais gerados pela ferramenta. Grok, lançado em 2023, é um assistente de IA integrado à plataforma X. Os mecanismos técnicos específicos implementados para impedir as alterações de imagem não foram divulgados pela X.

O governo do Reino Unido respondeu à mudança, chamando-a de "justificação" para seus apelos anteriores para que a X controlasse o Grok. A Ofcom, reguladora de comunicações do Reino Unido, descreveu o desenvolvimento como "bem-vindo", mas enfatizou que sua investigação sobre se a X violou as leis do Reino Unido "permanece em andamento". A Ofcom afirmou que está "trabalhando incansavelmente para avançar nisso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir". A Secretária de Tecnologia, Liz Kendall, também saudou a medida, acrescentando que "esperaria que os fatos fossem total e robustamente estabelecidos pela investigação em andamento da Ofcom".

Ativistas e vítimas argumentaram que as mudanças implementadas são insuficientes para lidar com os danos já causados pela tecnologia. A jornalista e ativista Jess Davies, que tem se manifestado sobre o assunto, ainda não comentou sobre as medidas específicas implementadas pela X.

O incidente destaca as crescentes preocupações em torno do uso indevido de tecnologias de IA, particularmente na criação de imagens íntimas não consensuais. A capacidade de alterar imagens de forma realista usando IA levanta questões éticas e legais significativas, provocando apelos por regulamentação mais rigorosa e salvaguardas tecnológicas. Espera-se que a investigação em andamento da Ofcom esclareça ainda mais a extensão do problema e as responsabilidades das plataformas de mídia social na prevenção do uso indevido de ferramentas de IA.