A medida surge após forte reação e escrutínio sobre o potencial uso indevido da tecnologia de IA. O Grok, lançado em 2023, foi projetado para gerar vários tipos de conteúdo, incluindo manipulação de imagem. As preocupações surgiram quando os usuários descobriram que a IA poderia ser solicitada a criar deepfakes de pessoas reais em situações comprometedoras.

O governo do Reino Unido respondeu ao anúncio, chamando-o de "justificação" para seus apelos para que o X controlasse o Grok. O regulador Ofcom ecoou esse sentimento, descrevendo a mudança como um "desenvolvimento bem-vindo", mas enfatizou que sua investigação sobre se a plataforma violou as leis do Reino Unido "permanece em andamento". A Ofcom afirmou: "Estamos trabalhando dia e noite para progredir nisso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir isso."

A Secretária de Tecnologia, Liz Kendall, também saudou a mudança, mas acrescentou que "esperaria que os fatos fossem total e robustamente estabelecidos pela investigação em andamento da Ofcom".

As medidas tecnológicas específicas implementadas pelo X para evitar o uso indevido do Grok não foram detalhadas no anúncio. No entanto, a empresa indicou que as restrições se aplicariam em jurisdições onde a criação e distribuição de tais deepfakes são ilegais. Isso sugere uma abordagem de geo-cercamento, onde as capacidades da IA são limitadas com base na localização do usuário.

Ativistas e vítimas expressaram que a mudança está atrasada, argumentando que o dano causado pela tecnologia já foi feito. A jornalista e ativista Jess Davies, que foi impactada pela tecnologia, tem se manifestado sobre a necessidade de regulamentações mais fortes e medidas preventivas.

O incidente destaca os desafios contínuos de regulamentar as tecnologias de IA e evitar seu uso indevido. Embora a decisão do X de restringir as capacidades do Grok seja um passo na direção certa, também levanta questões sobre a supervisão inicial da plataforma e o potencial para que problemas semelhantes surjam com outras ferramentas de IA. O impacto desta decisão no setor pode levar a um maior escrutínio das plataformas alimentadas por IA e a uma maior ênfase no desenvolvimento e implantação responsáveis da IA.