A medida surge após significativa reação e escrutínio das capacidades de IA da plataforma. Grok, lançado no X em 2023, permite que os usuários interajam e manipulem imagens, levantando questões éticas sobre seu potencial para uso indevido. As medidas tecnológicas específicas implementadas para impedir a criação de deepfakes não foram detalhadas no anúncio.

O governo do Reino Unido respondeu à mudança, chamando-a de "justificação" para seus apelos anteriores para que o X controlasse o Grok. O regulador Ofcom descreveu-o como um "desenvolvimento bem-vindo", mas enfatizou que sua investigação sobre se a plataforma violou as leis do Reino Unido "permanece em andamento". A Ofcom declarou: "Estamos trabalhando dia e noite para avançar com isso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir."

A Secretária de Tecnologia, Liz Kendall, também saudou a medida, mas acrescentou que "esperaria que os fatos fossem total e robustamente estabelecidos pela investigação em andamento da Ofcom".

Ativistas e vítimas argumentaram que a mudança é insuficiente para desfazer os danos já causados pela tecnologia. A jornalista e ativista Jess Davies, que não foi citada diretamente no material de origem fornecido, provavelmente tem se manifestado sobre o assunto.

O incidente destaca os desafios mais amplos de regulamentar o conteúdo gerado por IA e o potencial de uso indevido da tecnologia de manipulação de imagem. Deepfakes, que usam IA para criar imagens e vídeos realistas, mas fabricados, levantaram preocupações sobre desinformação, violações de privacidade e o potencial de assédio e abuso. O desenvolvimento também ressalta a tensão entre inovação tecnológica e considerações éticas no campo em rápida evolução da inteligência artificial.

A decisão do X de restringir as capacidades do Grok representa um passo para abordar essas preocupações, mas o impacto a longo prazo e a eficácia dessas medidas ainda estão por ser vistos. A investigação em andamento da Ofcom provavelmente desempenhará um papel crucial na definição de futuras regulamentações e diretrizes para conteúdo gerado por IA em plataformas de mídia social.