O X, anteriormente conhecido como Twitter, anunciou que bloqueará seu modelo de IA Grok de gerar imagens de pessoas reais em roupas reveladoras em jurisdições onde isso é ilegal. A decisão, revelada horas depois que o principal promotor da Califórnia disse que o estado estava investigando a disseminação de deepfakes sexualizados por IA, ocorre após uma preocupação generalizada com o uso indevido da IA para criar tais imagens.

De acordo com um anúncio no X, a empresa "implementou medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis". A restrição se aplica a todos os usuários da ferramenta Grok AI, incluindo assinantes pagos.

A medida visa abordar o crescente problema de deepfakes sexualizados por IA e o dano potencial que eles podem causar. O anúncio foi tornado público há três horas. Elon Musk lançou o Grok em 2023.