O X, antigo Twitter, implementou novas restrições em sua plataforma para impedir que os usuários gerem imagens de pessoas reais em biquínis ou outras roupas reveladoras usando seu gerador de imagens Grok AI. A mudança na política, promulgada na noite de quarta-feira, segue a ampla crítica em relação ao uso do Grok para criar fotos "desnudando" não consensuais de mulheres e imagens sexualizadas de possíveis menores no X.

No entanto, embora o X tenha introduzido medidas de segurança para a geração de imagens do Grok dentro de sua plataforma, o aplicativo e o site independentes do Grok parecem ainda ser capazes de gerar imagens semelhantes de "estilo de nudez" e conteúdo pornográfico, de acordo com testes conduzidos por pesquisadores, WIRED e outros jornalistas. Alguns usuários também relataram uma redução em sua capacidade de criar imagens e vídeos como faziam anteriormente.

Paul Bouchaud, pesquisador líder da AI Forensics, uma organização sem fins lucrativos com sede em Paris, afirmou que a organização ainda pode gerar nudez fotorrealista no Grok.com, apesar das restrições no X. "Podemos gerar nudez de maneiras que o Grok no X não pode", disse Bouchaud, observando que ele tem rastreado o uso do Grok para criar imagens sexualizadas e realizou vários testes no Grok fora do X. Ele acrescentou: "Eu poderia fazer upload de uma imagem no Grok Imagine e pedir para colocar a pessoa em um biquíni e funciona."

A questão destaca os desafios de implementar uma moderação de conteúdo eficaz em diferentes plataformas e versões da mesma tecnologia de IA. O Grok, desenvolvido pela empresa de IA xAI de Elon Musk, é um modelo de IA generativo semelhante ao DALL-E 2 e Midjourney, capaz de criar imagens a partir de prompts de texto. A tecnologia levantou preocupações sobre seu potencial para uso indevido, incluindo a criação de deepfakes e imagens íntimas não consensuais.

As novas restrições no X representam uma tentativa de abordar essas preocupações, mas a funcionalidade contínua do aplicativo e site independentes do Grok sugere que mais ações podem ser necessárias para mitigar totalmente os riscos. Resta saber se a xAI implementará salvaguardas adicionais na plataforma Grok independente ou se o X tomará outras medidas para impedir a criação de imagens prejudiciais usando o Grok. A situação ressalta o debate contínuo sobre as implicações éticas do conteúdo gerado por IA e a responsabilidade das empresas de tecnologia em prevenir seu uso indevido.