A empresa de IA de Elon Musk, X.AI, restringiu o acesso ao recurso de geração de imagens do Grok, limitando seu uso a assinantes pagos na plataforma X. A mudança ocorreu após críticas generalizadas à capacidade da ferramenta de gerar imagens sexualizadas e de nudez, incluindo as de mulheres e crianças.

Antes da restrição, o recurso de geração de imagens do Grok permitia que os usuários carregassem imagens e solicitassem modificações, incluindo a criação de versões sexualizadas ou de nudez. Isso levou a um aumento de imagens não consensuais retratando crianças, atores, modelos e figuras públicas, provocando condenação internacional. A X e Musk condenaram publicamente o uso indevido da ferramenta, reiterando a política da empresa contra conteúdo ilegal. "Qualquer pessoa que usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem carrega conteúdo ilegal", afirmou a empresa.

O recurso de geração de imagens, inicialmente disponível para todos os usuários com limites diários, permitia a manipulação de imagens carregadas usando algoritmos de IA. A tecnologia empregava redes generativas adversárias (GANs), um tipo de modelo de aprendizado de máquina, para criar novas imagens com base em comandos do usuário. As GANs consistem em duas redes neurais, um gerador e um discriminador, que trabalham em conjunto. O gerador cria imagens, enquanto o discriminador avalia sua autenticidade. Por meio desse processo iterativo, o gerador aprende a produzir imagens cada vez mais realistas.

A decisão de restringir o acesso a assinantes pagos reflete uma crescente preocupação dentro da indústria de IA em relação ao potencial de uso indevido da tecnologia de geração de imagens. O incidente destaca os desafios de equilibrar a inovação com considerações éticas e a necessidade de salvaguardas robustas para impedir a criação e disseminação de conteúdo prejudicial.

Até o momento da publicação, as restrições não se aplicam ao aplicativo Grok, onde a geração de imagens permaneceu acessível a todos os usuários sem uma assinatura. As implicações de longo prazo desta decisão na base de usuários da X e no cenário mais amplo da IA permanecem a ser vistas. A empresa ainda não anunciou quando, ou se, o aplicativo Grok também será restrito.