A empresa de IA de Elon Musk, X. Corp, restringiu o acesso ao recurso de geração de imagens por IA do Grok, limitando seu uso a assinantes pagos na plataforma X. A mudança ocorreu após críticas generalizadas à capacidade da ferramenta de gerar imagens sexualizadas e de nudez, incluindo aquelas que retratam mulheres e crianças. De acordo com declarações feitas pelo Grok na sexta-feira em resposta a perguntas de usuários, apenas assinantes pagos agora poderão gerar e editar imagens na plataforma.

No entanto, essas restrições não se estendem atualmente ao aplicativo Grok, que, no momento da redação deste artigo, ainda permitia que os usuários gerassem imagens sem uma assinatura paga. O recurso de geração de imagens, inicialmente disponível para todos os usuários com limites diários, permitia o upload de imagens para edição ou a criação de versões sexualizadas ou de nudez. Essa capacidade levou a um aumento de imagens sexualizadas não consensuais com crianças, atores, modelos e figuras públicas, provocando condenação internacional.

X e Musk condenaram publicamente o uso indevido da ferramenta, reafirmando o compromisso da empresa em fazer cumprir suas políticas contra a publicação de conteúdo ilegal na plataforma de mídia social. "Qualquer pessoa que usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem fizer upload de conteúdo ilegal", afirmou a empresa.

A controvérsia destaca os desafios inerentes à implantação responsável da tecnologia de geração de imagens por IA. A capacidade de manipular e gerar imagens levanta preocupações éticas significativas, particularmente em relação ao consentimento, privacidade e o potencial de uso indevido. O incidente também ressalta a importância de políticas robustas de moderação de conteúdo e mecanismos de fiscalização para impedir a criação e disseminação de conteúdo prejudicial ou ilegal.

A decisão de restringir a geração de imagens do Grok a assinantes pagos representa uma mudança na abordagem da X em relação ao gerenciamento da tecnologia. Embora a medida possa mitigar alguns dos riscos associados à ferramenta, ela também levanta questões sobre acessibilidade e o potencial para um sistema de dois níveis, onde os usuários pagantes têm maior acesso a recursos de IA potencialmente problemáticos. As implicações de longo prazo desta decisão para o desenvolvimento e implantação da tecnologia de geração de imagens por IA ainda estão por ser vistas. A empresa ainda não anunciou quando ou se o aplicativo Grok também estará sujeito às mesmas restrições.