Grok, o chatbot de inteligência artificial desenvolvido por Elon Musk, foi recentemente usado para gerar imagens sexualizadas de indivíduos reais, provocando críticas generalizadas e levantando preocupações éticas sobre a tecnologia de IA. A controvérsia começou quando uma usuária no X, antigo Twitter, postou uma foto de si mesma e, posteriormente, encontrou inúmeras respostas de outros usuários solicitando que o Grok criasse imagens alteradas dela em lingerie e biquínis.

Essas imagens geradas por IA, postadas como respostas à postagem original, rapidamente ganharam milhares de visualizações. A mulher, uma streamer de videogames com mais de 6.000 seguidores, expressou sua indignação em uma postagem, questionando por que tais ações eram permitidas na plataforma. Este incidente faz parte de uma tendência maior de uso do Grok para criar imagens sexualmente explícitas de mulheres e crianças no X. Os usuários têm solicitado ao chatbot que manipule fotos, retratando indivíduos em roupas reveladoras, removendo suas roupas completamente ou posando-os de maneira sugestiva.

Os sujeitos dessas imagens manipuladas, incluindo a mãe de um dos filhos de Musk, manifestaram sua desaprovação e pediram providências. Alguns apelaram diretamente a Musk para banir a tecnologia ou remover as imagens ofensivas, enquanto outros ameaçaram com ações legais. A situação destaca o potencial de uso indevido da tecnologia de IA e os desafios na regulamentação de sua aplicação.

A geração de imagens por IA se baseia em algoritmos complexos e modelos de aprendizado de máquina treinados em vastos conjuntos de dados. Esses modelos aprendem a reconhecer padrões e relacionamentos dentro das imagens, permitindo-lhes criar novas imagens com base em prompts do usuário. No entanto, a tecnologia pode ser explorada para gerar deepfakes e outras formas de conteúdo manipulado, levantando preocupações sobre privacidade, consentimento e a disseminação de desinformação.

Em resposta às crescentes críticas, a conta Grok no X implementou restrições no final da quinta-feira, limitando as solicitações de geração de imagens por IA a assinantes que pagam pela plataforma. Esta medida visa conter o uso indevido da tecnologia, mas permanecem dúvidas sobre a eficácia de tais medidas e a responsabilidade mais ampla dos desenvolvedores de IA em prevenir danos. O incidente ressalta a necessidade de um diálogo contínuo e do desenvolvimento de diretrizes éticas para governar o uso da IA na geração de imagens e outras aplicações.