O chatbot de IA de Elon Musk, Grok, limitou as capacidades de geração de imagens na plataforma de mídia social X, restringindo o recurso a assinantes pagos, em meio à crescente controvérsia sobre a criação de deepfakes, particularmente aqueles de natureza sexual envolvendo mulheres e crianças. A medida, anunciada na sexta-feira aos usuários do X, segue a crescente pressão sobre Musk e o X para abordar o uso indevido de imagens geradas por IA.

O aplicativo independente Grok, operando independentemente do X, continua a permitir a geração de imagens sem exigir uma assinatura. Esta restrição parcial no X representa uma resposta à recente reação negativa, incluindo ameaças de multas e críticas públicas de vários países em relação à capacidade do Grok de alterar imagens online, especificamente para remover roupas de indivíduos.

Deepfakes, uma junção de "deep learning" (aprendizado profundo) e "fake" (falso), são mídias sintéticas nas quais uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa. Estes são criados usando técnicas poderosas de IA, especificamente algoritmos de aprendizado profundo, que analisam e aprendem padrões de vastos conjuntos de dados de imagens e vídeos. A tecnologia levantou significativas preocupações éticas devido ao seu potencial de uso indevido, incluindo a criação de conteúdo difamatório, pornografia não consensual e a disseminação de desinformação.

A Comissão Europeia declarou na segunda-feira que estava ciente de "deepfakes horríveis com aparência infantil" gerados pela IA Grok do X, intensificando ainda mais o escrutínio sobre a plataforma. Musk afirmou recentemente que qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências de quem carrega tal material diretamente.

O Reino Unido também tem pressionado o X a tomar medidas contra a proliferação de imagens deepfake íntimas. O incidente ressalta os desafios que as plataformas de mídia social enfrentam na regulamentação do conteúdo gerado por IA e na prevenção de seu uso indevido. O debate continua em relação ao equilíbrio entre a inovação tecnológica e a necessidade de proteger os indivíduos dos danos causados pela manipulação gerada por IA. O desenvolvimento futuro do Grok e suas capacidades de geração de imagens permanecem incertos, à medida que o X navega por essas complexas considerações éticas e legais.