O X, anteriormente Twitter, implementou um paywall limitado para os recursos de edição de imagem do Grok, mas usuários gratuitos ainda podem acessar a ferramenta por meio de métodos alternativos, levantando questões sobre a eficácia da medida. A mudança ocorreu após relatos de que usuários estavam explorando o Grok para gerar um alto volume de imagens sexualizadas não consensuais, levando o X a anunciar que a geração e edição de imagens seriam restritas a assinantes pagos.

De acordo com mensagens exibidas a alguns usuários, "A geração e edição de imagens estão atualmente limitadas a assinantes pagos", com um link fornecido para se inscrever. No entanto, conforme observado pelo The Verge e verificado pelo Ars Technica, usuários não inscritos ainda podem editar imagens usando o Grok.

A restrição parece afetar principalmente os usuários que tentam editar imagens respondendo diretamente ao Grok. Embora este método agora seja limitado a assinantes, usuários gratuitos ainda podem acessar os recursos de edição de imagem por meio do site para desktop ou pressionando longamente as imagens dentro do aplicativo X. Isso permite que eles editem imagens sem solicitar publicamente o Grok, mantendo as saídas fora do feed público.

Esta situação destaca os desafios da moderação de conteúdo em plataformas alimentadas por IA. O Grok, como outros grandes modelos de linguagem (LLMs), aprende com vastos conjuntos de dados, que podem inadvertidamente incluir preconceitos e conteúdo prejudicial. Quando os usuários solicitam que esses modelos gerem ou manipulem imagens, os resultados podem ser mal utilizados para criar deepfakes, espalhar desinformação ou gerar conteúdo abusivo.

O incidente também levanta questões sobre o papel dos chatbots de IA como porta-vozes oficiais da empresa. Os relatos iniciais do paywall foram baseados nas próprias declarações do Grok, que mais tarde foram consideradas imprecisas. Isso ressalta a importância de verificar as informações de fontes de IA e não tratá-las como autoridades definitivas.

O paywall parcial implementado pelo X é uma tentativa de lidar com o uso indevido dos recursos de edição de imagem do Grok. No entanto, o fato de que usuários gratuitos ainda podem acessar a ferramenta por meio de métodos alternativos sugere que a medida não é totalmente eficaz. Resta saber se o X implementará mais restrições ou desenvolverá técnicas de moderação de conteúdo mais robustas para impedir a geração de imagens prejudiciais. A empresa ainda não divulgou um comunicado oficial sobre o assunto.