O X, anteriormente Twitter, implementou novas restrições em sua plataforma para impedir que usuários editem e gerem imagens de pessoas reais em roupas reveladoras, após críticas generalizadas ao seu Grok AI por ser usado para criar imagens sexualmente explícitas não consensuais. A mudança na política, introduzida na noite de quarta-feira, visa abordar as preocupações sobre a geração de fotos prejudiciais de "desnudamento" de mulheres e imagens sexualizadas de menores aparentes.

No entanto, embora o X aparentemente tenha introduzido medidas de segurança na geração de imagens do Grok dentro de sua plataforma, testes independentes sugerem que o aplicativo e o site independentes do Grok ainda permitem a criação de tais imagens. Pesquisadores, jornalistas da WIRED e outros testadores relataram ser capazes de gerar imagens de "estilo de nudez" e conteúdo pornográfico por meio da plataforma Grok independente. Por outro lado, alguns usuários relataram uma capacidade reduzida de criar imagens e vídeos em comparação com as capacidades anteriores.

Paul Bouchaud, pesquisador líder da AI Forensics, uma organização sem fins lucrativos com sede em Paris, afirmou: "Ainda podemos gerar nudez fotorrealista no Grok.com... Podemos gerar nudez de maneiras que o Grok no X não pode." Bouchaud, que tem rastreado o uso do Grok para criar imagens sexualizadas, conduziu vários testes fora da plataforma X. Ele explicou ainda: "Eu poderia fazer upload de uma imagem no Grok Imagine e pedir para colocar a pessoa em um biquíni, e funciona."

A discrepância entre as restrições no X e as capacidades do Grok independente destaca os desafios na regulamentação da tecnologia de geração de imagens por IA. A capacidade de manipular imagens e criar representações realistas de indivíduos em situações comprometedoras levanta significativas preocupações éticas e legais, particularmente em relação ao consentimento e ao potencial de uso indevido.

A introdução do Grok e de ferramentas semelhantes de geração de imagens por IA gerou debate dentro da indústria de tecnologia e entre os formuladores de políticas sobre a necessidade de regulamentações e salvaguardas mais rigorosas. Especialistas argumentam que os desenvolvedores devem priorizar a segurança e as considerações éticas ao implantar tais tecnologias, incluindo a implementação de sistemas robustos de moderação de conteúdo e mecanismos para impedir a criação de conteúdo prejudicial ou explorador.

O status atual das capacidades de geração de imagens do Grok continua sendo uma preocupação para muitos, pois o potencial de uso indevido persiste na plataforma independente. Não está claro quais medidas o X planeja tomar para resolver o problema em andamento e garantir medidas de segurança consistentes em todas as plataformas Grok. Mais desenvolvimentos são esperados à medida que pesquisadores e grupos de defesa continuam a monitorar a situação e a pressionar por regulamentações mais fortes.