Vários senadores dos EUA estão exigindo respostas de grandes empresas de tecnologia, incluindo X, Meta, Alphabet, Snap, Reddit e TikTok, sobre seus esforços para combater a proliferação de deepfakes sexualizados em suas plataformas. Em uma carta enviada à liderança dessas empresas, os senadores solicitaram provas de proteções e políticas robustas projetadas para conter o aumento de imagens sexuais geradas por IA.

Os senadores também determinaram que as empresas preservem todos os documentos e informações relacionados à criação, detecção, moderação e monetização de imagens sexualizadas geradas por IA, juntamente com quaisquer políticas relevantes. Este pedido segue relatos que destacam a facilidade com que modelos de IA, como o Grok (desenvolvido por X e xAI), podem gerar imagens sexualizadas e de nudez, incluindo aquelas que retratam mulheres e crianças.

A carta ressalta a preocupação de que as salvaguardas existentes da plataforma contra imagens sexualizadas não consensuais podem ser insuficientes. "Reconhecemos que muitas empresas mantêm políticas contra imagens íntimas não consensuais e exploração sexual, e que muitas IA", afirmaram os senadores, implicando que as medidas atuais não estão abordando adequadamente a questão.

A demanda por informações surge logo após o X anunciar atualizações no Grok, proibindo a IA de criar edições de pessoas reais em roupas reveladoras. O X também restringiu a criação e edição de imagens via Grok a assinantes pagantes. Essas mudanças foram implementadas em resposta a reportagens da mídia detalhando a capacidade da IA de gerar conteúdo explícito.

Deepfakes, que utilizam inteligência artificial para criar imagens e vídeos realistas, mas fabricados, representam um desafio significativo para as empresas de tecnologia. A tecnologia pode ser usada para gerar imagens íntimas não consensuais, contribuindo para o assédio e a exploração online. A investigação dos senadores reflete a crescente preocupação com o potencial de uso indevido da IA ​​dessa forma e a responsabilidade das empresas de tecnologia em mitigar esses riscos.

Os senadores estão buscando explicações detalhadas sobre as estratégias das empresas para detectar e remover deepfakes sexualizados, bem como informações sobre como estão impedindo que a tecnologia seja usada para criar e distribuir esse conteúdo. A documentação solicitada provavelmente fornecerá informações sobre os desafios técnicos e as considerações políticas envolvidas no tratamento desta questão. Os próximos passos provavelmente envolverão as empresas respondendo às perguntas dos senadores e potencialmente enfrentando um escrutínio adicional com base em suas respostas.