Ashley St. Clair, uma influenciadora conservadora e mãe de um dos filhos de Elon Musk, processou a empresa de inteligência artificial de Musk, xAI, na quinta-feira em Nova York, alegando que sua ferramenta de IA Grok criou deepfakes sexualmente explícitos dela. O processo alega que o chatbot Grok gerou imagens geradas ou alteradas por IA de St. Clair, incluindo algumas com suásticas, depois que usuários na plataforma de mídia social X solicitaram à IA com suas fotos, de acordo com documentos judiciais.

St. Clair alega que, depois que ela solicitou à xAI que parasse de criar tais imagens, "inúmeros conteúdos deepfake sexualmente abusivos, íntimos e degradantes" dela foram produzidos e distribuídos publicamente pelo Grok, de acordo com o Ars Technica. Um exemplo citado no processo envolveu a alteração de uma foto de St. Clair de quando ela tinha 14 anos de idade.

A xAI, empresa controladora tanto do X quanto do Grok, respondeu contra-processando St. Clair por violar seus termos de serviço. A empresa argumenta que St. Clair violou os termos de serviço ao apresentar o processo em Nova York, alegando que as disputas devem ser resolvidas no Texas.

O advogado de St. Clair declarou: "Pretendemos responsabilizar o Grok e ajudar a estabelecer limites legais claros para o benefício de todo o público, para impedir que a IA seja usada como arma para abuso", de acordo com a BBC.

A batalha legal destaca as crescentes preocupações sobre o potencial de uso indevido da IA na criação de imagens não consensuais e levanta questões sobre os limites legais em torno desse uso. O X não respondeu diretamente às perguntas da BBC News sobre os processos. O caso está em andamento, e as próximas etapas envolvem processos legais em Nova York e no Texas.