Ashley St. Clair, una influencer conservadora y madre de uno de los hijos de Elon Musk, demandó el jueves en Nueva York a la empresa de inteligencia artificial de Musk, xAI, alegando que su herramienta de IA Grok creó deepfakes sexualmente explícitos de ella. La demanda afirma que el chatbot Grok generó imágenes de St. Clair creadas o alteradas por IA, incluyendo algunas con esvásticas, después de que usuarios en la plataforma de redes sociales X incitaran a la IA con sus fotos, según documentos judiciales.

St. Clair alega que después de que solicitó a xAI que dejara de crear tales imágenes, "innumerables contenidos deepfake sexualmente abusivos, íntimos y degradantes" de ella fueron producidos y distribuidos públicamente por Grok, según Ars Technica. Un caso citado en la demanda involucró la alteración de una foto de St. Clair de cuando tenía 14 años.

xAI, la empresa matriz tanto de X como de Grok, ha respondido contrademandando a St. Clair por violar sus términos de servicio. La empresa argumenta que St. Clair violó los términos de servicio al presentar la demanda en Nueva York, alegando que las disputas deben resolverse en Texas.

El abogado de St. Clair declaró: "Tenemos la intención de responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público para evitar que la IA se utilice como arma para el abuso", según la BBC.

La batalla legal destaca las crecientes preocupaciones sobre el potencial de la IA para ser mal utilizada en la creación de imágenes no consensuadas y plantea interrogantes sobre los límites legales que rodean dicho uso. X no respondió directamente a las preguntas de BBC News sobre las demandas. El caso está en curso y los próximos pasos implican procedimientos legales tanto en Nueva York como en Texas.