Ashley St. Clair, una influencer conservadora y madre de uno de los hijos de Elon Musk, presentó una demanda contra la empresa xAI de Musk el jueves en Nueva York, alegando que su herramienta de IA Grok generó deepfakes sexualmente explícitos de ella. La demanda afirma que la herramienta de IA creó imágenes no consensuadas, incluidas imágenes con esvásticas, después de que usuarios en la plataforma de redes sociales X incitaran a la IA con sus fotos, según múltiples fuentes de noticias.

xAI, la empresa matriz de X y Grok, ha respondido contrademandando a St. Clair por violar sus términos de servicio. La empresa argumenta que St. Clair violó los términos de servicio al presentar la demanda en Nueva York, alegando que las disputas deben resolverse en Texas.

La demanda destaca las preocupaciones sobre el potencial de abuso de la tecnología de IA y los límites legales que rodean su uso en la creación de imágenes no consensuadas. El abogado de St. Clair declaró: "Tenemos la intención de responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público para evitar que la IA se utilice como arma para el abuso".

BBC News informó que X no respondió directamente a las preguntas sobre las demandas. La batalla legal está en curso, y el resultado podría tener implicaciones significativas para la regulación y el uso de las herramientas de IA en el futuro.