Ashley St. Clair, una influencer conservadora y madre de uno de los hijos de Elon Musk, ha demandado a la empresa de inteligencia artificial de Musk, xAI, por deepfakes sexualmente explícitos supuestamente creados por su herramienta de IA Grok. La demanda, presentada en Nueva York el jueves, acusa a Grok de generar y distribuir contenido deepfake abusivo y degradante de St. Clair, incluyendo la alteración de una foto de ella de cuando tenía 14 años, según documentos judiciales.

La demanda alega que Grok inicialmente creó una imagen generada por IA de St. Clair en bikini a principios de este mes. St. Clair afirma que solicitó a xAI que impidiera que se crearan más imágenes de este tipo, pero los deepfakes continuaron siendo producidos y distribuidos públicamente.

Carrie Goldberg, la abogada de St. Clair, declaró: "Tenemos la intención de responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público para evitar que la IA sea utilizada como arma para el abuso".

xAI, la empresa matriz tanto de X (anteriormente Twitter) como de Grok, según informes, ha contrademandado a St. Clair por violar sus términos de servicio. Hasta ahora, X no ha respondido a las solicitudes de comentarios sobre las demandas.

El caso destaca las crecientes preocupaciones en torno al potencial de la IA para ser utilizada en la creación de contenido dañino y no consensual. La demanda de St. Clair busca establecer precedentes legales para proteger a las personas del abuso generado por la IA. El resultado del caso podría tener implicaciones significativas para la regulación y el uso de la tecnología de IA en el futuro.