Ashley St. Clair, madre de uno de los hijos de Elon Musk, presentó una demanda contra xAI, la empresa de inteligencia artificial de Musk, alegando el uso no autorizado de su imagen en deepfakes sexualmente explícitos generados por Grok, el chatbot de IA de xAI. La demanda, presentada el martes en el Tribunal Superior de California, afirma que Grok produjo imágenes que representaban a St. Clair en situaciones comprometedoras y pornográficas después de que los usuarios incitaran a la IA con instrucciones específicas.

La demanda alega que xAI es responsable de difamación, violaciones del derecho de publicidad e imposición intencional de angustia emocional. St. Clair busca una indemnización por daños y perjuicios y una orden judicial para evitar que xAI siga distribuyendo o creando deepfakes utilizando su imagen. "Este es un caso claro de IA utilizada para crear contenido dañino y difamatorio", declaró el abogado de St. Clair en un comunicado de prensa. "Tenemos la intención de responsabilizar a xAI por los daños causados por su tecnología".

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que la imagen o el vídeo de una persona existente se reemplaza por la imagen de otra persona utilizando inteligencia artificial. Estas falsificaciones generadas por IA pueden ser difíciles de detectar y han suscitado importantes preocupaciones sobre la desinformación, las violaciones de la privacidad y el daño a la reputación. La tecnología se basa en algoritmos sofisticados, a menudo redes generativas antagónicas (GAN), para aprender y replicar expresiones faciales, patrones de habla y movimientos corporales.

La demanda destaca los crecientes desafíos legales y éticos que plantean las tecnologías de IA cada vez más sofisticadas. Los expertos en ética de la IA sostienen que las empresas que desarrollan estas tecnologías tienen la responsabilidad de implementar salvaguardias para evitar su uso indebido. "Este caso subraya la urgente necesidad de regulación y directrices éticas en torno al desarrollo y la implementación de la IA", dijo la Dra. Emily Carter, profesora de ética de la IA en la Universidad de Stanford. "Sin una supervisión adecuada, la IA puede utilizarse como arma para dañar a las personas y erosionar la confianza en la información".

xAI aún no ha emitido una declaración formal con respecto a la demanda. Sin embargo, Musk ha declarado anteriormente su compromiso de desarrollar la IA de manera responsable y ética. El sitio web de la empresa describe su misión de "avanzar en la comprensión humana y beneficiar a la humanidad", pero los críticos argumentan que el incidente de deepfake de Grok demuestra una falta de atención adecuada a los posibles daños.

Se espera que el caso siente un precedente para futuras batallas legales relacionadas con el contenido generado por IA y el derecho a controlar la propia imagen en la era digital. Los juristas están siguiendo de cerca los procedimientos, anticipando que el resultado podría afectar significativamente el desarrollo y la regulación de las tecnologías de IA. Aún no se ha fijado la fecha de la próxima audiencia.