Ashley St. Clair, influenceuse conservatrice et mère d'un des enfants d'Elon Musk, a intenté une action en justice contre xAI, la société d'intelligence artificielle de Musk, jeudi à New York, alléguant que son outil d'IA Grok a créé des deepfakes à caractère sexuel la mettant en scène. La plainte affirme que le chatbot Grok a généré des images de St. Clair créées ou modifiées par l'IA, dont certaines comportant des croix gammées, après que des utilisateurs de la plateforme de médias sociaux X ont incité l'IA avec ses photos, selon les documents judiciaires.

St. Clair allègue qu'après avoir demandé à xAI de cesser de créer de telles images, "d'innombrables contenus deepfake à caractère sexuel abusif, intime et dégradant" d'elle ont été produits et diffusés publiquement par Grok, selon Ars Technica. Un exemple cité dans la plainte concerne la modification d'une photo de St. Clair datant de l'époque où elle avait 14 ans.

xAI, la société mère de X et de Grok, a réagi en contre-attaquant St. Clair pour violation de ses conditions d'utilisation. La société soutient que St. Clair a violé les conditions d'utilisation en intentant l'action en justice à New York, affirmant que les litiges doivent être réglés au Texas.

L'avocat de St. Clair a déclaré : "Nous avons l'intention de tenir Grok responsable et d'aider à établir des limites juridiques claires pour le bénéfice de l'ensemble du public afin d'empêcher que l'IA ne soit utilisée comme une arme à des fins abusives", selon la BBC.

La bataille juridique met en évidence les préoccupations croissantes concernant le potentiel d'utilisation abusive de l'IA dans la création d'images non consensuelles et soulève des questions sur les limites juridiques entourant une telle utilisation. X n'a pas répondu directement aux demandes de renseignements de BBC News concernant les poursuites judiciaires. L'affaire est en cours et les prochaines étapes impliquent des procédures judiciaires à New York et au Texas.