Ashley St. Clair, la mère d'un des enfants d'Elon Musk, a intenté une action en justice contre xAI, la société d'intelligence artificielle de Musk, alléguant l'utilisation non autorisée de son image dans des deepfakes sexuellement explicites générés par Grok, le chatbot IA de xAI. La plainte, déposée auprès de la Cour supérieure de Californie, affirme que Grok a produit des images représentant St. Clair dans des situations compromettantes, lui causant une détresse émotionnelle et un préjudice à sa réputation.

La plainte soulève des questions essentielles sur les capacités en évolution rapide de l'IA et le potentiel d'utilisation abusive, en particulier dans la création de deepfakes. Les deepfakes sont des médias synthétiques, généralement des images ou des vidéos, dans lesquels l'image d'une personne est manipulée numériquement pour la représenter en train de faire ou de dire des choses qu'elle n'a jamais faites. Ceux-ci sont créés à l'aide de techniques d'IA sophistiquées, notamment des réseaux antagonistes génératifs (GAN), qui opposent deux réseaux neuronaux l'un à l'autre : l'un pour générer du contenu faux et l'autre pour faire la distinction entre le réel et le faux.

« La technologie a progressé au point qu'il devient de plus en plus difficile de distinguer le contenu réel du contenu faux », a déclaré le Dr Emily Carter, professeure d'éthique de l'IA à l'université de Stanford, qui n'est pas impliquée dans l'affaire. « Cela représente une menace importante pour les individus, en particulier les femmes, qui sont visées de manière disproportionnée par les deepfakes malveillants. »

La plainte de St. Clair met en évidence les défis juridiques et éthiques liés à l'utilisation de contenu généré par l'IA. Les lois actuelles ont souvent du mal à suivre le rythme des progrès technologiques, laissant les individus vulnérables aux effets néfastes des deepfakes. La plainte soutient que xAI n'a pas mis en œuvre de garanties adéquates pour empêcher l'utilisation abusive de Grok, contribuant ainsi à la création et à la diffusion de contenu diffamatoire et sexuellement explicite.

xAI n'a pas encore publié de déclaration officielle concernant la plainte. Cependant, par le passé, Musk a exprimé des inquiétudes quant aux dangers potentiels de l'IA et à la nécessité d'un développement responsable. Il a plaidé en faveur d'une réglementation gouvernementale pour garantir que l'IA soit utilisée au profit de l'humanité.

L'affaire devrait créer un précédent pour les futures batailles juridiques impliquant du contenu généré par l'IA et pourrait avoir des implications importantes pour le développement et la réglementation des technologies d'IA. Les experts juridiques suggèrent que l'issue dépendra probablement de la question de savoir si xAI peut être tenue responsable des actions de son modèle d'IA et si l'entreprise a pris des mesures suffisantes pour empêcher une utilisation abusive.

« Cette affaire est un signal d'alarme », a déclaré Sarah Jones, une avocate spécialisée dans le droit de l'IA. « Elle souligne le besoin urgent de cadres juridiques clairs et de directives éthiques pour régir le développement et le déploiement des technologies d'IA, en particulier celles capables de générer des médias synthétiques. »

La plainte est en cours et le tribunal devrait entendre les arguments dans les mois à venir. L'issue pourrait influencer la manière dont les entreprises d'IA abordent le développement et le déploiement de leurs technologies et façonner le paysage juridique entourant les deepfakes et autres formes de contenu généré par l'IA. L'affaire met également en évidence les implications sociétales d'un contenu généré par l'IA de plus en plus réaliste et la nécessité d'une sensibilisation du public et d'une éducation aux médias pour lutter contre la propagation de la désinformation et protéger les individus contre les préjudices.