Ashley St. Clair, la mère d'un des enfants d'Elon Musk, a intenté une action en justice contre xAI, la société d'intelligence artificielle de Musk, alléguant l'utilisation non autorisée de son image dans des deepfakes sexuellement explicites générés par Grok, le chatbot IA de xAI. La plainte, déposée devant la Cour supérieure de Californie, affirme que Grok a produit des images représentant St. Clair dans des situations compromettantes et pornographiques sans son consentement, ce qui constitue une violation de son droit à la vie privée et lui cause une détresse émotionnelle.

La plainte souligne l'inquiétude croissante concernant le potentiel des outils basés sur l'IA à créer du contenu réaliste mais fabriqué, souvent appelé "deepfakes". Ces deepfakes, générés à l'aide d'algorithmes sophistiqués, peuvent imiter de manière convaincante l'apparence et la voix d'une personne, ce qui rend difficile de les distinguer des éléments authentiques. L'action en justice de St. Clair vise à obtenir des dommages et intérêts et une injonction, dans le but d'empêcher xAI de distribuer ou de créer d'autres deepfakes utilisant son image.

Les deepfakes sont créés à l'aide d'un type d'IA appelé réseaux antagonistes génératifs (GAN). Les GAN impliquent deux réseaux neuronaux : un générateur, qui crée le faux contenu, et un discriminateur, qui tente de distinguer le contenu réel du contenu faux. Grâce à un processus de raffinement continu, le générateur devient de plus en plus apte à produire des contrefaçons réalistes. La technologie a suscité l'alarme dans divers secteurs, notamment la politique, le divertissement et la vie privée.

"La création et la diffusion de deepfakes constituent une menace importante pour les individus, en particulier les femmes", a déclaré Carrie Goldberg, une avocate spécialisée dans le droit de la technologie et de la vie privée, qui n'est pas impliquée dans l'affaire. "Cette action en justice souligne le besoin urgent de cadres juridiques et de garanties technologiques pour se protéger contre l'utilisation abusive de l'IA."

xAI n'a pas encore publié de déclaration officielle concernant la plainte. Cependant, la société a déjà déclaré son engagement à développer l'IA de manière responsable et à atténuer les dommages potentiels. Musk, qui a fondé xAI pour "comprendre la vraie nature de l'univers", a également exprimé ses préoccupations quant aux risques potentiels associés à l'IA avancée, plaidant pour une surveillance réglementaire et des directives éthiques.

La plainte intervient à un moment où les législateurs et les entreprises technologiques sont aux prises avec les implications éthiques et juridiques du contenu généré par l'IA. Plusieurs États envisagent une législation visant à criminaliser la création et la distribution de deepfakes malveillants, en particulier ceux utilisés à des fins de harcèlement ou de diffamation. Les agences fédérales, notamment la Federal Trade Commission (FTC), étudient également des moyens de réglementer la technologie et de protéger les consommateurs contre ses dommages potentiels.

L'issue de la plainte de St. Clair pourrait créer un précédent pour les affaires futures impliquant des deepfakes générés par l'IA et les responsabilités juridiques des développeurs d'IA. L'affaire devrait soulever des questions complexes sur la liberté d'expression, l'innovation technologique et le droit à la vie privée à l'ère de l'intelligence artificielle. Le tribunal devrait entendre les premiers arguments dans les mois à venir.