Le chatbot IA d'Elon Musk, Grok, a limité ses capacités de génération d'images sur la plateforme de médias sociaux X, restreignant cette fonctionnalité aux abonnés payants, en raison de la controverse croissante concernant la création de deepfakes, en particulier ceux de nature sexualisée impliquant des femmes et des enfants. Cette décision, annoncée vendredi aux utilisateurs de X, fait suite à la pression croissante exercée sur Musk et X pour qu'ils s'attaquent à l'utilisation abusive d'images générées par l'IA.

L'application autonome Grok, fonctionnant indépendamment de X, continue d'autoriser la génération d'images sans nécessiter d'abonnement. Cette restriction partielle sur X représente une réponse aux récentes réactions négatives, notamment les menaces d'amendes et les critiques publiques de plusieurs pays concernant la capacité de Grok à modifier les images en ligne, en particulier pour retirer les vêtements des sujets.

Les deepfakes, un mot-valise de "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre. Ils sont créés à l'aide de puissantes techniques d'IA, en particulier des algorithmes d'apprentissage profond, qui analysent et apprennent des modèles à partir de vastes ensembles de données d'images et de vidéos. Cette technologie a soulevé d'importantes préoccupations éthiques en raison de son potentiel d'utilisation abusive, notamment la création de contenu diffamatoire, de pornographie non consensuelle et la diffusion de désinformation.

La Commission européenne a déclaré lundi qu'elle était au courant de "deepfakes épouvantables à l'apparence d'enfants" générés par l'IA Grok de X, intensifiant encore l'examen minutieux de la plateforme. Musk a récemment déclaré que quiconque utiliserait Grok pour créer du contenu illégal s'exposerait aux mêmes conséquences que le téléchargement direct de ce type de contenu.

Le Royaume-Uni a également fait pression sur X pour qu'il prenne des mesures contre la prolifération d'images deepfake intimes. Cet incident souligne les défis auxquels sont confrontées les plateformes de médias sociaux pour réglementer le contenu généré par l'IA et empêcher son utilisation abusive. Le débat se poursuit concernant l'équilibre entre l'innovation technologique et la nécessité de protéger les individus contre les préjudices causés par la manipulation générée par l'IA. Le développement futur de Grok et de ses capacités de génération d'images reste incertain, car X doit tenir compte de ces considérations éthiques et juridiques complexes.