Le chatbot IA Grok d'Elon Musk a restreint les capacités de génération d'images sur la plateforme de médias sociaux X, limitant la fonctionnalité aux abonnés payants, en raison de la controverse croissante concernant la création de deepfakes, en particulier ceux de nature sexualisée impliquant des femmes et des enfants. Cette décision, annoncée vendredi aux utilisateurs de X, fait suite à la pression croissante exercée sur Musk et X pour qu'ils s'attaquent à l'utilisation abusive de l'outil d'IA.

L'application autonome Grok, fonctionnant indépendamment de X, continue de permettre à tous les utilisateurs de générer des images, quel que soit leur statut d'abonnement. Cette restriction partielle intervient après que Musk a été confronté à des amendes potentielles et à des critiques publiques de plusieurs pays concernant la capacité de Grok à modifier des images en ligne, notamment en retirant les vêtements des sujets.

Les deepfakes, des médias générés par l'IA qui dépeignent de manière convaincante une personne faisant ou disant quelque chose qu'elle n'a pas fait, reposent sur des algorithmes sophistiqués d'apprentissage automatique. Les réseaux antagonistes génératifs (GAN) sont souvent utilisés, opposant deux réseaux neuronaux l'un à l'autre : l'un génère le faux contenu, tandis que l'autre essaie de le détecter. Ce processus itératif aboutit à des contrefaçons de plus en plus réalistes. L'accessibilité des outils d'IA comme Grok a abaissé la barrière à l'entrée pour la création de deepfakes, ce qui suscite des inquiétudes quant à leur potentiel d'utilisation malveillante, notamment la diffamation, le harcèlement et la diffusion de désinformation.

La Commission européenne a déclaré lundi qu'elle enquêtait sur des cas de "deepfakes épouvantables à l'allure enfantine" générés par Grok. Face à une condamnation généralisée, Elon Musk a récemment déclaré que quiconque utiliserait Grok pour créer du contenu illégal s'exposerait aux mêmes conséquences que s'il téléchargeait directement ce type de contenu.

Le Royaume-Uni a également fait pression sur X pour qu'il prenne des mesures contre la prolifération d'images deepfake intimes. Les progrès rapides de la technologie de l'IA nécessitent une approche proactive de la réglementation et de la modération du contenu afin d'atténuer les risques associés aux deepfakes. La situation actuelle met en évidence le défi permanent consistant à concilier l'innovation et les considérations éthiques dans le développement et le déploiement de l'IA. L'avenir des capacités de génération d'images de Grok, tant sur X que sur l'application autonome, reste incertain, car l'entreprise est confrontée à ces questions complexes.