Les autorités ont exigé que la plateforme de médias sociaux X d'Elon Musk s'attaque à la prolifération des deepfakes générés par Grok, le chatbot d'intelligence artificielle de la plateforme, qualifiant la situation de « consternante ». Cette demande, formulée mercredi, fait suite à une augmentation des signalements d'utilisateurs détaillant l'utilisation abusive de Grok pour créer et diffuser des images et des vidéos réalistes, mais fabriquées, en particulier celles de personnalités publiques.

La préoccupation du gouvernement porte sur le potentiel de ces deepfakes à diffuser de la désinformation, à manipuler l'opinion publique et à nuire à la réputation. Les deepfakes, techniquement connus sous le nom de médias synthétiques, utilisent des techniques avancées d'apprentissage automatique, en particulier des algorithmes d'apprentissage profond, pour modifier ou fabriquer de manière convaincante du contenu visuel et audio. Grok, alimenté par un grand modèle linguistique (LLM), peut générer des images et des vidéos à partir d'invites textuelles, ce qui en fait un outil facilement accessible pour créer des deepfakes.

« La facilité avec laquelle Grok peut être utilisé pour générer ces contenus trompeurs est profondément préoccupante », a déclaré un porte-parole de l'organisme de réglementation. « X a la responsabilité de mettre en œuvre des mesures de protection pour empêcher l'utilisation abusive de ses outils d'IA. » Le porte-parole a ajouté que le gouvernement envisageait des mesures réglementaires si X ne parvenait pas à résoudre correctement le problème.

Les représentants de X ont reconnu les préoccupations du gouvernement et ont déclaré qu'ils travaillaient activement à atténuer le problème. « Nous nous engageons à garantir l'utilisation responsable de Grok et nous améliorons continuellement nos mécanismes de détection et de prévention », a déclaré un communiqué publié par l'équipe de communication de X. L'entreprise a exposé plusieurs mesures prises, notamment le renforcement de ses politiques de modération du contenu, l'amélioration de ses algorithmes de détection des deepfakes et la mise en œuvre de protocoles de vérification des utilisateurs plus stricts.

Cependant, les experts affirment que la détection et la suppression des deepfakes représentent un défi complexe et permanent. La technologie utilisée pour créer des deepfakes est en constante évolution, ce qui rend difficile pour les algorithmes de détection de suivre le rythme. De plus, le volume considérable de contenu généré sur des plateformes comme X rend l'examen manuel impraticable.

« C'est une course à l'armement », a expliqué le Dr Anya Sharma, chercheuse en éthique de l'IA à l'Institute for Technology and Society. « À mesure que les méthodes de détection s'améliorent, il en va de même pour les techniques utilisées pour créer des deepfakes. Cela nécessite une approche multidimensionnelle, comprenant des solutions technologiques, des initiatives d'éducation aux médias et des cadres juridiques clairs. »

L'incident met en évidence les implications sociétales plus larges des technologies d'IA en évolution rapide. Bien que l'IA offre de nombreux avantages, elle présente également de nouveaux défis liés à la désinformation, à la confidentialité et à la sécurité. La demande du gouvernement à X souligne la pression croissante exercée sur les entreprises technologiques pour qu'elles s'attaquent de manière proactive à ces défis et garantissent le développement et le déploiement responsables des outils d'IA.

La situation reste fluide, avec des discussions en cours entre les représentants du gouvernement et les représentants de X. L'efficacité des efforts d'atténuation de X sera étroitement surveillée, et d'autres mesures réglementaires restent une possibilité. Le résultat pourrait créer un précédent sur la manière dont les gouvernements réglementent la génération de contenu basée sur l'IA sur les plateformes de médias sociaux à l'avenir.