Le gouvernement est critiqué pour avoir prétendument retardé la mise en œuvre d'une législation visant à lutter contre l'utilisation abusive de la technologie des deepfakes, en particulier à la lumière de l'émergence de Grok AI, un nouveau modèle d'intelligence artificielle capable de générer des médias synthétiques très réalistes. Les critiques soutiennent que ce retard rend la société vulnérable aux préjudices potentiels des deepfakes, notamment les campagnes de désinformation, les atteintes à la réputation et même la fraude financière.

Les préoccupations sont centrées sur la sophistication et l'accessibilité croissantes des outils d'IA comme Grok, développé par xAI. Grok, comme d'autres grands modèles linguistiques (LLM), utilise de vastes ensembles de données pour apprendre des modèles et générer du texte, des images et de l'audio. Cette capacité, tout en offrant des avantages dans des domaines tels que la création de contenu et le service client, permet également la création de deepfakes convaincants – des médias manipulés qui peuvent dépeindre de manière convaincante des individus disant ou faisant des choses qu'ils n'ont jamais faites.

« Plus nous attendons pour réglementer les deepfakes, plus le risque de manipulation généralisée et d'érosion de la confiance dans nos institutions est grand », a déclaré Laura Cress, une experte de premier plan en éthique de l'IA. « Les capacités avancées de Grok AI ne font qu'amplifier ces préoccupations, facilitant la création et la diffusion de faux convaincants par des acteurs malveillants. »

La législation proposée, qui est à l'étude depuis plusieurs mois, vise à établir des cadres juridiques clairs pour traiter les préjudices liés aux deepfakes. Les principales dispositions comprennent des mesures visant à criminaliser la création et la distribution de deepfakes malveillants, des exigences en matière d'étiquetage des médias synthétiques et des mécanismes permettant aux victimes d'obtenir réparation.

Le gouvernement, cependant, maintient qu'il adopte une approche mesurée pour s'assurer que la législation est à la fois efficace et ne freine pas l'innovation. « Nous sommes déterminés à faire face aux risques posés par les deepfakes, mais nous devons également éviter les conséquences imprévues qui pourraient nuire aux utilisations légitimes de la technologie de l'IA », a déclaré un porte-parole du gouvernement. « Nous examinons attentivement tous les aspects de la législation proposée afin de trouver le juste équilibre. »

Ce retard a suscité un débat parmi les décideurs politiques, les universitaires et les acteurs de l'industrie. Certains soutiennent que le gouvernement privilégie les intérêts des entreprises technologiques à la protection des citoyens. D'autres mettent en garde contre des réglementations trop larges qui pourraient étouffer la liberté d'expression et entraver le développement d'applications d'IA bénéfiques.

L'état actuel de la législation est incertain. Bien que le gouvernement ait indiqué qu'il avait l'intention d'aller de l'avant avec le projet de loi, aucun calendrier précis n'a été annoncé. Les experts prévoient de nouveaux débats et des amendements potentiels avant la finalisation de la législation. Le développement et le déploiement continus de modèles d'IA de plus en plus puissants comme Grok continueront probablement d'alimenter l'urgence entourant la nécessité d'une réglementation efficace des deepfakes.