Le gouvernement est critiqué pour avoir prétendument retardé la mise en œuvre d'une législation visant à lutter contre les deepfakes, en particulier à la lumière de l'émergence de Grok AI et de son utilisation abusive potentielle. Les critiques affirment que ce retard rend la société vulnérable à la capacité de la technologie à créer des contenus audio et vidéo convaincants mais faux, ce qui pourrait avoir un impact sur les élections, la réputation et la confiance du public.

L'accusation porte sur la lenteur perçue de la rédaction et de la promulgation de lois visant à réglementer la création et la diffusion de deepfakes. Les législateurs débattent des spécificités de cette législation depuis des mois, confrontés au défi de concilier la protection de la liberté d'expression et la nécessité de freiner les utilisations malveillantes de la technologie. "Nous mettons en garde contre les dangers des deepfakes depuis des années", a déclaré Laura Cress, une chercheuse de premier plan en éthique de l'IA. "Plus nous attendons pour agir, plus ces technologies deviennent sophistiquées, et plus il sera difficile d'atténuer les dommages qu'elles peuvent causer."

Les deepfakes exploitent des techniques d'intelligence artificielle avancées, en particulier l'apprentissage profond, pour manipuler ou générer du contenu visuel et audio. Les réseaux antagonistes génératifs (GAN) sont souvent utilisés, où deux réseaux neuronaux s'affrontent : l'un générant du contenu faux et l'autre tentant de le distinguer du contenu réel. Ce processus itératif conduit à des contrefaçons de plus en plus réalistes. Grok AI, un grand modèle de langage (LLM) récemment publié, a exacerbé les inquiétudes en raison de ses capacités avancées de génération de texte et d'images, rendant la création de deepfakes sophistiqués plus accessible à un plus large éventail d'utilisateurs.

Les implications d'une technologie de deepfake non contrôlée sont considérables. Au-delà du potentiel de désinformation politique et d'atteinte à la réputation, les experts mettent en garde contre l'érosion de la confiance dans les médias et les institutions. "Si les gens ne peuvent pas distinguer de manière fiable ce qui est réel de ce qui est faux, cela mine le fondement même de notre société", a déclaré le Dr Anya Sharma, professeur d'études sur les médias. "Nous risquons d'entrer dans une ère où la vérité devient subjective et facilement manipulable."

Plusieurs pays ont déjà commencé à mettre en œuvre des réglementations pour lutter contre les deepfakes, notamment en exigeant des avertissements sur le contenu synthétique et en criminalisant la création ou la diffusion de deepfakes destinés à causer des dommages. La loi sur les services numériques de l'Union européenne comprend des dispositions visant à lutter contre la propagation de la désinformation, y compris les deepfakes.

Le gouvernement a reconnu les préoccupations et a déclaré qu'il s'engageait à résoudre le problème. Un porte-parole du ministère de la Justice a déclaré que la rédaction de la législation est un processus complexe, nécessitant un examen attentif des droits constitutionnels et de la faisabilité technologique. "Nous travaillons avec diligence à l'élaboration d'un cadre juridique complet qui protège le public contre les méfaits des deepfakes tout en préservant la liberté d'expression", a déclaré le porte-parole.

Cependant, les critiques restent sceptiques, soulignant les progrès rapides de la technologie de l'IA et le potentiel d'utilisation des deepfakes lors des prochaines élections. Ils exhortent le gouvernement à accélérer le processus législatif et à mettre en œuvre des mesures provisoires pour atténuer les risques immédiats. Le débat devrait se poursuivre dans les semaines à venir, avec une pression accrue sur les législateurs pour qu'ils prennent des mesures décisives.