Le gouvernement est critiqué pour avoir prétendument retardé la mise en œuvre d'une législation visant à lutter contre les deepfakes, en particulier à la lumière de l'émergence de Grok AI et de son potentiel de détournement. Les critiques affirment que ce retard rend la société vulnérable aux applications malveillantes de cette technologie, notamment les campagnes de désinformation et le vol d'identité.

L'accusation porte sur la lenteur perçue des progrès concernant un projet de loi visant à définir légalement les deepfakes, à établir des sanctions pour leur utilisation abusive et à réglementer leur création et leur distribution. Selon Laura Cress, chercheuse de premier plan en éthique de l'IA, "plus nous attendons pour adopter une législation significative, plus le risque que les deepfakes soient militarisés pour manipuler l'opinion publique et saper la confiance dans les institutions est grand".

Les deepfakes, abréviation de "deep learning fakes" (faux par apprentissage profond), sont des médias synthétiques dans lesquels une personne figurant dans une image ou une vidéo existante est remplacée par la ressemblance d'une autre personne. Ceci est réalisé en utilisant de puissantes techniques d'intelligence artificielle, en particulier des algorithmes d'apprentissage profond. Ces algorithmes analysent de grandes quantités de données pour apprendre des modèles, puis génèrent des contrefaçons d'apparence réaliste. La technologie a progressé rapidement ces dernières années, ce qui rend de plus en plus difficile la distinction entre le contenu authentique et le contenu fabriqué.

Grok AI, un modèle d'intelligence artificielle récemment publié, a exacerbé les inquiétudes en raison de ses capacités avancées à générer du texte et des images réalistes. Les experts craignent que Grok AI ne soit utilisé pour créer des deepfakes convaincants à grande échelle, ce qui faciliterait la diffusion de désinformation et de propagande par des acteurs malveillants. La facilité d'accès à des outils d'IA aussi puissants amplifie l'urgence de mettre en place des cadres réglementaires.

La législation proposée vise à aborder plusieurs domaines clés. Elle vise à établir des définitions juridiques claires des deepfakes, en les différenciant de la satire et de la parodie. Elle propose également des sanctions pour les personnes ou les organisations qui créent et distribuent des deepfakes avec une intention malveillante, comme diffamer quelqu'un ou interférer avec des élections. En outre, le projet de loi prévoit des exigences de transparence, exigeant que les deepfakes soient clairement étiquetés comme tels afin d'informer les spectateurs que le contenu est synthétique.

Cependant, certains soutiennent qu'une législation trop large pourrait étouffer les utilisations légitimes de la technologie de l'IA, comme dans la production cinématographique ou l'expression artistique. Trouver le juste équilibre entre la protection de la société contre les préjudices et la promotion de l'innovation est un défi majeur pour les décideurs politiques.

Le gouvernement a défendu son approche, déclarant qu'il adopte une approche mesurée et réfléchie pour s'assurer que toute législation est efficace et n'a pas de conséquences imprévues. Les responsables ont souligné la complexité de la question et la nécessité de consulter un large éventail de parties prenantes, notamment les entreprises technologiques, les experts juridiques et les organisations de la société civile.

L'état actuel du projet de loi est qu'il est toujours en cours d'examen par une commission parlementaire. La commission devrait tenir d'autres audiences et solliciter des commentaires supplémentaires avant de faire des recommandations au Parlement dans son ensemble. Le calendrier d'un vote final sur le projet de loi reste incertain. Le débat autour de la législation devrait se poursuivre, les parties prenantes des deux côtés défendant leurs positions respectives. Le résultat aura des implications importantes pour l'avenir de la réglementation de l'IA et son impact sur la société.