Le gouvernement est accusé de retarder la mise en œuvre d'une législation visant à lutter contre les deepfakes, en particulier à la lumière de l'émergence de Grok AI et de son potentiel de détournement. Les critiques soutiennent que la lenteur de l'action réglementaire rend la société vulnérable à la menace en évolution rapide de la désinformation générée par l'IA.

Les préoccupations se concentrent sur la sophistication et l'accessibilité croissantes de la technologie des deepfakes. Les deepfakes sont, par essence, des médias synthétiques dans lesquels une personne figurant dans une image ou une vidéo existante est remplacée par la représentation d'une autre personne. Ceci est réalisé grâce à des techniques sophistiquées d'apprentissage automatique, en particulier des algorithmes d'apprentissage profond, d'où le terme « deepfake ». Ces algorithmes analysent de grandes quantités de données pour apprendre les expressions faciales, la voix et les manières d'une personne, ce qui leur permet d'imiter de manière convaincante cet individu dans des scénarios fabriqués.

Grok AI, un grand modèle linguistique (LLM) développé par xAI, a encore amplifié ces préoccupations. Les LLM sont entraînés sur des ensembles de données massifs de texte et de code, ce qui leur permet de générer du texte de qualité humaine, de traduire des langues, d'écrire différents types de contenu créatif et de répondre à vos questions de manière informative. Bien que Grok AI ait de nombreuses applications légitimes, sa capacité à générer du texte réaliste et potentiellement même à synthétiser de l'audio et de la vidéo fait craindre qu'il ne soit utilisé pour créer des deepfakes convaincants à des fins malveillantes, telles que la diffusion de fausses informations, la manipulation de l'opinion publique ou la diffamation.

« L'inaction du gouvernement est profondément préoccupante », a déclaré Laura Cress, une experte de premier plan en matière d'éthique et de politique de l'IA. « Nous constatons que la technologie de l'IA progresse à un rythme exponentiel, et nos cadres juridiques ne suivent tout simplement pas le rythme. Plus nous attendons pour mettre en œuvre des réglementations robustes, plus le risque de préjudice généralisé est grand. »

Le débat autour de la réglementation des deepfakes est complexe. D'une part, il est nécessaire de protéger les individus et la société contre les préjudices potentiels de la désinformation générée par l'IA. D'autre part, on craint d'étouffer l'innovation et de porter atteinte à la liberté d'expression. Il est essentiel de trouver le juste équilibre, mais les critiques soutiennent que le gouvernement privilégie la prudence à l'action, ce qui permet aux risques de l'emporter sur les avantages.

Plusieurs pays ont déjà commencé à aborder la question des deepfakes par le biais de la législation. L'Union européenne, par exemple, envisage une réglementation globale de l'IA qui comprendrait des dispositions pour l'étiquetage des deepfakes et la responsabilisation des créateurs en cas de mauvaise utilisation. Aux États-Unis, certains États ont adopté des lois ciblant spécifiquement la création et la distribution de deepfakes malveillants.

Le gouvernement a reconnu la nécessité d'une réglementation, mais a cité la complexité de la technologie et la nécessité d'un examen attentif comme raisons du retard. Les fonctionnaires ont déclaré qu'ils travaillaient sur un cadre global qui répondrait aux défis posés par les deepfakes tout en promouvant l'innovation dans le secteur de l'IA. Cependant, les critiques soutiennent que ce cadre met trop de temps à être élaboré et que le gouvernement doit agir plus résolument pour protéger le public.

La situation actuelle est que le gouvernement est toujours en train de rédiger une législation. Aucun calendrier ferme n'a été fixé pour sa mise en œuvre. En attendant, les experts exhortent les individus à être plus critiques à l'égard des informations qu'ils consomment en ligne et à être conscients du potentiel des deepfakes à être utilisés pour tromper et manipuler. Les prochains développements impliqueront probablement d'autres consultations avec les parties prenantes et la publication d'un projet de loi pour consultation publique. L'efficacité de toute législation future dépendra de sa capacité à s'adapter à l'évolution rapide du paysage de la technologie de l'IA et à trouver un équilibre entre la protection de la société et la promotion de l'innovation.