Le gouvernement britannique a exhorté l'Ofcom, l'autorité de régulation des communications du pays, à envisager d'utiliser toute l'étendue de ses pouvoirs, y compris potentiellement une interdiction, à l'encontre de la plateforme de médias sociaux X en raison de préoccupations concernant l'apparition de deepfakes illégaux générés par l'intelligence artificielle sur le site. Cette action découle d'inquiétudes croissantes quant à l'utilisation du modèle d'IA de X, Grok, pour créer des images modifiées numériquement, y compris celles qui suppriment les vêtements des individus.

L'autorité de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permet d'obtenir des ordonnances judiciaires qui pourraient empêcher des tiers de faciliter les opérations financières de X ou son accessibilité au Royaume-Uni. La préoccupation accrue du gouvernement découle du potentiel d'utilisation de Grok pour générer des images sexualisées, en particulier celles représentant des enfants.

Le Premier ministre Sir Keir Starmer a condamné la création de telles images, déclarant : "C'est honteux. C'est dégoûtant. Et ce n'est pas tolérable. L'Ofcom a notre plein soutien pour prendre des mesures à ce sujet." Il a en outre souligné la position du gouvernement, ajoutant : "C'est illégal. Nous n'allons pas le tolérer. J'ai demandé que toutes les options soient sur la table." Des sources gouvernementales ont confirmé à BBC News qu'elles s'attendent à ce que l'Ofcom utilise tous les pouvoirs disponibles pour traiter la question de Grok sur X.

Les deepfakes, une forme de média synthétique, utilisent l'IA, en particulier les techniques d'apprentissage profond, pour créer des images, des vidéos ou des enregistrements audio très réalistes mais fabriqués. La technologie soulève d'importantes préoccupations éthiques et sociétales, notamment le potentiel de désinformation, de diffamation et de pornographie non consensuelle. La capacité de modifier de manière convaincante des images et des vidéos peut éroder la confiance dans l'information visuelle et créer des difficultés à distinguer la réalité de la fabrication.

La loi sur la sécurité en ligne accorde à l'Ofcom d'importants pouvoirs réglementaires pour lutter contre les contenus préjudiciables en ligne. Ces pouvoirs comprennent la possibilité d'infliger des amendes aux entreprises qui ne protègent pas les utilisateurs contre les contenus illégaux et, dans les cas extrêmes, de bloquer l'accès aux sites web. L'insistance du gouvernement auprès de l'Ofcom pour qu'elle envisage une interdiction souligne la gravité de ses préoccupations concernant l'utilisation abusive potentielle de l'IA sur les plateformes de médias sociaux.

La situation souligne le débat en cours sur la réglementation de l'IA et son impact potentiel sur la société. Alors que la technologie de l'IA continue de progresser, les régulateurs et les décideurs politiques sont confrontés au défi de concilier l'innovation avec la nécessité de protéger les individus contre les préjudices. L'issue de l'enquête de l'Ofcom et de toute action ultérieure entreprise contre X établira probablement un précédent sur la manière dont le contenu généré par l'IA est réglementé au Royaume-Uni et pourrait influencer des discussions similaires dans d'autres pays. Le régulateur devrait maintenant évaluer les preuves et déterminer la ligne de conduite appropriée, en tenant compte de toute l'étendue de ses pouvoirs en vertu de la loi sur la sécurité en ligne.