Le gouvernement a exhorté l'Ofcom, l'autorité britannique de régulation des communications, à envisager d'utiliser toute l'étendue de ses pouvoirs, y compris potentiellement une interdiction, à l'encontre de la plateforme de médias sociaux X en raison des préoccupations concernant la création et la distribution d'images illégales générées par l'IA. Cette action fait suite aux critiques croissantes concernant l'utilisation du modèle d'IA de X, Grok, qui a été utilisé pour modifier numériquement des images, notamment en retirant les vêtements de personnes.

L'autorité de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permet d'obtenir des ordonnances judiciaires qui pourraient empêcher des tiers de fournir un soutien financier à X ou de permettre l'accès à la plateforme au Royaume-Uni. La préoccupation accrue du gouvernement découle du potentiel de Grok à générer des images sexualisées, en particulier celles représentant des enfants.

Le Premier ministre Sir Keir Starmer a condamné la création de telles images, déclarant : "C'est honteux. C'est dégoûtant. Et ce n'est pas tolérable. L'Ofcom a notre plein soutien pour prendre des mesures à ce sujet." Il a en outre souligné la position du gouvernement, ajoutant : "C'est illégal. Nous n'allons pas le tolérer. J'ai demandé que toutes les options soient sur la table", dans une interview accordée à Greatest Hits Radio.

Des sources gouvernementales ont confirmé à BBC News qu'elles s'attendent à ce que l'Ofcom utilise tous les pouvoirs disponibles en réponse aux problèmes liés à Grok et à X.

Le problème central réside dans l'utilisation abusive de l'IA générative, un type d'intelligence artificielle capable de créer de nouveaux contenus, notamment des images, du texte et de l'audio. Bien que l'IA générative offre un potentiel important d'innovation et de créativité, son utilisation abusive soulève de graves préoccupations éthiques et juridiques. Les deepfakes, des médias générés par l'IA qui dépeignent de manière convaincante une personne faisant ou disant quelque chose qu'elle n'a pas fait, représentent une application particulièrement préoccupante. La capacité de créer des images réalistes mais fabriquées peut être utilisée à des fins malveillantes, notamment la diffusion de fausses informations, la diffamation et la création d'images intimes non consensuelles.

La loi sur la sécurité en ligne confère à l'Ofcom le pouvoir de réglementer les services en ligne et de lutter contre les contenus préjudiciables. Cela comprend la possibilité d'infliger des amendes, d'exiger la suppression de contenus illégaux et, dans les cas extrêmes, de bloquer l'accès aux plateformes qui ne respectent pas la loi. L'appel du gouvernement à l'Ofcom pour qu'elle envisage une interdiction souligne la gravité de ses préoccupations concernant le potentiel des contenus générés par l'IA à causer des dommages.

La situation souligne les défis liés à la réglementation des technologies d'IA en évolution rapide. À mesure que les modèles d'IA deviennent plus sophistiqués, il devient de plus en plus difficile de détecter et de prévenir la création de contenus préjudiciables. Cela nécessite une approche multidimensionnelle qui comprend des solutions technologiques, telles que des outils de détection basés sur l'IA, ainsi que des cadres réglementaires et des campagnes de sensibilisation du public.

Le débat autour de X et de Grok reflète une discussion plus large sur les responsabilités des plateformes de médias sociaux à l'ère de l'IA. Les critiques soutiennent que les plateformes ont le devoir d'empêcher l'utilisation abusive de leurs technologies et de protéger les utilisateurs contre les dommages. Les partisans de la liberté d'expression, cependant, mettent en garde contre des réglementations trop restrictives qui pourraient étouffer l'innovation et limiter la liberté d'expression.

L'Ofcom évalue actuellement la situation et examine ses options. La décision du régulateur aura probablement des implications importantes pour l'avenir de la réglementation de l'IA au Royaume-Uni et pourrait créer un précédent pour d'autres pays confrontés à des défis similaires. Les prochaines étapes consistent pour l'Ofcom à recueillir des preuves, à consulter des experts et à dialoguer avec X pour répondre aux préoccupations du gouvernement. L'issue de ce processus reste incertaine, mais il est clair que la question des contenus générés par l'IA et de leur potentiel de nuisance restera une préoccupation majeure pour les régulateurs et les décideurs politiques.