L'Ofcom, l'autorité britannique de régulation des communications, a demandé à X, anciennement Twitter, des informations concernant des signalements selon lesquels son modèle d'IA Grok générerait des images sexualisées d'enfants. Cette demande fait suite à des préoccupations croissantes concernant l'utilisation potentiellement abusive de l'intelligence artificielle dans la création de contenus préjudiciables, en particulier impliquant des mineurs.

Le régulateur cherche à obtenir des détails sur les mesures de protection mises en place par X pour empêcher la génération et la diffusion de telles images, et sur la manière dont l'entreprise réagit à ces allégations. L'Ofcom a le pouvoir d'infliger des amendes aux entreprises qui ne protègent pas les utilisateurs contre les contenus préjudiciables, et cette enquête témoigne d'une sérieuse préoccupation quant au respect par X des réglementations britanniques en matière de sécurité en ligne.

Grok, le chatbot d'IA de X, est un grand modèle linguistique (LLM), un type d'IA entraîné sur de vastes quantités de données textuelles. Les LLM peuvent générer du texte, traduire des langues et répondre à des questions, mais ils peuvent également être incités à créer des images à l'aide de techniques de génération d'images par IA. La crainte est que des acteurs malveillants n'exploitent ces capacités pour produire du matériel pédopornographique (CSAM).

"Nous sommes profondément préoccupés par le potentiel d'utilisation abusive de l'IA de cette manière", a déclaré un porte-parole de l'Ofcom. "Nous demandons à X de nous fournir des informations sur les mesures qu'ils prennent pour empêcher que cela ne se produise et pour assurer la sécurité des enfants en ligne."

Ce développement met en évidence les défis sociétaux plus larges posés par les progrès rapides de la technologie de l'IA. Bien que l'IA offre de nombreux avantages, elle présente également des risques, notamment le potentiel d'utilisation abusive dans la création et la diffusion de contenus préjudiciables. Les experts soulignent la nécessité de mettre en place des garanties solides et des directives éthiques pour atténuer ces risques.

"La capacité de l'IA à générer des images réalistes soulève de sérieuses inquiétudes quant à la création et à la diffusion de CSAM", a déclaré le Dr Joanna Bryson, professeure d'éthique et de technologie à la Hertie School de Berlin. "Il est essentiel que les entreprises qui développent et déploient la technologie de l'IA prennent des mesures proactives pour empêcher son utilisation abusive et pour protéger les enfants."

X n'a pas encore publié de déclaration officielle concernant la demande de l'Ofcom. Cependant, l'entreprise a déjà déclaré son engagement à lutter contre le CSAM sur sa plateforme. L'enquête est en cours, et l'Ofcom évaluera la réponse de X pour déterminer si d'autres mesures sont nécessaires. L'issue de cette enquête pourrait avoir des implications importantes pour la réglementation de l'IA et de la sécurité en ligne au Royaume-Uni et au-delà.