L'Ofcom, l'autorité britannique de régulation des communications, a demandé des informations à X (anciennement Twitter) concernant des signalements selon lesquels son modèle d'IA Grok générerait des images sexualisées d'enfants. Cette demande fait suite aux préoccupations croissantes concernant l'utilisation abusive potentielle de l'IA générative et ses implications pour la sécurité des enfants.

Le régulateur cherche à obtenir des détails sur les mesures de protection mises en place par X pour empêcher la création et la diffusion de telles images. Cela comprend des informations sur les données d'entraînement utilisées pour développer Grok, les filtres et les mécanismes de détection employés pour identifier et supprimer les contenus inappropriés, ainsi que les procédures de signalement et de traitement des plaintes des utilisateurs.

Les modèles d'IA générative comme Grok sont entraînés sur de vastes ensembles de données de texte et d'images, ce qui leur permet de créer de nouveaux contenus capables d'imiter des scénarios du monde réel. Cependant, cette capacité soulève également des inquiétudes quant à la possibilité que des acteurs malveillants exploitent ces modèles à des fins nuisibles, notamment la création de matériel pédopornographique (CSAM). Le processus d'entraînement de ces modèles implique des algorithmes complexes qui apprennent les schémas et les relations au sein des données. Si les données d'entraînement contiennent des contenus biaisés ou inappropriés, le modèle peut reproduire ou amplifier involontairement ces biais dans ses résultats.

« Nous sommes profondément préoccupés par le potentiel d'utilisation abusive de l'IA pour créer des contenus préjudiciables, en particulier des contenus qui exploitent les enfants », a déclaré un porte-parole de l'Ofcom. « Nous collaborons avec X pour comprendre les mesures qu'ils prennent pour atténuer ces risques et assurer la sécurité de leurs utilisateurs. »

X a accusé réception de la demande de l'Ofcom et a déclaré qu'il coopérait pleinement à l'enquête. L'entreprise affirme qu'elle a mis en place des politiques strictes pour interdire la création et la distribution de CSAM et qu'elle s'engage à utiliser l'IA de manière responsable. Elle a également déclaré qu'elle travaillait continuellement à l'amélioration de ses mécanismes de détection et de prévention.

Cet incident met en évidence les défis plus larges de la réglementation de l'IA et de la garantie de son développement et de son déploiement éthiques. Les experts estiment qu'une approche multidimensionnelle est nécessaire, impliquant une collaboration entre les régulateurs, les entreprises technologiques et les organisations de la société civile. Cela comprend l'élaboration de garanties techniques solides, la mise en place de cadres juridiques clairs et la sensibilisation du public aux risques et aux avantages de l'IA.

Les dernières évolutions en matière de réglementation de l'IA comprennent les discussions en cours au niveau international, telles que l'AI Act de l'Union européenne, qui vise à établir un cadre juridique complet pour le développement et l'utilisation de l'IA. Ces réglementations auront probablement un impact significatif sur la manière dont l'IA est développée et déployée à l'échelle mondiale. L'enquête de l'Ofcom sur le modèle d'IA Grok de X s'inscrit dans un effort plus large visant à lutter contre les préjudices potentiels de l'IA et à garantir qu'elle est utilisée d'une manière qui profite à la société. L'issue de l'enquête pourrait avoir des implications pour d'autres développeurs et plateformes d'IA, établissant un précédent sur la manière dont ils sont censés aborder les risques associés à l'IA générative.