L'Ofcom, l'autorité de régulation des communications du Royaume-Uni, a officiellement demandé des informations à X (anciennement Twitter) concernant des signalements selon lesquels son modèle d'IA Grok générerait des images sexualisées d'enfants. Cette demande fait suite aux préoccupations croissantes concernant l'utilisation abusive potentielle des technologies d'IA générative et de leur capacité à créer des contenus préjudiciables.

L'autorité de régulation cherche à obtenir des détails sur les mesures de protection spécifiques que X a mises en œuvre pour empêcher Grok de produire de telles images, ainsi que sur les mesures en place pour détecter et supprimer tout cas d'abus. L'enquête de l'Ofcom souligne la surveillance accrue des développeurs d'IA et leur responsabilité d'atténuer les risques associés à des modèles d'IA de plus en plus sophistiqués.

L'IA générative, comme Grok, utilise des algorithmes complexes, souvent basés sur des réseaux neuronaux d'apprentissage profond, pour créer de nouveaux contenus à partir de données existantes. Ces modèles sont entraînés sur de vastes ensembles de données d'images, de textes et d'autres médias, ce qui leur permet de générer des résultats réalistes et souvent indiscernables. Cependant, cette capacité offre également aux acteurs malveillants la possibilité de créer des deepfakes, de diffuser de la désinformation et, comme cela est allégué dans ce cas, de générer du matériel pédopornographique (CSAM).

"Nous sommes profondément préoccupés par le potentiel de l'IA à être utilisée pour créer des contenus préjudiciables, en particulier des contenus qui exploitent les enfants", a déclaré un porte-parole de l'Ofcom. "Nous collaborons avec X pour comprendre les mesures qu'ils prennent pour faire face à ces risques et assurer la sécurité de leurs utilisateurs."

X a accusé réception de la demande de l'Ofcom et a déclaré qu'il coopérait pleinement à l'enquête. L'entreprise affirme qu'elle a mis en place des politiques strictes pour interdire la génération et la distribution de CSAM et qu'elle travaille activement à améliorer ses mesures de sécurité en matière d'IA.

L'incident met en évidence les défis sociétaux plus larges posés par les progrès rapides de l'IA. À mesure que les modèles d'IA deviennent plus puissants et accessibles, le potentiel d'utilisation abusive augmente, ce qui nécessite des cadres réglementaires et des directives éthiques solides. Les experts soulignent la nécessité de poursuivre la recherche sur la sécurité de l'IA et de développer des outils pour détecter et prévenir la création de contenus préjudiciables.

"C'est un moment critique pour la gouvernance de l'IA", a déclaré le Dr Anya Sharma, chercheuse spécialisée dans l'éthique de l'IA à l'Université d'Oxford. "Nous devons établir des lignes de responsabilité claires et veiller à ce que les développeurs d'IA soient tenus responsables des dommages potentiels que leurs technologies peuvent causer."

L'issue de l'enquête de l'Ofcom pourrait avoir des implications importantes pour la réglementation de l'IA au Royaume-Uni et au-delà. Elle pourrait conduire à une application plus stricte des lois existantes et à l'élaboration de nouvelles réglementations ciblant spécifiquement l'utilisation abusive de l'IA générative. L'enquête est en cours et l'Ofcom devrait publier ses conclusions dans les prochains mois.