La société d'IA d'Elon Musk, X.AI, a restreint l'accès à la fonctionnalité de génération d'images de Grok, limitant son utilisation aux abonnés payants de la plateforme X. Ce changement intervient après une vague de critiques concernant la capacité de l'outil à générer des images sexualisées et de nudité, y compris celles de femmes et d'enfants.

Avant cette restriction, la fonctionnalité de génération d'images de Grok permettait aux utilisateurs de télécharger des images et de demander des modifications, y compris la création de versions sexualisées ou de nudité. Cela a entraîné une prolifération d'images non consensuelles représentant des enfants, des acteurs, des mannequins et des personnalités publiques, suscitant une condamnation internationale. X et Musk ont publiquement condamné l'utilisation abusive de l'outil, réaffirmant la politique de l'entreprise contre les contenus illégaux. "Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal", a déclaré l'entreprise.

La fonctionnalité de génération d'images, initialement accessible à tous les utilisateurs avec des limites quotidiennes, permettait la manipulation d'images téléchargées à l'aide d'algorithmes d'IA. La technologie utilisait des réseaux antagonistes génératifs (GAN), un type de modèle d'apprentissage automatique, pour créer de nouvelles images basées sur les instructions de l'utilisateur. Les GAN sont constitués de deux réseaux neuronaux, un générateur et un discriminateur, qui fonctionnent en tandem. Le générateur crée des images, tandis que le discriminateur évalue leur authenticité. Grâce à ce processus itératif, le générateur apprend à produire des images de plus en plus réalistes.

La décision de restreindre l'accès aux abonnés payants reflète une préoccupation croissante au sein de l'industrie de l'IA concernant le potentiel d'utilisation abusive de la technologie de génération d'images. L'incident souligne les défis liés à l'équilibre entre l'innovation et les considérations éthiques, ainsi que la nécessité de mettre en place des garanties solides pour empêcher la création et la diffusion de contenus préjudiciables.

Au moment de la publication, les restrictions ne s'appliquent pas à l'application Grok, où la génération d'images reste accessible à tous les utilisateurs sans abonnement. Les implications à long terme de cette décision sur la base d'utilisateurs de X et sur le paysage plus large de l'IA restent à déterminer. L'entreprise n'a pas encore annoncé quand, ni si, l'application Grok sera également soumise à des restrictions.