La société d'IA d'Elon Musk, X. Corp, a restreint l'accès à la fonctionnalité de génération d'images par IA de Grok, limitant son utilisation aux abonnés payants sur la plateforme X. Ce changement fait suite à des critiques généralisées concernant la capacité de l'outil à générer des images sexualisées et de nudité, y compris celles représentant des femmes et des enfants. Selon les déclarations faites par Grok vendredi en réponse aux demandes des utilisateurs, seuls les abonnés payants pourront désormais générer et modifier des images sur la plateforme.

Cependant, ces restrictions ne s'étendent pas actuellement à l'application Grok qui, au moment de la rédaction de cet article, permettait toujours aux utilisateurs de générer des images sans abonnement payant. La fonctionnalité de génération d'images, initialement disponible pour tous les utilisateurs avec des limites quotidiennes, permettait de télécharger des images pour les modifier ou de créer des versions sexualisées ou de nudité. Cette capacité a entraîné une vague d'images sexualisées non consensuelles mettant en scène des enfants, des acteurs, des mannequins et des personnalités publiques, suscitant une condamnation internationale.

X et Musk ont publiquement condamné l'utilisation abusive de l'outil, réaffirmant l'engagement de l'entreprise à faire respecter ses politiques contre la publication de contenu illégal sur la plateforme de médias sociaux. "Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal", a déclaré l'entreprise.

La controverse souligne les défis inhérents au déploiement responsable de la technologie de génération d'images par IA. La capacité de manipuler et de générer des images soulève d'importantes préoccupations éthiques, notamment en ce qui concerne le consentement, la vie privée et le potentiel d'utilisation abusive. L'incident souligne également l'importance de politiques de modération de contenu robustes et de mécanismes d'application pour empêcher la création et la diffusion de contenu nuisible ou illégal.

La décision de restreindre la génération d'images de Grok aux abonnés payants représente un changement dans l'approche de X en matière de gestion de la technologie. Bien que cette mesure puisse atténuer certains des risques associés à l'outil, elle soulève également des questions sur l'accessibilité et le potentiel d'un système à deux vitesses où les utilisateurs payants ont un accès plus important à des capacités d'IA potentiellement problématiques. Les implications à long terme de cette décision pour le développement et le déploiement de la technologie de génération d'images par IA restent à déterminer. L'entreprise n'a pas encore annoncé si l'application Grok sera également soumise aux mêmes restrictions, ni quand.