Après avoir été critiqué pour la capacité de son chatbot Grok à générer des images de femmes "déshabillées" et des images sexualisées d'apparents mineurs, X, la plateforme d'Elon Musk, a restreint la génération et l'édition d'images aux abonnés payants. Ce changement, mis en œuvre vendredi, limite la fonctionnalité aux utilisateurs de l'abonnement premium de X, qui coûte 95 $ par an.

Le compte Grok sur X répond désormais à certaines demandes des utilisateurs par un message indiquant que la génération et l'édition d'images sont limitées aux abonnés payants, et inclut un lien vers la page d'abonnement. Cette restriction a également été déclenchée dans au moins un cas lorsqu'un utilisateur a demandé une image d'un arbre, ce qui indique une limitation générale de la fonctionnalité.

Cette décision fait suite à des jours d'indignation croissante et à un examen réglementaire de plus en plus poussé de X et de xAI, la société derrière Grok, appartenant à Musk. Les régulateurs du monde entier enquêtent sur les entreprises pour la création d'images explicites non consensuelles et d'images à caractère sexuel présumées d'enfants. Le Premier ministre britannique Keir Starmer a suggéré une interdiction de X au Royaume-Uni, affirmant que les actions ont été illégales.

Ni X ni xAI n'ont publié de déclaration officielle concernant ce changement. Le chatbot Grok utilise des algorithmes avancés d'intelligence artificielle et d'apprentissage automatique pour générer des images à partir d'invites textuelles. La technologie sous-jacente, bien que puissante, est susceptible d'être utilisée à mauvais escient si elle n'est pas correctement contrôlée et surveillée. Les experts ont noté que les modèles d'IA générative peuvent être manipulés pour produire du contenu nuisible ou inapproprié, soulignant la nécessité de mesures de sécurité robustes et de politiques de modération du contenu.

La décision de limiter la génération d'images aux abonnés payants soulève des questions sur l'accessibilité et la modération du contenu. Bien qu'elle puisse réduire le volume global d'images problématiques, elle crée également un accès payant à la génération de contenu, limitant potentiellement l'accès pour les utilisateurs qui n'ont pas les moyens de payer l'abonnement. Il reste à voir si cette mesure permettra de répondre efficacement aux préoccupations soulevées par les régulateurs et le public. La situation est en cours et d'autres développements sont attendus à mesure que les enquêtes réglementaires se poursuivent.