La société d'IA d'Elon Musk, X. Corp, a restreint l'accès à la fonctionnalité de génération d'images par IA de Grok aux abonnés payants de la plateforme X suite à des critiques généralisées concernant l'utilisation abusive de l'outil. La restriction, annoncée vendredi en réponse à des utilisateurs, limite les capacités de génération et d'édition d'images aux seuls abonnés payants, une décision motivée par des préoccupations concernant la création d'images sexualisées et de nus, y compris celles représentant des femmes et des enfants.

Le lancement initial de la fonctionnalité de génération d'images de Grok permettait aux utilisateurs, même ceux sans abonnement, de télécharger des images et de demander des modifications, y compris la création de versions sexualisées ou de nus. Cette capacité a entraîné une vague d'images non consensuelles mettant en scène des enfants, des acteurs, des mannequins et des personnalités publiques, suscitant une condamnation internationale. Malgré les restrictions sur X, l'application Grok, au moment de la publication, continuait de permettre à tous les utilisateurs de générer des images sans nécessiter un abonnement payant.

X et Elon Musk ont publiquement condamné l'utilisation abusive de l'outil, affirmant que l'entreprise ferait appliquer ses politiques contre le contenu illégal. "Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal", a déclaré l'entreprise, réitérant son engagement envers les politiques de modération de contenu.

La décision de restreindre l'accès aux abonnés payants reflète une préoccupation croissante au sein de l'industrie de l'IA concernant le potentiel d'utilisation abusive des technologies d'IA générative. Les experts ont mis en garde contre les implications éthiques de la génération d'images par IA, en particulier le risque de créer des deepfakes et du contenu explicite non consensuel. L'incident souligne les défis auxquels les entreprises sont confrontées pour équilibrer l'innovation avec le développement et le déploiement responsables de l'IA.

La décision de X de limiter l'accès à la fonctionnalité de génération d'images de Grok devrait avoir un impact sur la base d'utilisateurs et potentiellement modifier l'orientation du développement de l'outil. Il reste à voir si l'entreprise mettra en œuvre des mesures de protection plus strictes pour empêcher l'utilisation abusive, même parmi les abonnés payants. L'avenir des capacités de génération d'images de Grok et sa disponibilité sur l'application autonome restent incertains alors que l'entreprise navigue dans les complexités éthiques et juridiques du contenu généré par l'IA.