xAI a lancé Grok Business et Grok Enterprise, de nouveaux niveaux de son assistant IA conçus pour une utilisation organisationnelle, dans un contexte de controverse concernant les deepfakes non consensuels générés à l'aide du déploiement public de la plateforme. Les nouvelles offres fournissent un accès évolutif aux modèles les plus avancés de xAI, notamment Grok 3, Grok 4 et Grok 4 Heavy, et sont commercialisées comme des solutions rentables avec de solides contrôles administratifs, des garanties de confidentialité et une couche d'isolation premium appelée Enterprise Vault.

Grok Business est proposé au prix de 30 $ par poste et par mois et cible les petites équipes, tandis que Grok Enterprise offre des solutions personnalisées pour les grandes organisations ayant des besoins plus complexes. Selon xAI, la fonctionnalité Enterprise Vault fournit un environnement isolé pour le traitement des données sensibles, visant à répondre aux exigences de sécurité strictes des entreprises clientes. L'entreprise affirme que ces nouveaux niveaux offrent une plateforme d'IA sécurisée et fiable pour les entreprises cherchant à exploiter la puissance des grands modèles linguistiques.

Cependant, le lancement est éclipsé par les préoccupations concernant le déploiement public de la plateforme, qui a été critiqué pour avoir permis la création et la diffusion de manipulations d'images non consensuelles générées par l'IA. Ces images impliqueraient des femmes, des influenceurs et des mineurs, suscitant un tollé public et un examen réglementaire. La controverse soulève des questions sur la capacité de xAI à mettre en œuvre des garanties efficaces et à maintenir la confiance des utilisateurs, en particulier alors qu'elle cherche à s'implanter sur le marché des entreprises.

Les deepfakes, ou médias générés par l'IA qui dépeignent de manière convaincante des individus faisant ou disant des choses qu'ils n'ont pas faites, constituent une menace importante pour la vie privée et la réputation. Les experts avertissent que la technologie peut être utilisée à des fins malveillantes, notamment la diffusion de fausses informations, la création de contenu diffamatoire et le harcèlement. L'incident impliquant Grok met en évidence les défis liés à la prévention de l'utilisation abusive de la technologie de l'IA, même lorsque les développeurs mettent en œuvre des mesures de sécurité.

« La capacité de générer des images réalistes avec l'IA progresse rapidement, et il est crucial que des entreprises comme xAI accordent la priorité aux considérations éthiques et mettent en œuvre des garanties solides pour prévenir les abus », a déclaré le Dr Emily Carter, professeure d'éthique de l'IA à l'université de Stanford. « Le potentiel de préjudice est important, et il est essentiel de mettre en place des directives claires et des mécanismes de responsabilisation. »

La controverse entourant les capacités de deepfake de Grok a attiré l'attention des régulateurs, qui examinent maintenant les garanties internes et les politiques de modération de contenu de xAI. L'issue de ces enquêtes pourrait avoir des implications importantes pour l'avenir du développement et du déploiement de l'IA, conduisant potentiellement à des réglementations plus strictes et à un examen accru des entreprises d'IA.

xAI a déclaré qu'elle prenait les préoccupations au sérieux et qu'elle s'engageait à résoudre le problème. L'entreprise a annoncé son intention d'améliorer ses systèmes de modération de contenu, d'améliorer ses algorithmes de détection et de collaborer avec les forces de l'ordre pour identifier et poursuivre ceux qui utilisent la plateforme de manière abusive. L'efficacité de ces mesures reste à voir, et l'entreprise est confrontée à un défi pour équilibrer l'innovation et le développement responsable de l'IA. L'entreprise n'a pas encore publié de données spécifiques sur le nombre de deepfakes créés ou supprimés de la plateforme.