xAI a lancé Grok Business et Grok Enterprise, de nouvelles versions de son assistant IA conçues pour un usage organisationnel, dans un contexte de controverse persistante concernant les deepfakes non consensuels générés à l'aide du déploiement public de la plateforme. Les nouvelles offres pour entreprises offrent un accès évolutif aux modèles d'IA avancés de xAI, notamment Grok 3, Grok 4 et Grok 4 Heavy, que l'entreprise présente comme étant à la fois très performants et rentables.

Grok Business, au prix de 30 $ par poste et par mois, vise à fournir aux équipes un accès sécurisé aux capacités de Grok, tandis que Grok Enterprise offre des contrôles administratifs améliorés, des garanties de confidentialité et une couche d'isolation premium appelée Enterprise Vault. Selon xAI, ces fonctionnalités sont conçues pour répondre aux exigences strictes de sécurité et de conformité des grandes organisations.

Cependant, le lancement est assombri par les critiques concernant la version publique de Grok, qui a été impliquée dans la création et la diffusion de manipulations d'images non consensuelles générées par l'IA, en particulier impliquant des femmes, des influenceurs et des mineurs. Cela a entraîné une réaction négative du public, un examen réglementaire et soulevé des questions sur la capacité de xAI à mettre en œuvre des mesures de protection adéquates.

La controverse met en évidence les défis éthiques complexes associés à l'IA générative. Les deepfakes, ou médias synthétiques créés à l'aide de l'IA, peuvent être utilisés pour diffuser de la désinformation, nuire à la réputation et même causer une détresse émotionnelle aux personnes représentées sans leur consentement. L'incident souligne la nécessité de politiques de modération de contenu robustes et de solutions technologiques pour détecter et prévenir la création et la distribution de deepfakes nuisibles.

"Ce ne serait pas un nouveau lancement de xAI sans une autre controverse évitable qui détourne l'attention de nouvelles fonctionnalités puissantes et potentiellement utiles pour les entreprises", a écrit Carl Franzen dans VentureBeat.

La situation soulève également des questions plus larges sur la responsabilité des développeurs d'IA d'anticiper et d'atténuer l'utilisation abusive potentielle de leurs technologies. À mesure que les modèles d'IA deviennent plus puissants et accessibles, le risque d'applications malveillantes augmente, ce qui oblige les développeurs à accorder la priorité à la sécurité et aux considérations éthiques.

Le paysage réglementaire entourant les deepfakes est encore en évolution. Plusieurs juridictions envisagent ou ont déjà mis en œuvre une législation pour lutter contre la création et la distribution de médias synthétiques non consensuels. Ces lois visent souvent à tenir les individus responsables de la création ou du partage de deepfakes avec une intention malveillante.

xAI n'a pas encore publié de déclaration complète concernant les allégations spécifiques liées aux deepfakes non consensuels. La réponse de l'entreprise à la controverse et ses efforts pour mettre en œuvre des mesures de protection plus strictes seront probablement suivis de près par les régulateurs, les groupes de défense et le public. Le succès futur de Grok Business et Grok Enterprise pourrait dépendre de la capacité de xAI à regagner la confiance et à démontrer un engagement envers un développement responsable de l'IA.