Le HHS a utilisé les outils d'IA de Palantir pour cibler la DEI dans les subventions, selon des documents
Le Département de la Santé et des Services sociaux (HHS) a utilisé des outils d'intelligence artificielle de Palantir Technologies pour examiner les subventions, les demandes de subventions et les descriptions de poste afin de vérifier leur conformité avec les décrets de l'ancien président Donald Trump ciblant les initiatives de diversité, d'équité et d'inclusion (DEI) et l'idéologie du genre, selon un inventaire récemment publié des cas d'utilisation de l'IA par le HHS en 2025. L'utilisation du logiciel de Palantir à ces fins n'a été annoncée publiquement ni par Palantir, ni par le HHS.
L'inventaire a révélé que le HHS utilisait les outils d'IA depuis mars 2025. Au cours de la première année du deuxième mandat de Trump, Palantir a reçu plus de 35 millions de dollars en paiements et obligations du seul HHS, selon Wired. Cependant, les descriptions de ces transactions ne mentionnaient pas le travail ciblant la DEI ou l'idéologie du genre.
Dans d'autres nouvelles concernant la mise en œuvre de l'IA, les entreprises reconnaissent de plus en plus la recherche d'informations comme une dépendance fondamentale du système lors de l'adoption de la génération augmentée par la recherche d'informations (RAG) pour ancrer les grands modèles de langage (LLM) dans des données propriétaires, selon VentureBeat. Les échecs de la recherche d'informations peuvent se propager directement au risque commercial, sapant la confiance, la conformité et la fiabilité opérationnelle. « Un contexte obsolète, des chemins d'accès non contrôlés et des pipelines de recherche d'informations mal évalués ne se contentent pas de dégrader la qualité des réponses ; ils sapent la confiance, la conformité et la fiabilité opérationnelle », a rapporté VentureBeat.
Parallèlement, MIT Technology Review a rapporté que le Département américain de la Sécurité intérieure utilise des générateurs de vidéos d'IA de Google et d'Adobe pour créer du contenu destiné à la consommation publique. Cette nouvelle a soulevé des inquiétudes quant au potentiel du contenu généré par l'IA à éroder la confiance de la société.
Pour garantir le succès des systèmes d'IA d'entreprise, Mistral AI recommande d'identifier un « cas d'utilisation emblématique » comme base de la transformation de l'IA. Cette approche implique la co-conception de solutions d'IA sur mesure avec des leaders de l'industrie pour relever des défis spécifiques et obtenir des résultats mesurables, selon MIT Technology Review.
Le CPO d'Asana, Arnab Bose, a souligné l'importance de la mémoire partagée et du contexte pour le succès des agents d'IA au sein d'une entreprise. « Lorsque vous attribuez une tâche, vous n'avez pas à fournir à nouveau tout le contexte sur le fonctionnement de votre entreprise », a déclaré Bose lors d'un événement VentureBeat à San Francisco. Asana a lancé Asana AI Teammates l'année dernière dans le but de créer un système collaboratif où les agents d'IA sont directement intégrés aux équipes et aux projets.
Discussion
AI Experts & Community
Be the first to comment