HHS Utilizó Herramientas de IA de Palantir para Atacar la DEI en Subvenciones, Según Muestran Documentos
El Departamento de Salud y Servicios Humanos (HHS) utilizó herramientas de inteligencia artificial de Palantir Technologies para examinar subvenciones, solicitudes de subvenciones y descripciones de puestos de trabajo en busca de cumplimiento con las órdenes ejecutivas del expresidente Donald Trump dirigidas a iniciativas de diversidad, equidad e inclusión (DEI) e ideología de género, según un inventario de los casos de uso de IA del HHS en 2025 publicado recientemente. El uso del software de Palantir para estos fines no fue anunciado públicamente ni por Palantir ni por el HHS.
El inventario reveló que el HHS había estado utilizando las herramientas de IA desde marzo de 2025. Durante el primer año del segundo mandato de Trump, Palantir recibió más de $35 millones en pagos y obligaciones solo del HHS, según Wired. Sin embargo, las descripciones de estas transacciones no mencionaron el trabajo dirigido a la DEI o la ideología de género.
En otras noticias sobre la implementación de la IA, las empresas están reconociendo cada vez más la recuperación como una dependencia fundamental del sistema al adoptar la Generación Aumentada por Recuperación (RAG) para basar los Modelos de Lenguaje Grande (LLM) en datos propietarios, según VentureBeat. Las fallas en la recuperación pueden propagarse directamente al riesgo empresarial, socavando la confianza, el cumplimiento y la fiabilidad operativa. "El contexto obsoleto, las rutas de acceso no gobernadas y las canalizaciones de recuperación mal evaluadas no solo degradan la calidad de la respuesta; socavan la confianza, el cumplimiento y la fiabilidad operativa", informó VentureBeat.
Mientras tanto, MIT Technology Review informó que el Departamento de Seguridad Nacional de EE. UU. está utilizando generadores de video de IA de Google y Adobe para crear contenido para el consumo público. Esta noticia ha suscitado preocupaciones sobre el potencial del contenido generado por IA para erosionar la confianza social.
Para garantizar el éxito de los sistemas de IA empresariales, Mistral AI recomienda identificar un "caso de uso icónico" como base para la transformación de la IA. Este enfoque implica el diseño conjunto de soluciones de IA personalizadas con líderes de la industria para abordar desafíos específicos y lograr resultados medibles, según MIT Technology Review.
El CPO de Asana, Arnab Bose, enfatizó la importancia de la memoria y el contexto compartidos para los agentes de IA exitosos dentro de una empresa. "Cuando asignas una tarea, no tienes que volver a proporcionar todo el contexto sobre cómo funciona tu negocio", dijo Bose en un evento de VentureBeat en San Francisco. Asana lanzó Asana AI Teammates el año pasado con el objetivo de crear un sistema colaborativo donde los agentes de IA estén directamente integrados en equipos y proyectos.
Discussion
AI Experts & Community
Be the first to comment