IA bajo escrutinio: HHS utiliza Palantir para la evaluación de DEI, se publican los archivos de Epstein y aumentan las preocupaciones sobre la veracidad de la IA
El Departamento de Salud y Servicios Humanos (HHS) utilizó herramientas de inteligencia artificial de Palantir para examinar subvenciones y descripciones de puestos de trabajo en busca de cumplimiento con las órdenes ejecutivas del expresidente Donald Trump dirigidas a iniciativas de diversidad, equidad e inclusión (DEI) e ideología de género, según un inventario de uso de IA del HHS en 2025 publicado recientemente. Esta revelación se produce cuando el Departamento de Justicia publicó aproximadamente 3,5 millones de páginas de archivos relacionados con el delincuente sexual convicto Jeffrey Epstein, revelando conexiones con figuras prominentes en la industria tecnológica, y a medida que crecen las preocupaciones sobre el potencial de la IA para erosionar la confianza social.
Según Wired, el HHS ha utilizado las herramientas de IA de Palantir desde marzo de 2025 para auditar subvenciones, solicitudes de subvenciones y descripciones de puestos de trabajo. Ni Palantir ni el HHS anunciaron públicamente este uso del software de la compañía. Durante el segundo mandato de Trump, Palantir recibió más de 35 millones de dólares en pagos y obligaciones del HHS, aunque las descripciones de estas transacciones no mencionaron la focalización en DEI o ideología de género.
La publicación de los archivos de Epstein, ordenada por la Ley de Transparencia de los Archivos de Epstein del 19 de noviembre de 2025, ha renovado el escrutinio de las relaciones entre Epstein e individuos en el mundo tecnológico. Si bien algunos, como el cofundador de Microsoft, Bill Gates, han estado asociados durante mucho tiempo con Epstein, otros, como Elon Musk, tenían conexiones menos establecidas antes de la publicación, informó Wired. Es importante tener en cuenta que la presencia de un nombre en los archivos de Epstein no implica necesariamente una mala conducta.
Mientras tanto, están aumentando las preocupaciones sobre el potencial de la IA para contribuir a una "crisis de la verdad". MIT Technology Review informó que el Departamento de Seguridad Nacional de EE. UU. está utilizando generadores de vídeo de IA de Google y Adobe para crear contenido para el consumo público. Esta noticia ha suscitado preocupaciones sobre el potencial del contenido generado por IA para engañar al público, moldear creencias y erosionar la confianza social. El artículo también señaló que las herramientas inicialmente destinadas a combatir esta crisis están demostrando ser inadecuadas.
En el espacio de la IA empresarial, VentureBeat informa que las empresas están adoptando cada vez más la Generación Aumentada por Recuperación (RAG) para basar los Modelos de Lenguaje Grande (LLM) en datos patentados. Sin embargo, muchas organizaciones están descubriendo que la recuperación se ha convertido en una dependencia fundamental del sistema, en lugar de una característica añadida a la inferencia del modelo. Los fallos en la recuperación pueden socavar la confianza, el cumplimiento y la fiabilidad operativa. "El contexto obsoleto, las rutas de acceso no controladas y las canalizaciones de recuperación mal evaluadas no solo degradan la calidad de la respuesta; socavan la confianza, el cumplimiento y la fiabilidad operativa", señaló VentureBeat.
El CPO de Asana, Arnab Bose, enfatizó la importancia de la memoria compartida y el contexto para los agentes de IA exitosos dentro de una empresa. Afirmó en un evento reciente de VB en San Francisco que proporcionar a los agentes de IA un historial detallado y acceso directo, junto con puntos de control de protección y supervisión humana, les permite funcionar como compañeros de equipo activos. "De esta manera, cuando asignas una tarea, no tienes que volver a proporcionar todo el contexto sobre cómo funciona tu negocio", dijo Bose. Asana lanzó Asana AI Teammates el año pasado con el objetivo de crear un sistema colaborativo donde los agentes de IA estén directamente integrados en equipos y proyectos.
Discussion
AI Experts & Community
Be the first to comment