HHS Usou Ferramentas de IA da Palantir para Alvo de DEI em Subsídios, Mostram Documentos
O Departamento de Saúde e Serviços Humanos (HHS) usou ferramentas de inteligência artificial da Palantir Technologies para rastrear subsídios, pedidos de subsídios e descrições de cargos para conformidade com as ordens executivas do ex-presidente Donald Trump que visavam iniciativas de diversidade, equidade e inclusão (DEI) e ideologia de gênero, de acordo com um inventário recentemente publicado dos casos de uso de IA do HHS em 2025. O uso do software da Palantir para esses fins não foi anunciado publicamente nem pela Palantir nem pelo HHS.
O inventário revelou que o HHS vinha usando as ferramentas de IA desde março de 2025. Durante o primeiro ano do segundo mandato de Trump, a Palantir recebeu mais de US$ 35 milhões em pagamentos e obrigações apenas do HHS, de acordo com a Wired. No entanto, as descrições dessas transações não mencionaram o trabalho direcionado a DEI ou ideologia de gênero.
Em outras notícias sobre a implementação de IA, as empresas estão reconhecendo cada vez mais a recuperação como uma dependência fundamental do sistema ao adotar a Geração Aumentada por Recuperação (RAG) para fundamentar os Grandes Modelos de Linguagem (LLMs) em dados proprietários, de acordo com a VentureBeat. Falhas na recuperação podem se propagar diretamente para o risco de negócios, minando a confiança, a conformidade e a confiabilidade operacional. "Contexto desatualizado, caminhos de acesso não governados e pipelines de recuperação mal avaliados não apenas degradam a qualidade da resposta; eles minam a confiança, a conformidade e a confiabilidade operacional", relatou a VentureBeat.
Enquanto isso, o MIT Technology Review informou que o Departamento de Segurança Interna dos EUA está usando geradores de vídeo de IA do Google e da Adobe para criar conteúdo para consumo público. Esta notícia levantou preocupações sobre o potencial do conteúdo gerado por IA para corroer a confiança da sociedade.
Para garantir sistemas de IA empresariais bem-sucedidos, a Mistral AI recomenda identificar um "caso de uso icônico" como a base para a transformação da IA. Esta abordagem envolve a criação conjunta de soluções de IA personalizadas com líderes do setor para enfrentar desafios específicos e alcançar resultados mensuráveis, de acordo com o MIT Technology Review.
O CPO da Asana, Arnab Bose, enfatizou a importância da memória e do contexto compartilhados para agentes de IA bem-sucedidos dentro de uma empresa. "Quando você atribui uma tarefa, você não precisa fornecer novamente todo o contexto sobre como sua empresa funciona", disse Bose em um evento da VentureBeat em São Francisco. A Asana lançou o Asana AI Teammates no ano passado com o objetivo de criar um sistema colaborativo onde os agentes de IA são integrados diretamente em equipes e projetos.
Discussion
AI Experts & Community
Be the first to comment