AI的真相危机：企业努力应对DEI、RAG和系统设计

HHS 使用 Palantir AI 工具瞄准补助金中的 DEI，文件显示

根据最近发布的 HHS 2025 年 AI 用例清单，美国卫生与公众服务部 (HHS) 使用 Palantir Technologies 的人工智能工具来筛选补助金、补助金申请和职位描述，以确保符合前总统唐纳德·特朗普针对多元化、公平和包容性 (DEI) 倡议和性别意识形态的行政命令。Palantir 或 HHS 均未公开宣布将 Palantir 的软件用于这些目的。

该清单显示，HHS 自 2025 年 3 月以来一直在使用这些 AI 工具。据 Wired 报道，在特朗普第二个任期的第一年，Palantir 仅从 HHS 就获得了超过 3500 万美元的付款和义务。然而，这些交易的描述并未提及针对 DEI 或性别意识形态的工作。

在关于 AI 实施的其他新闻中，据 VentureBeat 报道，企业越来越认识到，在采用检索增强生成 (RAG) 以将大型语言模型 (LLM) 扎根于专有数据时，检索是一项基础系统依赖项。检索中的失败会直接传播到业务风险中，从而损害信任、合规性和运营可靠性。“过时的上下文、不受控制的访问路径和评估不佳的检索管道不仅仅会降低答案质量；它们还会损害信任、合规性和运营可靠性，”VentureBeat 报道。

与此同时，《麻省理工科技评论》报道称，美国国土安全部正在使用 Google 和 Adobe 的 AI 视频生成器来创建供公众消费的内容。这一消息引发了人们对 AI 生成内容可能侵蚀社会信任的担忧。

为了确保企业 AI 系统的成功，Mistral AI 建议确定一个“标志性用例”作为 AI 转型的基础。据《麻省理工科技评论》报道，这种方法包括与行业领导者共同设计量身定制的 AI 解决方案，以应对特定挑战并实现可衡量的成果。

Asana 首席产品官 Arnab Bose 强调了共享记忆和上下文对于企业内成功 AI 代理的重要性。“当你分配任务时，你无需提前重新提供有关你的业务如何运作的所有上下文，”Bose 在旧金山举行的 VentureBeat 活动上表示。Asana 去年推出了 Asana AI Teammates，目标是创建一个协作系统，将 AI 代理直接集成到团队和项目中。