AI 智能体破解安全，Galaxy 变得流畅，以及 RAG 系统失败！

以下是一篇新闻文章，综合了来自所提供的信息源：

近期报告凸显人工智能进步与安全隐患

近期报告揭示了人工智能领域的进步，从编码代理到处理复杂文档的挑战，同时也引发了重大的安全担忧。根据多个消息来源，人工智能工具，尤其是代理式人工智能的快速发展和部署，暴露了现有安全模型的漏洞。

检索增强生成（RAG）系统的有效性是关注的焦点之一。据 VentureBeat 报道，许多企业部署了 RAG 系统，旨在通过索引 PDF 并将其连接到大型语言模型（LLM）来实现企业知识的民主化。然而，这些系统往往达不到预期效果，尤其是在依赖重型工程的行业中。“失败不在于 LLM，而在于预处理，”VentureBeat 报道称，并指出标准的 RAG 管道将文档视为扁平的文本字符串，使用固定大小的分块，这可能会通过切割表格和将标题与图像分离来破坏技术手册的逻辑。

与此同时，代理式人工智能的兴起带来了新的安全风险。据 VentureBeat 报道，开源 AI 助手 OpenClaw 获得了显著的关注，积累了超过 18 万个 GitHub 星星，并在短短一周内吸引了 200 万访问者。然而，安全研究人员发现了超过 1800 个暴露的实例，泄露了 API 密钥、聊天记录和帐户凭据。VentureBeat 指出，这种草根代理式人工智能运动代表了一个重大的、未受管理的攻击面，许多安全工具无法检测到。该报告强调，传统的安全边界通常无法发现代理式人工智能的威胁，尤其是在代理运行在自带设备（BYOD）硬件上时。

编码代理的开发也在不断进步，开发人员正在探索最小化和主观化的设计。一位开发人员详细介绍了他们构建此类代理的经验，强调了使用多个模型、结构化拆分工具结果以及最小化系统提示。该开发人员指出了一些设计选择，例如“没有内置待办事项”、“没有计划模式”和“没有 MCP 支持”，反映了对简单性和直接性的关注。