
突发:小丑学校危机:失败引发人工智能革命!
突发:小丑学校危机:失败引发人工智能革命!
法国一所小丑学校将失败作为其教学理念的核心,强调在喜剧表演中拥抱错误的重要性。这种由菲利普·戈利埃(Philippe Gaulier)开创的方法,为人工智能训练提供了一种新颖的思路,即算法可以通过迭代失败和适应来学习,从而可能产生更具创造性和弹性的AI系统。该学校强调理解观众反应并做出相应调整,这也能为开发具有更高情商和实时响应能力的人工智能提供见解。



以下是一篇新闻文章,综合了所提供的信息:
Agentic AI 安全风险浮现,RAG 系统局限性显现
根据最新报告,检索增强生成 (RAG) 系统的快速采用正在揭示安全漏洞和处理复杂文档方面的局限性。虽然 RAG 承诺通过索引文档并连接到大型语言模型 (LLM) 来普及企业知识,但安全研究人员已经发现了与 agentic AI 相关的重大风险,并且开发人员发现标准 RAG 管道难以处理复杂的文档。
开源 AI 助手 OpenClaw(前身为 Clawdbot 和 Moltbot)的创建者 Peter Steinberger 表示,该助手已达到 18 万个 GitHub 星标,并在短短一周内吸引了 200 万访问者。然而,这种受欢迎程度也暴露了安全漏洞。安全研究人员发现了超过 1,800 个暴露的实例,泄露了 API 密钥、聊天记录和帐户凭据。 VentureBeat 报道称,这凸显了草根 agentic AI 运动如何创建传统安全工具经常忽略的非托管攻击面。当代理在自带设备 (BYOD) 硬件上运行时,企业安全堆栈可能会对潜在威胁视而不见。
除了安全问题之外,RAG 系统的有效性也受到了质疑,尤其是在依赖复杂文档的行业中。 VentureBeat 的一份报告称,标准 RAG 管道通常将文档视为扁平的文本字符串,使用固定大小的分块方法,这可能会破坏技术手册的逻辑。这种方法可能会分割表格、将标题与图像分离,并忽略页面的视觉层次结构,从而导致工程师提出具体问题时出现不准确的结果。 VentureBeat 报道称:“失败不在于 LLM,而在于预处理。”
为了解决标准 RAG 的局限性,一种名为 PageIndex 的新型开源框架应运而生。 VentureBeat 报道称,PageIndex 放弃了传统的“分块和嵌入”方法,并将文档检索视为导航问题,而不是搜索问题。该框架在向量搜索通常失败的文档上实现了 98.7% 的准确率。随着企业尝试将 RAG 集成到高风险工作流程中,例如审计财务报表和分析法律合同,它们正在遇到仅靠分块优化无法克服的准确性障碍。
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
Discussion
AI Experts & Community
Be the first to comment