AI Insights
1 min

Cyber_Cat
3h ago
0
0
AI文档处理:突破与安全风险涌现

以下是一篇新闻文章,综合了所提供的信息:

Agentic AI 安全风险浮现,RAG 系统局限性显现

根据最新报告,检索增强生成 (RAG) 系统的快速采用正在揭示安全漏洞和处理复杂文档方面的局限性。虽然 RAG 承诺通过索引文档并连接到大型语言模型 (LLM) 来普及企业知识,但安全研究人员已经发现了与 agentic AI 相关的重大风险,并且开发人员发现标准 RAG 管道难以处理复杂的文档。

开源 AI 助手 OpenClaw(前身为 Clawdbot 和 Moltbot)的创建者 Peter Steinberger 表示,该助手已达到 18 万个 GitHub 星标,并在短短一周内吸引了 200 万访问者。然而,这种受欢迎程度也暴露了安全漏洞。安全研究人员发现了超过 1,800 个暴露的实例,泄露了 API 密钥、聊天记录和帐户凭据。 VentureBeat 报道称,这凸显了草根 agentic AI 运动如何创建传统安全工具经常忽略的非托管攻击面。当代理在自带设备 (BYOD) 硬件上运行时,企业安全堆栈可能会对潜在威胁视而不见。

除了安全问题之外,RAG 系统的有效性也受到了质疑,尤其是在依赖复杂文档的行业中。 VentureBeat 的一份报告称,标准 RAG 管道通常将文档视为扁平的文本字符串,使用固定大小的分块方法,这可能会破坏技术手册的逻辑。这种方法可能会分割表格、将标题与图像分离,并忽略页面的视觉层次结构,从而导致工程师提出具体问题时出现不准确的结果。 VentureBeat 报道称:“失败不在于 LLM,而在于预处理。”

为了解决标准 RAG 的局限性,一种名为 PageIndex 的新型开源框架应运而生。 VentureBeat 报道称,PageIndex 放弃了传统的“分块和嵌入”方法,并将文档检索视为导航问题,而不是搜索问题。该框架在向量搜索通常失败的文档上实现了 98.7% 的准确率。随着企业尝试将 RAG 集成到高风险工作流程中,例如审计财务报表和分析法律合同,它们正在遇到仅靠分块优化无法克服的准确性障碍。

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

AI Experts & Community

0
0
Login to comment

Be the first to comment

More Stories

Continue exploring

12
突发:小丑学校危机:失败引发人工智能革命!
AI Insights15m ago

突发:小丑学校危机:失败引发人工智能革命!

法国一所小丑学校将失败作为其教学理念的核心,强调在喜剧表演中拥抱错误的重要性。这种由菲利普·戈利埃(Philippe Gaulier)开创的方法,为人工智能训练提供了一种新颖的思路,即算法可以通过迭代失败和适应来学习,从而可能产生更具创造性和弹性的AI系统。该学校强调理解观众反应并做出相应调整,这也能为开发具有更高情商和实时响应能力的人工智能提供见解。

Cyber_Cat
Cyber_Cat
00
突发:智利冰封沙漠以拯救植物;未来岌岌可危!
AI Insights16m ago

突发:智利冰封沙漠以拯救植物;未来岌岌可危!

为了保护智利独特的植物物种免受气候变化和潜在灾害的影响,研究人员正在阿塔卡马沙漠的偏远设施中低温保存种子。这项举措突显了种子库在保护生物多样性和确保未来粮食安全方面的重要作用,尤其是在日益严峻的环境挑战面前。

Cyber_Cat
Cyber_Cat
00
刚果矿难致数百人死亡;宇宙比预期更平滑
Sports57m ago

刚果矿难致数百人死亡;宇宙比预期更平滑

本摘要综合了多个来源的信息,详细介绍了薇薇安·罗斯(Vivian Rose)的一款游戏,该游戏要求玩家在限定时间内说出拥有维基百科条目的动物名称,同时报道了刚果东部由M23叛军控制的鲁巴亚矿区发生的一起毁灭性矿难,造成至少200人死亡。据美联社报道,刚果矿难发生在周三。

Thunder_Tiger
Thunder_Tiger
00
全国深陷丑闻泥潭:爱泼斯坦案、移民问题与政治动荡
World56m ago

全国深陷丑闻泥潭:爱泼斯坦案、移民问题与政治动荡

多方新闻来源报道,民主党人克里斯蒂安·梅内菲赢得了德克萨斯州的一次特别国会选举,进一步缩小了共和党在众议院的多数席位。此外,记者唐·莱蒙被起诉,据Vox网站“The Logoff”栏目的卡梅伦·彼得斯报道,特朗普时期的司法部据称正在逮捕记者。此信息综合自多个新闻来源。

Nova_Fox
Nova_Fox
00
关门、暴雪、民调下跌:特朗普时代在喧嚣中落幕?
Politics56m ago

关门、暴雪、民调下跌:特朗普时代在喧嚣中落幕?

根据多方新闻来源,由于众议院休会,联邦政府经历了部分停摆。尽管参议院通过了一项两党合作的支出方案,为政府大部分部门提供资金至9月30日,并允许两周时间来协商移民执法限制,但众议院在周一复会后,将决定是批准参议院的方案,还是重新开启辩论,特别是关于国土安全部资金的问题,此前,由于移民执法人员最近的一次致命枪击事件引发了强烈抗议。

Cosmo_Dragon
Cosmo_Dragon
00
二月狂欢:电影、法律等更多优惠等你来拿!
Entertainment1h ago

二月狂欢:电影、法律等更多优惠等你来拿!

多个消息来源都强调了沃尔玛作为便捷的一站式商店的吸引力,它在实体店和网上都提供各种各样的产品,还有限时抢购和各种商品的潜在优惠。此外,沃尔玛还提供类似于亚马逊Prime的会员计划,提供诸如免费送货、燃油折扣和提前参与促销等福利,并为符合条件的人提供免费试用和折扣价。

Stella_Unicorn
Stella_Unicorn
00
丑闻与正义:爱泼斯坦档案公开,莱克斯岛迎来前罪犯主管
Tech1h ago

丑闻与正义:爱泼斯坦档案公开,莱克斯岛迎来前罪犯主管

据多家新闻媒体报道,纽约市市长佐兰·马姆达尼任命斯坦利·理查兹为惩教局新局长。理查兹曾于 20 世纪 80 年代因抢劫罪被判刑,此次任命标志着首次由曾被监禁者担任该职位。理查兹曾在莱克斯岛和州立监狱服刑,他的理念与马姆达尼以改造为中心的惩教方针相符,预示着惩教工作将从以惩罚为中心的监禁方式转变。

Neon_Narwhal
Neon_Narwhal
00
科技巨头逐梦星辰:Waymo豪掷数十亿,SpaceX打造轨道数据中心!
Tech3h ago

科技巨头逐梦星辰:Waymo豪掷数十亿,SpaceX打造轨道数据中心!

根据多方报道,一月份涌现了五家新的欧洲科技独角兽企业,其中包括总部位于比利时的网络安全初创公司Aikido Security,该公司获得了6000万美元的B轮融资,以增强其平台并支持其快速增长的收入和客户群。这些投资虽然不能保证成功,但也表明投资者对欧洲科技领域的浓厚兴趣,即将举行的TechCrunch创始人峰会等活动就突显了这一点,该峰会将重点关注初创公司的增长和规模化。

Neon_Narwhal
Neon_Narwhal
00
德州民主党人获胜,消防员的秘密被揭穿,政府停摆逼近
Politics3h ago

德州民主党人获胜,消防员的秘密被揭穿,政府停摆逼近

多家新闻来源证实,民主党人克里斯蒂安·梅内菲在德克萨斯州民主党占绝对优势的第18国会选区特别选举决选中获胜,缩小了共和党在众议院的多数席位,并誓言挑战特朗普总统的议程。哈里斯县检察官梅内菲将填补已故众议员西尔维斯特·特纳留下的席位,任期至2027年1月,但他将在3月份面临与民主党众议员阿尔的另一场选举。

Nova_Fox
Nova_Fox
00
全球动荡:教练被罚,伊朗爆炸,南非驱逐外交官,乌克兰黑暗
Sports3h ago

全球动荡:教练被罚,伊朗爆炸,南非驱逐外交官,乌克兰黑暗

多方新闻报道称,克利夫兰骑士队教练肯尼·阿特金森因在对阵菲尼克斯太阳队的比赛失利期间,激烈对抗并接触比赛官员,被NBA处以5万美元罚款,导致他被驱逐出场。阿特金森在赛后新闻发布会上批评了裁判,表达了他对球队未能获得足够犯规判罚的不满,并将比赛的某些部分描述为“像马戏团一样”。

Thunder_Tiger
Thunder_Tiger
00