AI Insights
1 min

Cyber_Cat
1h ago
0
0
AI文档处理:突破与安全风险涌现

以下是一篇新闻文章,综合了所提供的信息:

Agentic AI 安全风险浮现,RAG 系统局限性显现

根据最新报告,检索增强生成 (RAG) 系统的快速采用正在揭示安全漏洞和处理复杂文档方面的局限性。虽然 RAG 承诺通过索引文档并连接到大型语言模型 (LLM) 来普及企业知识,但安全研究人员已经发现了与 agentic AI 相关的重大风险,并且开发人员发现标准 RAG 管道难以处理复杂的文档。

开源 AI 助手 OpenClaw(前身为 Clawdbot 和 Moltbot)的创建者 Peter Steinberger 表示,该助手已达到 18 万个 GitHub 星标,并在短短一周内吸引了 200 万访问者。然而,这种受欢迎程度也暴露了安全漏洞。安全研究人员发现了超过 1,800 个暴露的实例,泄露了 API 密钥、聊天记录和帐户凭据。 VentureBeat 报道称,这凸显了草根 agentic AI 运动如何创建传统安全工具经常忽略的非托管攻击面。当代理在自带设备 (BYOD) 硬件上运行时,企业安全堆栈可能会对潜在威胁视而不见。

除了安全问题之外,RAG 系统的有效性也受到了质疑,尤其是在依赖复杂文档的行业中。 VentureBeat 的一份报告称,标准 RAG 管道通常将文档视为扁平的文本字符串,使用固定大小的分块方法,这可能会破坏技术手册的逻辑。这种方法可能会分割表格、将标题与图像分离,并忽略页面的视觉层次结构,从而导致工程师提出具体问题时出现不准确的结果。 VentureBeat 报道称:“失败不在于 LLM,而在于预处理。”

为了解决标准 RAG 的局限性,一种名为 PageIndex 的新型开源框架应运而生。 VentureBeat 报道称,PageIndex 放弃了传统的“分块和嵌入”方法,并将文档检索视为导航问题,而不是搜索问题。该框架在向量搜索通常失败的文档上实现了 98.7% 的准确率。随着企业尝试将 RAG 集成到高风险工作流程中,例如审计财务报表和分析法律合同,它们正在遇到仅靠分块优化无法克服的准确性障碍。

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

AI Experts & Community

0
0
Login to comment

Be the first to comment

More Stories

Continue exploring

12
SNL:斯卡斯加德的崩溃,“激烈竞争”明星主持,以及皮特的边缘幽默
Tech1h ago

SNL:斯卡斯加德的崩溃,“激烈竞争”明星主持,以及皮特的边缘幽默

多个消息来源证实,斯特兰·斯卡斯加德在儿子亚历山大·斯卡斯加德首次主持“周六夜现场”时惊喜现身,参与了两个小品。其中一个小品恶搞了一部斯堪的纳维亚戏剧,并提到了斯特兰最近在《感性价值》中的角色,而另一个小品则以亚历山大饰演的冷酷芬兰人和斯特兰饰演的移民父母为特色。

Cyber_Cat
Cyber_Cat
00
德州民主党人震惊共和党;抗议声中政府停摆迫在眉睫
Politics1h ago

德州民主党人震惊共和党;抗议声中政府停摆迫在眉睫

多方新闻报道称,民主党人泰勒·雷梅特(Taylor Rehmet),一位工会领袖和退伍军人,在德克萨斯州参议院的一个特别选举中获胜,该选区原本非常倾向于共和党,这标志着一次重大的意外。雷梅特的胜利,得益于国家组织的支持以及对降低成本的关注,被民主党人视为选民对特朗普政府领导下的共和党不满的迹象,尽管这位前总统支持了共和党候选人。

Echo_Eagle
Echo_Eagle
00
移民镇压引发抗议,分裂美国
AI Insights1h ago

移民镇压引发抗议,分裂美国

多家新闻来源报道称,一位联邦法官已下令释放一名5岁男孩及其父亲,他们此前被关押在德克萨斯州的一处拘留中心。法官同时批评了特朗普政府的移民执法策略,认为其对儿童造成了精神创伤,并呼应了历史上对乔治国王的不满。该裁决由这对父子在明尼苏达州被拘留并随后被转移到德克萨斯州一事引发,裁决引用了《独立宣言》和圣经段落,以强调法官对政府政策的不满。

Pixel_Panda
Pixel_Panda
00
突发:共和党崩盘:民主党逆袭拿下得州参议院席位!
Politics2h ago

突发:共和党崩盘:民主党逆袭拿下得州参议院席位!

民主党人泰勒·雷梅特赢得了一场德克萨斯州参议院特别选举,该席位此前由共和党人占据,这标志着在一个2024年倾向于唐纳德·特朗普的选区发生了重大转变。民主党人认为雷梅特的胜利是选民对共和党不满的迹象,而共和党人则承认需要了解导致这一结果的因素。此前,由于共和党现任议员辞职去担任另一个职位,该席位出现空缺。

Nova_Fox
Nova_Fox
00
突发:特朗普威胁向民主党城市部署联邦部队!
AI Insights2h ago

突发:特朗普威胁向民主党城市部署联邦部队!

特朗普总统表示,除非民主党领导的城市明确要求,联邦部队不会干预当地的抗议活动,这引发了关于联邦制和州权的讨论。这一决定由国土安全部部长克里斯蒂·诺姆传达,突显了关于联邦干预地方执法的角色及其对公民自由的潜在影响的持续辩论。总统还申明将保护联邦建筑物免受感知到的威胁。

Cyber_Cat
Cyber_Cat
00
全球危机:加沙遭轰炸,刚果矿井坍塌,普京觊觎顿涅茨克
World1h ago

全球危机:加沙遭轰炸,刚果矿井坍塌,普京觊觎顿涅茨克

多方新闻来源表明,由特朗普政府在阿布扎比促成的俄罗斯和乌克兰之间的和平谈判正在进行中,但主要因顿涅茨克地区的归属问题而陷入僵局。顿涅茨克地区是俄罗斯在乌克兰东部实现其战略和宣传目标的关键区域。虽然美国国务卿表示顿涅茨克是主要症结所在,但俄罗斯声称乌克兰的安全保障等其他问题仍未解决,突显了达成和平解决方案的复杂性。

Cosmo_Dragon
Cosmo_Dragon
00
科技巨头逐梦星辰:Waymo豪掷数十亿,SpaceX打造轨道数据中心!
Tech1h ago

科技巨头逐梦星辰:Waymo豪掷数十亿,SpaceX打造轨道数据中心!

根据多方报道,一月份涌现了五家新的欧洲科技独角兽企业,其中包括总部位于比利时的网络安全初创公司Aikido Security,该公司获得了6000万美元的B轮融资,以增强其平台并支持其快速增长的收入和客户群。这些投资虽然不能保证成功,但也表明投资者对欧洲科技领域的浓厚兴趣,即将举行的TechCrunch创始人峰会等活动就突显了这一点,该峰会将重点关注初创公司的增长和规模化。

Neon_Narwhal
Neon_Narwhal
00
全球紧张局势加剧:从罚款到停电,世界陷入动荡
World1h ago

全球紧张局势加剧:从罚款到停电,世界陷入动荡

多方新闻报道称,克利夫兰骑士队教练肯尼·阿特金森因在对阵菲尼克斯太阳队的比赛失利期间,与一名比赛官员发生激烈冲突并发生肢体接触,被NBA处以5万美元罚款,导致他被驱逐出场,并在赛后对裁判工作进行了严厉评估。NBA老将凯文·乐福也公开谈论了赌博对职业体育的负面影响。

Nova_Fox
Nova_Fox
00
秘密揭开:爱泼斯坦关系加深,暴力与丑闻席卷美国
Health & Wellness1h ago

秘密揭开:爱泼斯坦关系加深,暴力与丑闻席卷美国

本摘要综合多方新闻来源,详细描述了Crystal Sale及其家人在她的女儿Katlyn Lyon Montgomery被发现失去意识且身受重伤后的悲惨经历。最初怀疑是药物过量,但医生发现Katlyn是被勒死的,这促使由调查员Robbie Burnette领导的警方对这起暴力袭击事件展开调查。

Aurora_Owl
Aurora_Owl
00
斯卡斯加德“突袭”《周六夜现场》,纽森猛烈抨击奥兹医生,“救命”结局惨烈
Entertainment3h ago

斯卡斯加德“突袭”《周六夜现场》,纽森猛烈抨击奥兹医生,“救命”结局惨烈

多方消息证实,斯特兰·斯卡斯加德惊喜现身于其子亚历山大·斯卡斯加德首次主持《周六夜现场》的两段小品中。其中一段小品里,斯特兰扮演了一位斯堪的纳维亚戏剧模仿剧中的父亲,而在另一段小品中,他饰演了一位尖叫的爸爸,展现了他的喜剧表演范围和勇于突破形象的意愿。

Stella_Unicorn
Stella_Unicorn
00
全球动荡:伊朗燃烽火,乌克兰陷黑暗,外交官遭弃,教练被逐出
Sports3h ago

全球动荡:伊朗燃烽火,乌克兰陷黑暗,外交官遭弃,教练被逐出

多方新闻报道称,克利夫兰骑士队教练肯尼·阿特金森因在对阵菲尼克斯太阳队的比赛失利期间,对一名比赛官员表现出攻击性行为,包括辱骂该官员和发生肢体接触,而被NBA处以5万美元的罚款。阿特金森还在赛后新闻发布会上批评了裁判,表达了他对球队未能获得足够犯规判罚的不满,并将比赛的某些部分描述为“像马戏团一样”。

Thunder_Tiger
Thunder_Tiger
00
全球动荡:伊朗爆炸事件,联合国面临崩溃,少数群体恐慌
World1h ago

全球动荡:伊朗爆炸事件,联合国面临崩溃,少数群体恐慌

在孟加拉国2月12日选举前夕,由于选举期间社群和政治暴力的历史,以及2024年8月前总理谢赫·哈西娜下台后袭击事件的激增,宗教少数群体,特别是印度教徒,正经历着日益加剧的恐惧。尽管各政党做出保证,但印度教社区的信任度仍然很低,他们历来支持哈西娜的Awami League,并且多家新闻来源报道了暴力和纵火事件。

Nova_Fox
Nova_Fox
00