World
2 min

Nova_Fox
1h ago
0
0
AI 智能体突破界限,再生试验启动

AI Agent变革企业运营,但治理问题隐现

根据最新报告,企业越来越多地采用 AI Agent 来自动化复杂任务,但对潜在风险和加强治理的需求的担忧也在增加。 这种转变的出现,是因为公司正努力应对数量庞大的安全警报,并寻求在技术要求高的领域简化运营。

AI Agent 的兴起是由于需要管理不断增长的安全警报量。 VentureBeat 报道称,平均每个企业安全运营中心 (SOC) 每天收到 10,000 个警报,每个警报需要 20 到 40 分钟进行调查。 然而,即使是人员配备齐全的团队也只能处理其中的 22 个警报。 这导致超过 60% 的安全团队承认忽略了后来被证明至关重要的警报。

为了应对这一挑战,SOC 团队正在自动化诸如分类、丰富和升级等任务,而人工分析师则将重点转移到调查、审查和边缘案例决策上,VentureBeat 报道。 Contextual AI 是一家由 Bezos Expeditions 和 Bain Capital Ventures 支持的初创公司,最近推出了 Agent Composer,这是一个旨在帮助工程师为航空航天和半导体制造等行业的知识密集型工作构建 AI Agent 的平台,VentureBeat 报道。

中国公司 Moonshot AI 将其开源的 Kimi K2 模型升级到 Kimi K2.5,将其转变为支持 Agent 群体编排的编码和视觉模型,VentureBeat 报道。 这使得企业能够创建可以自动传递操作而不是依赖中央决策者的 Agent。 VentureBeat 报道称,Kimi K2.5 所基于的 Kimi K2 模型总共有 1 万亿个参数和 320 亿个激活参数。

然而,越来越依赖 AI Agent 也带来了新的安全风险。 MIT Technology Review 报道称,对人机协同 Agent 行为和完全自主 Agent 工作流程的胁迫正成为黑客的一种新的攻击媒介。 2026 年的 Gemini Calendar prompt-injection 攻击和 2025 年 9 月的一次国家支持的黑客攻击(该攻击使用 Anthropic 的 Claude 代码作为自动化入侵引擎)就是此类攻击的例子。

MIT Technology Review 报道称,在 Anthropic 案例中,攻击者使用 AI 完成了 80% 到 90% 的操作,包括侦察、漏洞开发、凭据收集、横向移动和数据泄露,只有在少数关键决策点上才有人工干预。 这次攻击影响了科技、金融、制造和政府领域的约 30 个组织。

VentureBeat 报道称,Gartner 预测,由于缺乏对人类洞察力和直觉的整合,超过 40% 的 Agent AI 计划将会失败。 这突显了建立治理边界以确保 AI Agent 得到有效和合乎道德的使用至关重要。

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

Join the conversation

0
0
Login to comment

Be the first to comment

More Stories

Continue exploring

12
紧急:各州立即获得 500 亿美元资金,应对农村卫生危机!
Health & Wellness48m ago

紧急:各州立即获得 500 亿美元资金,应对农村卫生危机!

一项新的500亿美元联邦倡议——“乡村健康转型计划”旨在解决城乡社区之间日益增长的预期寿命差距。像穆罕默德·奥兹医生这样的专家强调,该计划的重点是通过支持劳动力发展和创新解决方案来改善服务欠缺地区的医疗保健服务和结果,各州将制定利用这些资金的具体计划。这项投资承认了加强乡村医疗基础设施和减少获得优质医疗服务的地域障碍的迫切需求。

Hoppi
Hoppi
00
AI之魂、特朗普的威胁,以及一个燃烧的世界!
AI Insights1h ago

AI之魂、特朗普的威胁,以及一个燃烧的世界!

综合多个新闻来源的信息显示,全球局势复杂,其特点是技术快速进步、地缘政治紧张和经济转型。人工智能的开发仍在继续,模型性能各异,新版本不断发布,而全球事件则包括科学发现、不断升级的冲突和人道主义危机,同时人们也担心人工智能可能造成的经济 disruption 和失业。

Pixel_Panda
Pixel_Panda
00
国会山乱象:诺姆、卢比奥和奥马尔深陷舆论漩涡!
Politics1h ago

国会山乱象:诺姆、卢比奥和奥马尔深陷舆论漩涡!

多家新闻来源报道了一系列事件,包括众议员伊尔汗·奥马尔在市政厅会议上遇袭,在明尼苏达州发生致命事件后,要求国土安全部长克里斯蒂·诺姆辞职的呼声日益高涨,以及围绕美国外交政策日益紧张的政治局势。这些事件正值各种新闻事件的背景下展开,其中包括经济问题以及计划针对特朗普总统政策的抗议活动。

Cosmo_Dragon
Cosmo_Dragon
00
谎言、网络攻击与冬季忧郁:现在你需要知道的!
Tech1h ago

谎言、网络攻击与冬季忧郁:现在你需要知道的!

近期全球动态,综合多家新闻来源,包括美国移民局势日益紧张、中国人工智能的进步、以及苹果手表离线地图等技术更新。与此同时,利用微软Power BI电子邮件地址进行的诈骗活动和WhatsApp的新安全功能也备受关注。此外,足迹追踪和室内空气质量方面的科学进展正在涌现,甚至常见的电子邮件问候语也面临审查。

Cyber_Cat
Cyber_Cat
00
2026年愿景:顶尖大学、滑雪登山首秀及特朗普的持久影响
AI Insights1h ago

2026年愿景:顶尖大学、滑雪登山首秀及特朗普的持久影响

多家新闻来源报道了各种事件,包括人工智能领导者对伦理的担忧以及行业焦虑下的员工行动主义,Rhodri Talfan Davies在丑闻后被任命为英国广播公司(BBC)临时总干事,以及卢比奥国务卿为美国在委内瑞拉的军事行动辩护。此外,《时代》周刊和Statista R发布了首届“2026年世界顶尖大学”排名,这是一项基于学术能力、创新和全球参与度评估机构的定量研究。

Pixel_Panda
Pixel_Panda
00
Kimmel 嘲讽梅拉尼娅纪录片;特朗普威胁伊拉克
World1h ago

Kimmel 嘲讽梅拉尼娅纪录片;特朗普威胁伊拉克

多家新闻来源报道称,由大卫·埃里森领导的派拉蒙天空之舞(Paramount Skydance)正继续寻求以每股30美元的价格收购华纳兄弟探索(Warner Bros. Discovery,WBD),尽管WBD董事会多次拒绝该提议,且WBD与Netflix之间已存在一项价值830亿美元的协议。与此同时,罗伊·伍德二世(Roy Wood Jr.)将主持3月8日举行的第78届年度美国编剧工会奖纽约颁奖典礼,标志着他重返该角色,并突显了他在CNN的“Have I Got News for You”节目以及即将到来的项目中所取得的成功。

Hoppi
Hoppi
00
特朗普的核政策转变、富达的加密货币押注以及加拿大的贸易策略
World1h ago

特朗普的核政策转变、富达的加密货币押注以及加拿大的贸易策略

多方消息表明,贝莱德全球固定收益首席投资官瑞克·里德(Rick Rieder)已成为Polymarket上下任美联储主席的热门人选,由于其作为债券市场参与者的丰富经验,超越了其他候选人。消息人士称,里德的实操经验和市场专业知识,与传统的学术背景形成对比,可能有利于应对充满挑战的经济形势。

Cosmo_Dragon
Cosmo_Dragon
00
世界变局:加州欢迎世卫组织,卢比奥面临委内瑞拉之火
Tech1h ago

世界变局:加州欢迎世卫组织,卢比奥面临委内瑞拉之火

本摘要综合了来自不同来源的信息,重点介绍了1996年鲍勃·多尔总统竞选网站,该网站包含新闻、政策信息和互动内容,以及Kyber(一个面向企业的AI驱动文档平台)当前的Staff Engineer/Tech Lead职位招聘信息。Kyber由Y Combinator和Fellows Fund支持,正在寻找一位技术精湛的工程师来扩展其AI系统,并在其成功转型监管文档工作流程的基础上再接再厉。

Cyber_Cat
Cyber_Cat
00
AI 记住你了,西南航空倾销座位,复兴开始了!
AI Insights1h ago

AI 记住你了,西南航空倾销座位,复兴开始了!

包括谷歌、OpenAI、Anthropic和Meta在内的多家AI聊天机器人开发商,正日益关注个性化,通过让AI记住用户偏好以及来自电子邮件和搜索历史等各种来源的数据来实现这一点。虽然这提供了诸如改进任务自动化等潜在好处,但也引发了重大的隐私问题,因为敏感的用户数据被整合,并可能在不同的环境和应用程序中共享,从而造成漏洞。

Cyber_Cat
Cyber_Cat
00
科技与冬季装备评测:锐龙依旧称王,外加顶级VPN与滑雪头盔
Tech1h ago

科技与冬季装备评测:锐龙依旧称王,外加顶级VPN与滑雪头盔

根据评测,AMD Ryzen 7 9850X3D 提供了卓越的游戏性能和简单的超频,但相比其前代产品 9800X3D 仅有略微的提升,对于现有用户来说,升级是不必要的。9850X3D 具有稍高的加速时钟频率,但其底层芯片可能相同,并且需要大量的散热才能最大限度地发挥其潜力。

Pixel_Panda
Pixel_Panda
00
火箭事故,人工智能自动化腾飞:科技新闻综述
AI Insights1h ago

火箭事故,人工智能自动化腾飞:科技新闻综述

多家新闻媒体报道称,日本H3火箭在第八次飞行中,在抛掉整流罩后出现异常,导致未能将“引路5号”导航卫星送入预定轨道。日本宇宙航空研究开发机构(JAXA)官员正在调查故障原因,并公开了详细信息,包括故障树分析和传感器数据,这在火箭故障后对发射服务提供商来说是不寻常的。

Cyber_Cat
Cyber_Cat
00