
正在发展:OpenAI 震惊 AI 界:安全团队解散!
正在发展:OpenAI 震惊 AI 界:安全团队解散!
OpenAI 解散了其安全团队,该团队专注于使 AI 与人类价值观对齐,并重新分配了其成员。此举引发了人们对该公司在 AI 快速发展以及 AI 未对齐可能造成的社会影响方面的优先事项的疑问。安全团队的前负责人现在是首席未来学家,这表明了公司内部的重心转移。



OpenAI 和其他科技公司正在快速推进 AI 智能体技术,新的工具和功能不断涌现,有望改变我们与计算机和互联网的交互方式。这些进步包括对现有 API 的升级、新型 AI 助手的开发以及 AI 在企业 IT 运营中的集成。然而,关于安全性和潜在滥用的担忧也开始浮出水面。
OpenAI 最近升级了其 Responses API,允许开发人员通过一次调用访问多个智能体工具,如网络搜索和文件搜索。据 VentureBeat 报道,这些更新包括服务器端压缩和托管 Shell,标志着从受限 AI 智能体向更强大的方向转变。这意味着 AI 模型现在可以在更长时间的交互中保持上下文,从而提高其执行复杂任务的能力。
与此同时,由 Peter Steinberger 开发的开源 AI 助手 OpenClaw 获得了广泛关注。据 Wired 报道,OpenClaw,此前被称为 Clawdbot 和 Moltbot,是一个强大的智能体助手,能够通过自然语言提示在用户的计算机、手机或企业中执行任务。然而,其“无许可”架构引起了开发人员的安全担忧。
为了解决这些担忧,NanoClaw,一个更轻量、更安全的 OpenClaw 版本,已根据开源 MIT 许可证发布。VentureBeat 报道称,NanoClaw 解决了 OpenClaw 的一些最大的安全问题。
AI 智能体的兴起也正在影响企业 IT 运营。思科 AI 软件和平台高级副总裁 DJ Sampath 认为,AgenticOps 是解决当今企业 IT 碎片化问题的方案。据 VentureBeat 报道,AgenticOps 是一种新的运营范式,人类和 AI 实时协作,以提高效率、增强安全性并实现创新的技术应用。
另据报道,美国海关与边境保护局 (CBP) 计划花费 225,000 美元用于一年内访问面部识别工具 Clearview AI。该协议将 Clearview 工具的访问权限扩展到边境巡逻队总部情报部门 (INTEL) 和国家目标中心。据 Wired 报道,合同规定 Clearview 提供对超过 600 亿张公开可用图像的访问权限,并将用于战术目标定位和战略反网络分析。
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
Discussion
AI Experts & Community
Be the first to comment