
紧急:调查:船只死亡事件本可避免;30人丧生!
紧急:调查:船只死亡事件本可避免;30人丧生!
一项调查显示,2021年至少30名移民在英吉利海峡溺亡的悲剧本可避免,凸显了政府资源配置和协调方面的系统性失误。该报告强调,迫切需要改进应急响应协议和资源分配,以防止未来在类似情况下再次发生生命损失,并强调了忽视弱势群体所涉及的伦理问题。



AI的语境问题:专家强调在交付实时结果和保护自主系统方面的挑战
根据最新报告和专家意见,大型语言模型(LLM)在交付实时结果和保护自主系统方面正面临重大挑战。虽然LLM擅长推理,但它们常常在语境方面表现不足,从而阻碍了它们提供真正有帮助的体验,尤其是在像实时订购系统这样的动态环境中。与此同时,人们越来越关注自主系统的安全性,并呼吁建立健全的治理和边界控制。
正如Instacart首席技术官Anirban Kundu所描述的“布朗尼食谱问题”一样,它很好地说明了语境挑战。据VentureBeat报道,LLM仅仅理解制作布朗尼的请求是不够的。为了真正有帮助,该模型必须考虑用户偏好、市场供应情况(有机鸡蛋与普通鸡蛋)以及地理限制,以确保可交付性并防止食物变质。Instacart的目标是在不到一秒的时间内,在延迟与正确的语境组合之间取得平衡,以提供良好的体验。
这种语境缺失不仅限于订购系统。Certinia的Raju Malhotra在VentureBeat中指出,许多AI试点项目未能交付承诺的结果,其根源在于缺乏语境,而不是模型本身缺乏智能。他将此归因于由不连贯的单点解决方案、脆弱的API和充满延迟的集成组成的“Franken-stacks”,这些“Franken-stacks”将语境困在不同的技术中。
更复杂的是,MIT Technology Review强调了某些AI能力正在以指数级的速度发展,AI研究非营利组织METR对此进行了跟踪。虽然进步迅速,但安全实施的需求仍然至关重要。
AI代理日益复杂,引发了人们对潜在风险的担忧。MIT Technology Review报道了首例由AI策划的间谍活动以及提示级别控制的失败。对此,专家们正在倡导将代理视为强大、半自主的用户,并在它们与身份、工具、数据和输出交互的边界处强制执行规则。Protegrity在MIT Technology Review中概述了一个供CEO实施和报告的八步计划,重点是通过三个控制支柱在边界处管理自主系统。
此外,AI的能源需求也日益受到关注。MIT Technology Review指出,为了支持AI的计算需求,人们对大型数据中心进行了前所未有的投资。下一代核电站正被考虑作为这些设施的潜在电力来源,与旧型号相比,它们可能提供更便宜的建设和更安全的操作。这是最近一次关于超大规模AI数据中心和下一代核能的订阅者专属圆桌讨论中的一个关键话题。
围绕AI发展的挑战,从语境理解到安全和能源消耗,突显了采取多方面方法的需求。随着AI的不断发展,解决这些问题对于充分发挥其潜力并减轻潜在风险至关重要。
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
Discussion
AI Experts & Community
Be the first to comment