人工智能预计将在未来一年继续发展，预计将出现更新和新型号、出版物和专利，同时全球范围内与人工智能相关的法律法规也将增加。斯坦福大学研究人员发布的《2025年人工智能指数报告》显示，2023年全球至少颁布了30项与人工智能相关的法律，2024年又颁布了40项。

过去两年，东亚和太平洋地区、欧洲以及美国各州在人工智能立法方面最为活跃。仅美国各州在2024年就通过了82项与人工智能相关的法案。然而，在低收入和中低收入国家，相关活动相对有限，与各州相比，美国联邦政府的行动较少。

专家表示，人工智能日益普及，因此必须关注安全性和透明度。在没有这些考虑因素的情况下开发和部署人工智能技术可能会导致意想不到的后果和伦理困境。随着人工智能系统变得越来越复杂，并融入到社会的各个方面，国际合作建立人工智能安全标准的必要性日益明显。

确保人工智能安全的关键挑战之一是某些人工智能模型（尤其是深度学习神经网络）的“黑盒”性质。这些模型可能难以解释，因此很难理解它们为什么做出某些决定。这种缺乏透明度可能会引发对偏见、公平性和问责制的担忧。

另一个挑战是人工智能可能被用于恶意目的，例如创建深度伪造、自动化网络攻击或开发自主武器。这些风险凸显了制定保障措施和法规以防止滥用人工智能技术的重要性。

围绕人工智能安全的持续讨论和辩论反映了人们对人工智能潜在风险和益处的日益关注。随着人工智能的不断发展，政策制定者、研究人员和行业领导者必须共同努力，以确保人工智能以负责任和合乎道德的方式开发和使用。2026年为世界提供了一个机会，可以团结一致，共同努力解决人工智能安全问题，并为人工智能技术的负责任开发和部署建立框架。