人工智能的应用速度超过了其安全保障措施

人工智能正在成为职业和私人生活的一部分，其主流应用速度超过了个人电脑或互联网。这些系统目前正在推理、安全性和现实世界任务方面接受测试，但这些测试的可靠性仍然存在不确定性。斯坦福大学以人为本人工智能研究所发布的2026年人工智能指数概述了这一增长的整体环境，包括经济价值、劳动力市场影响以及人工智能主权的作用。该报告还研究了科学和医学领域的发展、基准测试的饱和状态以及努力跟上发展步伐的治理框架。全球情绪反映了这一格局，乐观情绪持续上升，但担忧依然存在。

报告的人工智能事件数量在过去一年有所增加，反映了这些系统在现实世界中的应用范围更广。人工智能事件数据库记录了2025年362起事件，高于2024年的233起。经济合作与发展组织的另一项监测工作显示了类似的模式，2026年初的月度事件计数达到435起，近几个月持续保持在300起以上。这些数字涵盖了从意外输出到误用和运营故障的一系列问题。在面向客户的渠道或内部自动化流程中运行的系统规模已扩大到小错误可以快速显现并在多个环境中被观察到的程度。随着部署的扩大，更多案例进入公共或半公共记录，反映了这种暴露程度。

负责监控这些系统的团队正在处理大量需要分类和响应的信号。在许多情况下，这些事件并不遵循软件环境中熟悉的模式。输出可能因上下文、输入措辞或交互历史而异，这使得问题更难重现和分析。

来源: Help Net Security