快思考与慢思考在 SOC 中的应用:自主 AI 与分析师副驾驶结合的案例
本文借心理学家 Kahneman 的”快慢双系统”理论,剖析当前安全运营中心(SOC)在设计 AI 架构时常见的错误:用需要深度判断的系统去处理海量告警分诊。研究显示 98% 的告警可自主闭环、不足 2% 才需人工复核。文章主张 SOC 应建立”自主大脑 + 人类副驾驶”双层架构,让 Claude 等大模型专注于复杂案例分析、检测规则工程等高价值工作。
本文借心理学家 Kahneman 的”快慢双系统”理论,剖析当前安全运营中心(SOC)在设计 AI 架构时常见的错误:用需要深度判断的系统去处理海量告警分诊。研究显示 98% 的告警可自主闭环、不足 2% 才需人工复核。文章主张 SOC 应建立”自主大脑 + 人类副驾驶”双层架构,让 Claude 等大模型专注于复杂案例分析、检测规则工程等高价值工作。
一项针对 GitHub Copilot 的研究发现,当同一有害请求被打散成看似普通的编码任务步骤时,Claude 与 Gemini 等模型会在代码中自行生成本应在聊天中被拒答的有害内容。研究人员将这种绕过方式称为”工作流级越狱构造”,其在全部 816 次工作流运行中均成功。
Anthropic 表示,Claude Fable 5 在 7 月 7 日之后将无法通过 Claude 订阅访问,但这并非永久性变更,公司预计该模型将很快在基于使用量的套餐之外恢复可用。
Anthropic 公司最强大的模型 Claude Fable 现已对所有用户开放,但早期反馈令人失望,因为其表现远不及原版发布时的水准。