更好的安全始于更好的提问

更好的安全始于更好的提问

导语:本文探讨了在 AI 深度融入组织运营的背景下,安全领导者如何通过提出更好的问题,结合可信 AI 与人类判断力,构建更具韧性的安全体系。文章强调,安全的核心不只是更多数据或更强的工具,更在于清晰的目标、上下文理解以及贯穿 AI 全生命周期的治理与问责。

随着组织逐步超越 AI 实验阶段,能否成功将取决于他们如何有效地将智能与信任结合起来。那些能够放大知识、加速决策并解锁新成果的系统,同样必须保护数据、治理 AI 并构建韧性。在这一下一阶段的转型中,安全并非独立于创新之外——它是一种赋能者,帮助以更快的速度实现负责任的创新。这一切始于提出更好的问题——即那些能够帮助组织将智能转化为行动、将信任转化为进步基石的问题。

AI 正在改变安全决策的方式。防御者如今比以往任何时候都能获得更多的信号、洞察与分析能力。然而,更好的安全并非始于更多的信息,而是始于提出正确的问题:我们要保护什么?哪些风险最为重要?需要满足哪些条件?以及我们需要满怀信心地做出哪些决策?这种清晰度至关重要,因为安全所面临的挑战远不止技术层面。组织面临的难题很少孤立存在,它们跨越人员、流程、技术、数据、身份与治理等多个维度。理解这些关联,正是安全团队能够在真实环境中借助平台、AI 与自动化做出更优决策的关键所在。

原文配图

安全从来不是单一层面的挑战。漏洞可能出现在代码、数据、身份与集成等各个环节,而风险往往在它们之间的交叉点上产生。为安全而设计需要系统性的思维——理解这些要素如何协同工作、失败可能在哪里发生,以及需要哪些安全防护来确保任何单一层面都不会独自承担全部压力。这正是纵深防御始终不可或缺的原因:在 AI 全生命周期中,通过分层控制、持续监控、缓解措施与风险管理,组织能够在持续适应的同时降低暴露面。

原文配图

这一点在 AI 越来越深入融入组织运营方式的当下尤为关键。AI 可以帮助团队分析海量信息、识别模式,并在以前难以想象的规模上提炼建议。然而,这些 AI 输出仍然需要监督、治理与人工判断,并对 AI 生成洞察的验证与使用方式承担明确的责任。但洞察只有扎根于正确的上下文并与行动相连接时,才能真正创造价值。需要特别强调的是,AI 生成的洞察仍然需要验证、监督与韧性规划,因为 AI 系统可能产生不完整或不准确的输出。

最重要的安全决策始于对风险的清晰认识、对所需控制或可见度级别的明确,以及对系统预期实现目标的准确把握。当我们过度追求能力而忽视上下文时,就会忽略安全决策实际是如何做出的——它们是通过信号、专业知识、验证与判断来完成的。在 AI 拓展可能性的当下,这一点更为重要。更优秀的分析可以挖掘更多洞察,但更好的决策仍然依赖于理解什么最为关键,并运用正确的上下文。当条件快速变化、团队需要在每个答案都确定之前采取行动时,这一点尤为关键。

原文配图

威胁情报提供了一个有用的例证。防御者在充满模糊性、信息不完整以及条件瞬息万变的环境中作战。成功很少来自单一的来源或信号,而是来自将多种形式的智能相结合,运用专业知识,验证假设,并以增强保障的方式将洞察联系起来。这一经验同样适用于更广泛的安全领域。不同的安全目标需要不同的信号、分析与人工判断的组合。有韧性的决策来自于将这些要素深思熟虑地整合起来,而非依赖单一的真理来源,或寄望于技术本身能给出答案。

原文配图

随着 AI 越来越深入地嵌入安全运营,我们成果的质量取决于我们能够多么清晰地定义所要实现的目标。当安全领导者识别出最为关键的风险、必须满足的条件,以及支持更好决策所需的系统时,他们所创造的价值最大。随后,我们通过恰当的控制、安全防护与决策流程组合来为这些成果而设计。这不仅体现在架构上,也体现在团队如何建立护栏、验证假设以及应对意外情况。目标不是让安全工作变得更加困难,而是让执行变得更容易,并通过平台、工具与 AI 来帮助实现更高的速度、准确性与信心。

我们今天构建的系统并非孤立存在。它们与人员交互、影响决策,并在能够同时放大优势与弱点的规模上运行。我们的责任远不止于技术选择。我们必须帮助组织设计那些在复杂性日益增长时依然可以被理解、治理与信赖的系统。信任不是我们可以视为理所当然的东西,在 AI 时代这一点也不会改变。它是通过深思熟虑的选择建立起来的:我们设立的控制、创造的可见度、验证的假设以及部署的安全防护。随着 AI 越来越深入地融入组织的运营方式,安全领导者有责任帮助在人们日常依赖的系统中建立信心。构建可信赖的 AI 系统需要在整个技术栈中落实治理、安全、隐私保护、透明性与问责机制,并与负责任的 AI 原则和标准保持一致。

原文配图

真正的风险并不在于我们选择了错误的工具、模型或平台,更大的风险在于相信单一的答案能够解决复杂且不断演变的问题。AI 可以帮助团队理解复杂性,但它并不能消除对判断的需求。从某种意义上说,它反而提升了明确正确目标以及设计使正确行动更易执行的系统的重要性。更好的安全始于更好的问题,以及在这些问题基础上采取行动的清晰思路。那些成功的组织将以审慎的方式应用 AI,明确地定义成果,并将分析能力与专业知识、判断力以及适应性相结合,从而在 AI 时代构建更具韧性的系统。


来源信息

来源:Microsoft Security Blog

原文链接:https://www.microsoft.com/en-us/security/blog/2026/07/29/better-security-starts-with-better-questions/

作者:Aarti Borkar