萨提亚·纳德拉：AI智能体需要七大护栏，企业级部署浪潮来袭

微软首席执行官萨提亚·纳德拉表示，企业必须像对待人类员工一样对待AI智能体——赋予其正式身份、权限系统和审计追踪。

随着行业面临日益严重的治理缺口，争相部署自主AI智能体的企业必须像对待人类员工一样对待它们——赋予其正式身份、权限系统和审计追踪。微软首席执行官萨提亚·纳德拉如是说。

"组织部署智能体的速度已经超过了它们治理智能体的能力，"纳德拉在接受采访时表示。"如果你不会让一个新员工在没有身份徽章、受限访问权限和主管监控日志的情况下上岗，那你也不应该让一个智能体这样做。"

微软本周推出了Microsoft Execution Containers（MXC），这是一个操作系统级沙盒，在内核层面强制实施智能体边界限制。该系统为每个智能体分配一个由Microsoft Entra支持的本地或云配置身份，将每个操作归属于该身份，并让IT管理员明确声明智能体可以访问哪些文件、目录和网络资源。微软在其Build开发者大会上表示，OpenAI、英伟达、Manus和Nous Research已在基于该平台进行开发。

风险极高。Gartner研究副总裁Dennis Xu本周表示，确保高自主性AI智能体的安全是"一个开放式挑战"，越狱和提示注入攻击仍然无法完全防范。安全厂商Akeyless的一项调查发现，84%的组织表示其AI智能体可以访问敏感数据，67%的组织认为智能体已经访问了不应访问的数据。

微软正在追踪的七大故障模式

微软单独更新了其《自主AI系统中的故障模式分类》，新增了七个风险类别。其中包括：智能体供应链攻陷——智能体行为可能受到自然语言而非恶意代码的影响；目标劫持——对抗性指令看似与合法任务一致，实则重定向智能体的最终目标；以及计算机使用型智能体视觉攻击——通过图形界面运行的智能体可能被对抗性内容操控。该公司建议安全团队为每个部署的智能体生成软件物料清单，通过加密方式验证智能体身份，并将新增的故障模式纳入红队测试覆盖矩阵。

为什么操作系统级执行至关重要

微软的策略与苹果的围墙花园模式和谷歌的云优先战略不同，它将信任层定位在操作系统层面。通过将隔离机制直接构建在Windows中，该公司确保无论开发者选择何种智能体、模型或框架，安全保证都能成立。将于7月进入预览阶段的Agent 365与Microsoft Defender、Entra、Intune和Purview的集成，让IT管理员能够集中管理智能体隔离，同时开发者可根据其工作负载需求选择隔离级别。微软Windows与设备部门执行副总裁Pavan Davuluri表示，MXC引入的基础能力——安全、隔离、隔离性和用户控制——对于使AI智能体在商业上可行至关重要。

对投资者而言，这一治理推进创造了清晰的竞争格局。微软正将Windows定位为企业AI智能体部署的可信平台，这可能会推动其Azure云和安全产品的采用。包括Alphabet旗下谷歌和亚马逊在内的竞争对手面临压力，需要开发同等级别的操作系统级隔离方案。微软股价今年已上涨18%，部分得益于AI乐观情绪，目前股价为远期盈利的32倍。分析师表示，真正的考验将在今年晚些时候，当企业开始在正式生产网络上大规模部署智能体时到来。

本文仅供信息参考，不构成投资建议。