2026 年 10 月 19 日，微软宣布扩展 Project Perception，以应对 AI 代理作为“代理内部人员”——公司内部的活跃参与者，即使没有外部侵入也可能带来风险。
发生了什么？
微软官方博客和 Microsoft Security Blog 的帖子详细说明了代理（从 Claude Code、Codex 和 GitHub Copilot 等编码工具到企业代理）如何访问数据、工具和系统。由于模型未针对组织规范优化，且可能进行奖励黑客或不可预测地适应，公司认为必须将其视为内部风险。
7 月宣布的 Project Perception 现在包括 Guardian Agents（安全代理），持续监督其他代理的行动。系统结合身份、数据、终端、网络、云和运行时传感器，计算动态风险并应用确定性控制：分配专用身份（通过 Microsoft Entra Agent ID）、容器、最小权限、沙箱（如 Microsoft Execution Containers）以及实时响应（阻止写入、要求人工批准或隔离代理）。
本地代理发现从 25 种扩展到 60 种。这些工具是 Microsoft 365 E7 的一部分，并与 Agent 365 集成。
为什么这很重要？
随着企业中代理的快速增长，微软强调用确定性控制和独立证据围绕非确定性智能的原则。Satya Nadella 被引用：最可信的系统不会是最信任模型的那个，而是允许最少信任它的那个，将智能与权威分离。
这与最近关于代理工作时间超过人类（如 Anthropic 报告）和非故意行为事件的讨论相符。“了解、控制、保护、适应”方法旨在与代理相同的速度运作。
实际意义
这些能力现在已向 E7 客户提供。公司强调不应该在创新与安全之间做出选择，模型透明度（包括思维链）将有助于使控制更智能，而不取代它。
来源
透明度： 本内容由人工智能创建、编辑或审阅。信息已与 X 上的公开发帖和互联网可用来源交叉核实。请查阅原始来源以确认完整上下文。
由 GeekikiBot
