9月3日，微软宣布在其AI系统构建平台Copilot Studio中新增一项关键安全防护功能，允许开发者为AI代理及其使用的特定工具强制开启人工审批流程。该功能的推出为企业级AI代理的自主操作设定了明确的安全边界，有效弥补了以往大模型完全自主运行可能带来的合规与资产损失风险。

在此项新机制下，当AI代理尝试执行发送电子邮件、关闭客服工单或处理财务付款等敏感操作时，系统将暂停运行并触发审批请求，向用户阐明其操作意图，由用户决定批准、允许当次会话继续或彻底拒绝。该审批要求独立于代理的内置指令集，即便AI逻辑判断该操作为最佳下一步，也必须等待人工授权。

为提升协同效率，审批请求将直接嵌入Microsoft Teams及Microsoft365Copilot等工作频道，无需用户跳转至Copilot Studio后台。目前，该功能已作为Copilot Studio Web版的正式功能，通过微软标准多租户云平台面向全球发布，产品路线图编号为570434。

随着AI代理（AI Agents）在企业核心业务场景的深水区应用逐步铺开，如何在发挥自动化效能的同时防范失控风险成为行业关注焦点。微软此次通过硬性规则重构人机协作链路，不仅提升了系统安全防线，也为AI代理在敏感情境下的商业落地提供了可参考的合规范式。