Microsoft 最近在其官方文档中透露，尽管新一代 Windows 11 上的 AI 代理可能存在潜在风险，但它们仍被视为未来作系统不可或缺的一部分。这些AI代理旨在模拟人类作，包括点击界面、管理应用程序和文件，帮助用户完成多步任务。然而，Microsoft也警告用户，这些代理可能会出现“幻觉”，被恶意提示欺骗，甚至成为黑客攻击的新入口。
从2025年10月开始，Microsoft计划将所有Windows 11电脑都变成AI电脑，允许用户通过自然语言与系统互动。新的任务栏搜索框将使用“Ask Copilot”，允许用户一键召唤AI代理进行后台任务管理。尽管大多数功能目前是可选的，Microsoft 已经将“代理计算”定位为 Windows 的下一代核心架构。
为了应对AI代理的安全风险，Microsoft推出了“代理工作空间”，为AI代理提供了独立的运行环境。与传统虚拟机不同，代理工作空间将拥有独立的账户和权限，旨在将潜在损害限制在可控范围内。每个AI代理都将绑定到一个受限的用户账户，以确保其活动受到监控。
然而，AI代理仍然拥有“已知文件夹”的读写权限，这增加了用户对隐私和安全的担忧。Microsoft强调所有代理功能必须由用户激活，并提供了“模型上下文协议”来规范代理与应用之间的交互。该协议限制了代理对系统的直接访问，并集中管理认证、授权和日志记录。
尽管Microsoft在AI代理的安全设计上做出了大量努力，但用户的信任依然是一个重要问题。目前，Windows 11 因体验不佳和隐私问题而面临用户疑虑。Microsoft必须通过透明的可选功能和实际价值逐步重建信任。
