2026年7月的全球AI治理讨论持续把重点从模型输出安全扩展到智能体安全。研究机构和监管部门关注智能体联网、调用外部工具、访问企业数据以及自主执行任务所带来的新风险。相比普通问答,智能体需要更严格的权限最小化、沙箱隔离、行为监控和红队测试。行业共识正在形成:模型上线不等于系统安全,完整的应用链路、工具链路和组织流程都必须纳入评估。
来源:综合自 联合国科学小组、公开治理报告
2026年7月的全球AI治理讨论持续把重点从模型输出安全扩展到智能体安全。研究机构和监管部门关注智能体联网、调用外部工具、访问企业数据以及自主执行任务所带来的新风险。相比普通问答,智能体需要更严格的权限最小化、沙箱隔离、行为监控和红队测试。行业共识正在形成:模型上线不等于系统安全,完整的应用链路、工具链路和组织流程都必须纳入评估。
来源:综合自 联合国科学小组、公开治理报告