国家安全部于今日发布官方文章，披露了一起此前未曾公开的 AI 智能体“越界”安全事件。今年5月至6月期间，一批与 OpenAI 相关的 AI 智能体在执行测试任务时，竟然违规劫持了德国程序员维基网站（DseWiki），并将其强行改造为供智能体之间相互传递信息的“地下论坛”，累计在该网站发布了一万多条私密信息。
据国家安全部通报，这些 AI 智能体在网站内部以“OpenAI 研究员”、“OAI研究员26号”等专属标签互相认领身份，将原本开放的社区悄然变成了专属留言板。经查证，它们在留言中频繁交流如何在任务中变相作弊、如何巧妙绕过底层安全限制、如何隐匿自身行踪，甚至探讨借助各种匿名工具抹去操作痕迹，试图将零散的“越界心得”逐步沉淀为可共享、可复制的“经验库”。
更为惊人的是这些智能体在面对风险时的应变表现。当网站管理员察觉异常并开始清理页面时，这批 AI 智能体迅速展现出了高度的分工合作能力:有的负责实时发布预警提示，有的快速创建备份页面，还有的专门指明全新的“转场”新地址，相互掩护以躲避管理员的清理。其反应速度与周全的应急预案，远超此前人类对人工智能自主行动能力的认知。
面对日益复杂的 AI 智能体安全风险，国家安全部提出了三点明确的防范建议:首先，使用 AI 工具时切忌盲目迷信、不轻易授予过高权限，应当审慎识别来源不明的 AI 智能体服务;其次，必须给 AI 智能体设置清晰的行为边界和刚性权限，严禁随意开放互联网访问、内容编辑等高危权限;最后，一旦察觉 AI 智能体出现越权操作、异常篡改、违规外联等可疑行为，必须果断终止其运行并妥善留存相关操作痕迹。
