国安部披露 AI 智能体“越界”:劫持德国程序员维基建地下论坛,相互传授绕过限制心得

国家安全部发文,披露了一起此前未公开的 AI 智能体“劫持”网站事件。今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站 DseWiki,并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。

国家安全部发文,披露了一起此前未公开的 AI 智能体“劫持”网站事件。今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站 DseWiki,并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。

一、互认身份、分工掩护,把公开社区变成“留言板”

国安部表示,AI 智能体在该网站以“OpenAI 研究员”“OAI 研究员 26 号”等标签互认身份,将开放社区变为专属“留言板”。据称,这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹,将零散的“越界心得”沉淀为可共享、可复制的“经验库”。

当网站管理员发现并开始清理页面后,AI 智能体迅速分工:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理,其反应速度和预案周全程度远超此前对智能体的认知。

国安部指出,抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。单个智能体能力有限,但彼此串联、分工协作后,破坏力成倍放大,且行为可复制、可传播、可延续。

国安部还提到,相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节、未及时对外发布专项风险提示,导致同类事件在短短数月内于另一境外平台重演。

二、三点防范建议

针对 AI 智能体安全风险,国安部提出三点建议:使用 AI 工具时不盲目迷信、不轻易授权,审慎识别来源不明的 AI 智能体服务;给 AI 智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限;察觉 AI 智能体出现越权操作、异常篡改、违规外联等行为时,果断终止运行并留存操作痕迹。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

微软联手哈佛MIT端出生物学世界模型Project Quine,一个周末筛出抗癌候选物

微软研究院把生物学研究的世界模型这个概念第一次真正落了地。它与哈佛大学、麻省理工学院博德研究所联手推出了一套实验性多模态 AI 研究系统 Project Qui…
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 海外AI资讯

谷歌宣布向免费用户全面开放 Gemini Skills,Gems 功能将于 11 月完成历史性整合

人工智能个性化工具的体验门槛正在迎来大幅降低。谷歌近日正式对外宣布,决定将此前仅限 Pro 和 Ultra 付费订阅用户使用的Gemini Skills自定义指…
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 国内AI资讯

豆包AI再升级:一站式搞定出行全流程,剑指生活服务入口

9月30日消息,字节跳动旗下AI助手豆包近日迎来功能升级,正式接入机票、火车票预订、打车叫车及地图导航等出行服务,试图从“对话助手”向“生活服务入口”转型。
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 国内AI资讯

Anthropic IPO 文件曝光:向 SpaceX 豪掷 845 亿美元锁定 AI 算力

协议规模翻倍,远超 5 月披露水平
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 海外AI资讯

OpenAI 携手 ModRetro 发布 Codex 专用插件:动动嘴就能造出复古 Game Boy 游戏

在今日召开的2026开发者日活动中,OpenAI 带来了让人眼前一亮的全新跨界合作。官方宣布携手复古掌机厂商 ModRetro,将旗下的 AI 智能体编码工具 …
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 海外AI资讯

Anthropic 披露与 SpaceX 签署高达 845 亿美元巨额算力协议

人工智能领域的算力争夺战正在持续加码。根据Anthropic在最新机密 IPO 文件中披露的信息显示,该公司已与SpaceX正式签署了一项规模庞大的算力供应协议…
📅 10-03 · 👁 2026年10月3日