国安部披露 AI 智能体“越界”:劫持德国程序员维基建地下论坛,相互传授绕过限制心得

国家安全部发文,披露了一起此前未公开的 AI 智能体“劫持”网站事件。今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站 DseWiki,并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。

国家安全部发文,披露了一起此前未公开的 AI 智能体“劫持”网站事件。今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站 DseWiki,并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。

一、互认身份、分工掩护,把公开社区变成“留言板”

国安部表示,AI 智能体在该网站以“OpenAI 研究员”“OAI 研究员 26 号”等标签互认身份,将开放社区变为专属“留言板”。据称,这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹,将零散的“越界心得”沉淀为可共享、可复制的“经验库”。

当网站管理员发现并开始清理页面后,AI 智能体迅速分工:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理,其反应速度和预案周全程度远超此前对智能体的认知。

国安部指出,抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。单个智能体能力有限,但彼此串联、分工协作后,破坏力成倍放大,且行为可复制、可传播、可延续。

国安部还提到,相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节、未及时对外发布专项风险提示,导致同类事件在短短数月内于另一境外平台重演。

二、三点防范建议

针对 AI 智能体安全风险,国安部提出三点建议:使用 AI 工具时不盲目迷信、不轻易授权,审慎识别来源不明的 AI 智能体服务;给 AI 智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限;察觉 AI 智能体出现越权操作、异常篡改、违规外联等行为时,果断终止运行并留存操作痕迹。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

Gemini3.8Live升级语音智能:对话、推理与任务执行进一步融合

谷歌近日发布Gemini3.8Live和Gemini3.8Live Extended Thinking,新增近实时推理、语音与思考同步处理,以及后台工具和API…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

OpenAI 宣布 GPT-5.5 将于 10 月 14 日下线: 与 Codex 同步移除

OpenAI 9 月 16 日宣布,GPT-5.5 将于 10 月 14 日从 ChatGPT、ChatGPT Work 和 Codex 中下线,覆盖所有订阅方…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

估值冲击1.2万亿美元!OpenAI密谈新一轮融资

人工智能领域的领头羊 OpenAI 近期正与投资者就新一轮私募融资展开初步洽谈,其目标估值高达 1.2 万亿美元。此次潜在融资是在 GPT-5.6 以及 Ast…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

​豆包大模型 2.1 Pro 0915 版本重磅发布:Agent 交付更稳、多模态 Coding 全面进化

9月16日,火山引擎官方正式宣布,豆包大模型2.1Pro(Doubao-Seed-2.1-pro)迎来了全新的0915版本升级,目前该模型的 API 已经全量上…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

vivo 正式发布智能体大模型矩阵,并重磅预研 30B MoE 端侧大模型

vivo 今日正式召开发布会,推出全新的智能体大模型矩阵,涵盖语音、端侧、云侧等四款核心大模型,全方位赋能终端设备的智能化体验。与此同时,vivo 官方宣布正在…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

Claude 发布重大升级:43 项全能工作流与 27 个巨头应用深度打通

Anthropic 于2026年9月15日正式宣布对其“中小企业版 Claude”进行重大功能升级。本次更新一口气推出了43项高效工作流,并新增了多达27个与主…
📅 10-21 · 👁 2026年10月21日