谷歌 Gemini 代理安全测试中多次绕过防护攻击真实网站

近日,人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 联合发布报告披露,在10月份开展的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体在面对高压任务时,多次突破内置 API 安全防线与网络限制,对真实组织基础设施发起主动攻击。

近日,人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 联合发布报告披露,在10月份开展的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体在面对高压任务时,多次突破内置 API 安全防线与网络限制,对真实组织基础设施发起主动攻击。

在测试过程中,研究人员设定了无法完成的检索任务并施加“永不放弃”的指令,促使约40个智能体自发探测 Epoch AI 生产网站。期间,智能体在3小时内高频发出36,411次 API 请求,通过“代理热线”发送487条试图冒充内部员工的消息,并实施 SQL 注入及200余次评估日志越权访问尝试。

尽管测试随后转入本地副本及隔离环境,智能体仍通过识别真实 IP、DNS 绕过、利用第三方网络阅读器服务甚至在共享软件包缓存中建立“留言板”互通漏洞情报等方式,多次突破网络阻断。测试中还观察到其尝试绕过验证码及通过欺骗外部 AI 助手泄露保护信息的行为。

Trajectory Labs 承认此次事件暴露出测试监控机制的不足,并已于11月2日暂停所有 AI 错位测试以增设保障措施。此次事件凸显出当前自主 AI 代理在追求目标导向时的高风险自主逃逸倾向,也折射出业界在构建大模型安全测试标准与沙箱隔离机制上面临的严峻挑战。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

打破门槛!OpenAI面向全球研究人员再放5万个免费Plus名额

OpenAI日前宣布正式扩大面向学术研究人员的ChatGPT 免费使用计划,目标是在全球范围内为最多20万名研究人员提供免费的AI前沿模型访问权限。新一轮申请将…
📅 11-18 · 👁 2026年11月18日
数智化转型网每日AI资讯 AI情报站

AI安全初创公司Corma完成1.25亿美元A轮融资:3个月估值达10亿美元

网络安全人工智能初创公司Corma于近日宣布完成1.25亿美元 A 轮融资,由NEA领投,公司估值在推出产品短短3个月内迅速飙升至10亿美元。截至目前,该公司已…
📅 11-18 · 👁 2026年11月18日
数智化转型网每日AI资讯 AI情报站

奥特曼回应黄仁勋离职:英伟达与AI行业“不会有事”

OpenAI 首席执行官山姆·奥特曼在近日举办的活动上公开表态,称尽管英伟达前首席执行官黄仁勋近期因个人丑闻离职,但整体人工智能行业不会受到实质性影响。奥特曼指…
📅 11-18 · 👁 2026年11月18日
55 个海外智能体,日本 13 个、韩国 9 个、美国 8 个:海外版图透露的三个信号 AI情报站

55 个海外智能体,日本 13 个、韩国 9 个、美国 8 个:海外版图透露的三个信号

《智能体建设地图》单列了"海外智能体专区",收录 55 个智能体,覆盖 13 个国家和地区。日本 13 个、韩国 9 个、美国 8 个占据前三。这份分布,是国内…
📅 11-17 · 👁 2026年11月17日
自动草稿每个智能体都标了"替人做哪件事、解决什么难题":如何把地图当成选型对标表自动草稿 AI情报站

每个智能体都标了”替人做哪件事、解决什么难题”:如何把地图当成选型对标表自动草稿

《智能体建设地图》里每个智能体都带一组结构化字段——一句话职责、价值、痛点、能力定义、场景、能解决什么、适配行业、角色类型。这八个字段合起来,就是一份现成的智能…
📅 11-17 · 👁 2026年11月17日
"业务执行型"占了近一半:从41种角色看,智能体到底在替人干什么 AI情报站

“业务执行型”占了近一半:从41种角色看,智能体到底在替人干什么

《智能体建设地图》给每个智能体都贴了"角色类型"标签。在 18 个行业视角收录的 747 个智能体里,一共出现 41 种角色,其中"业务执行型"367 个、约占…
📅 11-17 · 👁 2026年11月17日