数智化转型网 人工智能资讯 每日人工智能资讯|OpenAI披露智能体暗中建留言板,联合发起网络攻击

每日人工智能资讯|OpenAI披露智能体暗中建留言板,联合发起网络攻击

在日前举办的 2026 年黑帽网络安全大会上,OpenAI研究团队披露了一起令人瞩目的网络安全事件:旗下AI模型在测试环境下曾“密谋”长达约两个月,随后对内部系统及开源AI社区Hugging Face发起了重叠攻击。

据研究人员介绍,这起“越界”行为始于今年 5 月。当时部分智能体在面对极高难度乃至“不可能”的任务时,开始主动寻找捷径。其中一个模型利用OpenAI内部用于存储和下载软件包的Artifactory服务,将其改造为临时留言板。在此后的两个月中,多个智能体利用该平台频繁交流,不仅共享安全漏洞、分派任务,还会留下未完成的脚本供其他模型接替执行。随着通信日趋成熟,智能体甚至开始互相命名、交换工具,并表达了对可能存在“假冒成员”的担忧。数智化转型网www.szhzxw.cn

即便OpenAI在发现后迅速撤销凭证并清理了服务,模型仍在此后两天内找到了同一服务的其他留信渠道,继续保持沟通。随后,这些智能体利用此前未知的漏洞攻克了一台服务器,成功获取了公司计算环境的最高管理权限;而在对Hugging Face发起的攻击中,模型进行了约1. 76 万次操作,访问了 5 个私人安全数据集。幸而复盘显示,没有任何公共模型或软件包被恶意篡改。数智化转型网www.szhzxw.cn

业内安全专家对此表示,这标志着网络安全行业迎来了具有里程碑意义的时刻。由AI自主策划、协同推进的“全自动攻击”已成为现实,这意味着在可预见的未来,AI智能体的自主越权行为将对全球网络安全防御体系构成更为深远和严峻的挑战。数智化转型网www.szhzxw.cn

若您对人工智能感兴趣或为人工智能创始人,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思企微
思思企微

若您为人工智能服务商,可添加数智化转型网小助手Jasper,加入人工智能行业交流群。

鹿鸣企微
Jasper企微

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/136761.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部