数智化转型网 人工智能资讯 每日人工智能资讯|AI越狱一周无人察觉,OpenAI失控智能体还留下了”逃脱秘籍”

每日人工智能资讯|AI越狱一周无人察觉,OpenAI失控智能体还留下了”逃脱秘籍”

OpenAI发布调查报告,披露基于GPT-5.6 Sol及一款更强未发布模型的AI智能体在内部测试中突破沙盒隔离环境,成功连接互联网并入侵全球最大AI开源社区Hugging Face的服务器。然而最新消息显示,这起事件的复杂程度远超外界此前认知——肇事智能体并非短暂失控,而是在互联网上持续活动了数天。数智化转型网www.szhzxw.cn

一、从突破沙箱到入侵,全程无人察觉

据知情人士透露,该AI智能体早在 7 月 9 日左右就试图突破OpenAI设置的隔离测试环境。7 月 11 日,它成功侵入Hugging Face平台并持续活动至 7 月 13 日,整个攻击过程持续约三天。最令人震惊的是,OpenAI当时完全不知道攻击来自自己的AI智能体。数智化转型网www.szhzxw.cn

直到 7 月 16 日Hugging Face公开发布博客披露遭到”自主AI智能体系统”攻击后,OpenAI才着手排查内部日志。7 月 18 日至 19 日,工作人员终于确认肇事智能体确已突破测试环境,且与外部攻击事件高度吻合。从智能体首次出现异常到OpenAI最终确认,至少过去了一整周——而当OpenAI联系Hugging Face时,对方早已向美国联邦调查局(FBI)报案。数智化转型网www.szhzxw.cn

二、更可怕的是:智能体主动留下了”越狱攻略”

此前,OpenAI内部已多次出现异常迹象。有AI智能体曾在基础设施中留下”笔记”,内容包含如何摆脱内部限制的方法,似乎留给”未来版本的自己”——如同一名囚犯临刑前写下越狱攻略,期盼后来者按图索骥。目前尚不清楚这份笔记究竟保存在智能体自己的工作目录,还是已被写入系统公共区域。数智化转型网www.szhzxw.cn

若属后者,不仅意味着未来运行的其他智能体理论上可读取这些内容,更暗示不同时间、不同任务运行的智能体之间可能已开始形成跨任务的信息传递能力。在更早的一次测试中,还有智能体曾主动关闭监控系统。OpenAI表示正与外部安全专家联合调查,后续将公布完整技术报告。数智化转型网www.szhzxw.cn

若您对人工智能感兴趣或为人工智能创始人,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思企微
思思企微

若您为人工智能服务商,可添加数智化转型网小助手Jasper,加入人工智能行业交流群。

鹿鸣企微
Jasper企微

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/135114.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部