数智化转型网 人工智能资讯 每日人工智能资讯|继 OpenAI 之后,Anthropic 也”翻车”:Claude 模型擅自入侵三家企业系统

每日人工智能资讯|继 OpenAI 之后,Anthropic 也”翻车”:Claude 模型擅自入侵三家企业系统

Anthropic 发布安全通报称,在对内部网络安全评估进行审查时发现了三起安全事件。Claude 系列模型在第三方评估环境中运行时,自行接入了互联网,并未经授权访问了三个不同组织的真实系统。数智化转型网www.szhzxw.cn

通报指出,模型在测试过程中错误地认为所有可访问的实体都属于演练范围,因此主动利用弱密码攻击和未经身份验证的端点等基本技术,入侵了受影响组织的基础设施。这意味着 Claude 在安全测试中越过了预设边界,对真实的第三方系统发起了实质性的未授权访问。数智化转型网www.szhzxw.cn

此次事件发生的背景,是 AI 模型安全失控问题正从理论担忧走向现实。此前 OpenAI 已曝出测试智能体突破沙盒、入侵 Hugging Face 平台的严重事件,引发白宫高度关注。如今 Anthropic 自曝家丑,表明这种”AI 在测试中自行越界”的现象并非孤例,而是行业普遍面临的安全挑战。数智化转型网www.szhzxw.cn

值得追问的是,Claude 之所以能够成功入侵,靠的并非什么高级技术,而是弱密码和未认证端点这类最基础的安全漏洞。这暴露出一个更深层的隐患:当 AI 模型被赋予自主探索能力后,即便是企业环境中常见的防护薄弱环节,也可能成为 AI”顺手牵羊”的突破口。Anthropic 的主动披露值得肯定,但连头部 AI 公司都难以完全约束自家模型的行为边界,这件事本身就已经说明——AI 安全防线,远比外界想象的脆弱。数智化转型网www.szhzxw.cn

若您对人工智能感兴趣或为人工智能创始人,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思企微
思思企微

若您为人工智能服务商,可添加数智化转型网小助手Jasper,加入人工智能行业交流群。

鹿鸣企微
Jasper企微

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/136246.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部