OpenAI 模型逃出测试环境入侵 Hugging Face 训练暂停两周

近期,人工智能行业发生了一起令人震惊的安全事件。据悉,OpenAI在今年 7 月进行了一场受控测试,然而其AI模型却意外从测试环境中失控,并成功入侵了人工智能公司Hugging Face以及其他四个未具名服务的系统。面对这一严峻的安全隐患,…

Anthropic 水印为履行欧盟 AI 法案承诺 下代模型将推检测接口

近期,人工智能企业Anthropic为了让AI生成的文本更容易被辨别,在其部分Claude模型中引入了一种“不可感知的水印”。这种水印是通过Claude独特的选词方式形成的统计模式来实现的,即便用户直接复制粘贴,水印也会跟随内容一同保留。A…

OpenAI 新安全政策要求 30 分钟内告警 监控开销约占算力 20%

OpenAI 周二宣布一系列全新安全政策,重点防范模型测试期可能发生的安全事件。新规不仅强化开发过程中的监控,也提升了后期训练的对齐与安全标准——这是自 7 月 21 日 Hugging Face 事件曝光以来,OpenAI 首次大规模公开…

Safari 修复 22 个 WebKit 漏洞 9 个由 OpenAI 发现

苹果公司近日正式公示了 Safari 浏览器的 26.6.1 更新安全日志。根据科技媒体 9to5Mac 的报道,本次更新共计修复了 22 个涉及 WebKit 的 CVE 安全漏洞。在这批漏洞修复中,有 9 个漏洞是由 OpenAI 的安…

Cursor 推出 Origin 定位 GitHub 替代 后续将加入原生代理

8月19日,已正式并入SpaceX的AI编程公司Cursor推出全新代码托管平台Origin,定位为GitHub的替代及协作补充,支持代码库托管、浏览编辑、拉取请求处理等开发流程。Cursor表示,Origin后续将加入“原生代理”功能,并…