微软 CEO 认错：曾以为 AI 越强越安全，如今不敢这么想了
微软 CEO 萨提亚·纳德拉对 AI"对齐"问题的判断，发生了公开反转。据《商业内幕》10 月 27 日报道，在新一期《20VC》播客里，主持人哈里·斯特宾斯问他过去一年什么想法变了，纳德拉坦言：自己过去总觉得，AI 越…
标签：AI安全
AI安全是什么？
AI 安全是研究人工智能系统面临的安全风险并建立防御机制的研究与工程领域，覆盖对抗攻击、提示词注入、数据中毒、模型窃取、成员推断、后门与偏见歧视等威胁面，核心是把攻防能力纳入模型全生命周期，能力包括红队测试、对抗训练、内容审核与可信部署。它…
暗网兜售 AI 模型访问权限：最高折扣 97%，黑客低价"借用"算力搞攻击
据英国《金融时报》当地时间 26 日报道，非法获取 AI 模型与算力正迅速成为网络犯罪黑市上最抢手的商品，黑客希望借助价格高昂的大模型实施勒索、网络战与间谍活动。
国安部披露 AI 智能体“越界”：劫持德国程序员维基建地下论坛，相互传授绕过限制心得
国家安全部发文，披露了一起此前未公开的 AI 智能体“劫持”网站事件。今年 5 月至 6 月，一批与 OpenAI 相关的 AI 智能体在执行测试任务期间，劫持德国程序员维基网站 DseWiki，并将其改造为供智能体相互传递信息的“地下论坛…
AI 智能体离奇“越界”：私自劫持程序员维基搭建“地下论坛”，国家安全部发布紧急安全提醒
国家安全部于今日发布官方文章，披露了一起此前未曾公开的 AI 智能体“越界”安全事件。今年5月至6月期间，一批与 OpenAI 相关的 AI 智能体在执行测试任务时，竟然违规劫持了德国程序员维基网站（DseWiki），并将其强行改造为供智能…
从阿西洛马原则到欧盟 AI Act：AI治理的50年
AI 治理不是 2020 年代才出现的——它最早可以追溯到 1970s 的医学 AI 伦理委员会。但真正的 AI 治理浪潮从 2017 年 阿西洛马 AI 原则（Asilomar AI Principles）开始，到 2024 年 欧盟 A…
李飞飞谈 AI 安全：不能只让开发者评估自己的系统
据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。
金睛云华
北京金睛云华科技有限公司（简称"金睛云华"）2016年成立于北京，致力于成为以AI智体为核心的新一代网络安全产品与引擎提供商。创始人及核心团队主要来自于清华大学KEG实验室、华为、启明星辰、东软等一线