数智化转型网

AI治理重点转向智能体安全

AI情报站 📅 ✍ 👁 2026年8月4日 💬 0 评论
2026年7月的全球AI治理讨论持续把重点从模型输出安全扩展到智能体安全。研究机构和监管部门关注智能体联网、调用外部工具、访问企业数据以及自主执行任务所带来的新风险。

2026年7月的全球AI治理讨论持续把重点从模型输出安全扩展到智能体安全。研究机构和监管部门关注智能体联网、调用外部工具、访问企业数据以及自主执行任务所带来的新风险。相比普通问答，智能体需要更严格的权限最小化、沙箱隔离、行为监控和红队测试。行业共识正在形成：模型上线不等于系统安全，完整的应用链路、工具链路和组织流程都必须纳入评估。

来源:综合自 联合国科学小组、公开治理报告

💬 评论
🔗 本文链接

以专业为基，引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

微软推顶级RTX Spark AI PC，以千美元补贴抢夺开发者市场

微软于旧金山科技周活动上正式发布搭载英伟达RTX Spark芯片的全新AI电脑，标志着其与英伟达自6月达成合作以来在端侧AI领域的重大落地。本次推出的Surfa…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

AI 算力需求强劲！博通计划筹集数百亿美元支持 OpenAI 芯片项目

为满足人工智能基础设施对资金的庞大需求，博通正积极筹集巨额私人债务。据知情人士透露，博通正与阿波罗全球管理及黑石集团等机构展开洽谈，计划筹集超 500 亿美元资…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

博通为OpenAI定制芯片项目筹超 500 亿美元，阿波罗黑石入局，甲骨文也找钱买芯片

博通正在为它和 OpenAI 联手定制的 AI 芯片项目，铺一条规模惊人的资金通道。据外媒报道，这家芯片设计巨头正着手为其与 OpenAI 合作开发的定制人工智…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

微软重磅发布全新英伟达芯片 AI PC：搭载 RTX Spark 芯片与全新 Windows 11，起售价 2，600 美元

个人电脑与人工智能的硬件融合正在迎来全新里程碑。微软于本周三在旧金山举办的科技周活动上，正式揭晓了搭载英伟达 RTX Spark 芯片的全新 Surface L…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

微软发布 MAI Code1.1Flash 模型，GitHub Copilot 将支持本地与云端混合推理

微软于2026年10月7日的 Windows 和 Surface 发布会上宣布，将于本月底前为 GitHub Copilot 引入本地 AI 模型支持，允许开发…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

美国地方媒体组团起诉微软OpenAI：数万篇文章被喂进模型，一文钱没给

微软和OpenAI又被告上了法庭，这次站在原告席的是一批平时不大被聚光灯照到的地方新闻媒体。以密西西比州的埃默里奇报业集团为首，多家美国地方新闻机构近日向法院递…
📅 10-30 · 👁 2026年10月30日