一、开篇：AI 治理不是 ChatGPT 发明的

很多人以为 AI 治理是 GPT 出圈后才出现的话题——实际上 AI 治理比 AI 本身还要复杂。

它包括：

• AI 伦理（道德原则）；
• AI 政策（国家战略）；
• AI 法律（具体监管法）；
• AI 治理（多方协作机制）。

本文梳理这四个层面在 50 年的演变。

二、第一代：技术伦理时代（1970s – 2010s）

2.1 早期医学 AI 伦理

1970s 医学专家系统（如 MYCIN）出现后，医学伦理委员会开始讨论 AI 决策的责任归属：

• • 1973 美国医学伦理委员会：AI 诊断系统的责任主体是医生还是开发者？
  • 1984 美国食品药品监督管理局（FDA）：开始监管 AI 医疗器械。

2.2 计算机伦理

• • Wiener《人有人的用处》（1950）——计算机伦理的开山之作；
  • Moor《What Is Computer Ethics?》（1985）——计算机伦理作为独立学科；
  • IEEE / ACM 伦理规范（1990s）——最早的专业伦理规范。

2.3 阿西洛马会议与原则（2017）

2017 年 1 月，特斯拉老板 Elon Musk、DeepMind 创始人 Demis Hassabis 等 1000+ AI 研究者齐聚阿西洛马（Asilomar）召开 AI 大会，签署 23 条阿西洛马 AI 原则——分三大类：

1. 研究问题（5 条）：研究目标、研究资金、科学-政策联系、研究文化、避免竞争；

2. AI 价值观（13 条）：安全性、失败透明度、司法透明度、责任、价值对齐、人类价值观、个人隐私、自由与隐私、共享利益、繁荣、人类控制、AI 竞赛、AI 武器竞赛；

3. 长期问题（5 条）：能力警觉、重要性、风险、自迭代 AI 文化、共同利益。

意义：这是 AI 界第一次集体签署伦理原则——从纯技术走向伦理自觉。

三、第二代：国家战略时代（2017 – 2022）

3.1 各国 AI 战略

• • 2017 中国《新一代人工智能发展规划》——首部国家级 AI 战略；
  • 2018 欧盟《AI 战略》；
  • 2018 英国《AI 行业协议》；
  • 2019 美国《国家 AI 研究与发展战略计划》；
  • 2019 OECD AI 原则——首份政府间 AI 原则。

3.2 GDPR（2018）—— 数据治理的根本法

欧盟 2018 年生效的 GDPR（通用数据保护条例）虽然没有专门针对 AI，但对 AI 系统的数据使用产生根本约束：

• 知情同意原则；
• 数据最小化原则；
• 目的限制原则；
• 用户删除权；
• 自动决策限制（用户有权不接受纯算法决策）。

所有 AI 公司必须合规 GDPR——这是 AI 治理的第一个全球性硬约束。

3.3 算法问责

• 2018 法国政府报告：算法可解释性义务；
• 2019 美国 Algorithmic Accountability Act 提案——要求大公司审计算法；
• 2020 欧盟《人工智能白皮书》——提出风险分级监管。

四、第三代：国际法时代（2022 – 2024）

4.1 欧盟 AI Act（2021 提案，2024 通过）

欧盟 AI Act 是全球第一部综合性 AI 监管法，2024 年 3 月欧洲议会通过，2024 年 8 月生效，2026 年全面执行。

核心框架：

AI Act 与 GDPR 的区别：

• • GDPR：通用数据保护法；
  • AI Act：专门 AI 系统监管法；
  • 两者共同构成欧盟 AI 治理的”硬法+软法”组合。

4.2 中国生成式 AI 管理办法（2023）

2023 年 7 月中国《生成式人工智能服务管理暂行办法》——全球首部专门针对生成式 AI 的国家级法规：

• • 生成内容合规；
  • 训练数据合规；
  • 算法备案；
  • 用户实名制；
  • 输出标识。

4.3 美国 AI 行政命令

• • EO 14071（2023.8）—— 限制美国资本投资中国 AI/半导体；
  • EO 14110（2023.10）—— 拜登 AI 行政命令，要求 AI 系统发布前做安全测试、第三方评估、红队测试；
  • EO 14179（2025.1，特朗普）—— 撤销 EO 14110 一些条款，”释放 AI 创新”。

4.4 联合国 AI 治理（2023 – 至今）

2023 年 10 月，联合国秘书长古特雷斯成立AI 高级别咨询机构，发布《Governing AI for Humanity》报告，提出七项建议：

1. 设立国际 AI 科学小组；

2. 推动 AI 政策对话；

3. 建立全球 AI 基金；

4. 建立全球 AI 数据框架；

5. 建立 AI 治理标准；

7. 加强国际合作。

五、第四代：全球协作 + AI 安全（2024 – 至今）

5.1 AI Safety Summit

2023 年 11 月英国召开首届 AI Safety Summit（布莱切利园），28 个国家签署《布莱切利宣言》——首次多国共识承认前沿 AI 存在失控风险。

2024 年 5 月首尔 AI 安全峰会、2025 年巴黎 AI 峰会——形成年度 AI 安全峰会机制。

5.2 前沿模型安全测试

前沿模型论坛（Frontier Model Forum）——OpenAI、Anthropic、Google、Meta、Microsoft 等前沿模型厂商组成，承诺：

• • 第三方红队测试；
  • 评估模型危险能力；
  • 共享最佳实践。

5.3 中国 AI 治理研究院（2024）

• • 2024 中国人工智能发展与安全研究网络；
  • 2024 北京 AI 治理国际论坛；
  • 2025 全球 AI 治理学术联盟。

5.4 企业内治理

• Anthropic：Responsible Scaling Policy（RSP）；
• OpenAI：Preparedness Framework；
• Google DeepMind：Frontier Safety Framework；
• Meta：Llama Guard；
• Microsoft：AI Red Team。

六、治理的根本难题

6.1 三大难题

1. 国际协调难——美中欧三套体系，难以统一；

2. 技术发展快——法律滞后于技术；

3. 定义模糊——什么是”通用 AI”？”前沿模型”？标准不统一。

6.2 真实争议

1. 开源 vs 闭源——开源是促进创新还是增加风险？

2. AI 武器——致命性自主武器（LAWS）是否应该禁止？

3. AI 版权——AI 训练数据是否侵权？AI 生成内容是否享有版权？

4. AI 治理权力——谁应该参与治理？政府、企业、学界、公众？

七、未来 5 年：AI 治理路线图

7.1 三种情景

7.2 关键变量

• AGI 时间点——AGI 临近时，全球治理合作可能加速；
• AI 重大事故——公众舆论会推动治理；
• 地缘政治——美中对抗 vs 全球合作的张力。

八、结语：AI 治理不是 AI 的对立面

回到 1970 年代——AI 治理从医学伦理委员会起步。50 年后，AI 治理已经变成全球性议题：

• 阿西洛马原则（2017）——技术伦理自觉；
• 欧盟 AI Act（2024）——首部综合性 AI 监管法；
• 联合国 AI 咨询机构（2024）——全球治理框架；
• AI Safety Summit——年度全球协作。

AI 治理不是 AI 的对立面，而是 AI 可持续发展的前提。没有 AI 治理，AI 不会真正服务于人类——这是 50 年 AI 治理史的最深刻教训。