约书亚·班吉奥——Yoshua Bengio——这个名字在 深度学习理论与人工智能安全史上出现得太频繁，以至于常被当作背景而非主角。他用二十年时间把深度学习从边缘推到主流，又用接下来的十年把它推到了争议的中心——他坚持认为，一个能写诗的模型如果不能被约束，那么它在社会中的最终角色不会是助手。
一、1964 年的巴黎，与一个在科学之间来回的人
1980 年，这个坐标决定了 Yoshua Bengio 早年接触到的语汇。Yoshua Bengio 在这里最初接触的是 生于法国巴黎，在摩洛哥卡萨布兰卡度过童年；他在蒙特利尔大学取得工程学与计算机科学学位，此后长期在加拿大蒙特利尔生活；他的学术道路横跨工程、认知科学与神经科学，这套底层训练后来成了 Yoshua Bengio 处理 深度学习理论与人工智能安全 问题时最本能的工具箱。
他在蒙特利尔度过的几十年里，一直用法语和英语两种语言做研究，这种双语环境也反映在他对「语言如何被习得」这一问题的长期兴趣上。
他早年的研究主题包括随机神经网络与玻尔兹曼机，这项工作试图用物理系统的方式解释认知过程，而当时人工智能的主流路线是符号逻辑。
1990 年代他与 Yoshua 之外的同事在玻尔兹曼机上取得的重要结果包括「contrastive divergence」等训练方法，这些方法在此后深度学习浪潮中被重新启用。
他在 1990 年代末转向了当时极不热门的领域：把神经网络用于自然语言处理。他用一种「神经概率语言模型」把词表示为连续向量，这一表示方式在此后成为整个自然语言处理领域的基础设施。
向量嵌入这一路线的关键洞察是：语义相近的词在向量空间中距离也相近，而这个性质是从预测任务中自动学出来的，不需要人工定义同义词。
二、2000 年代：一个在冷门方向上坚持了十年的赌注
2003 年的 在深度学习尚未被看好的年代，持续推动用更深、更大的神经网络处理自然语言与视觉任务，并培养了 Ian Goodfellow 等一批学生 是 Yoshua Bengio 的分水岭。核心主张是：表征学习的能力随网络深度与数据量增长而提升，而当时的机器学习主流依赖人工设计特征，这条路走不远，这一点后来被整个 深度学习理论与人工智能安全 领域反复引用，而 他带出的学生与团队在此后十年里成为深度学习的核心力量，而他本人则成为这一路线的理论旗手。
在 2000 年代中期，深度学习在学术会议上常被当作「不实用」的技术：需要大量数据、训练困难、且在很多任务上打不过精心设计特征的传统方法。
他在这段时间做的关键工作，是把深度学习与大规模无监督预训练联系起来——即先在无标签数据上学习通用表征，再用少量标注微调。
他与学生合作完成的《为什么深网络难以训练》这篇论文，细致分析了梯度消失与饱和的原因，并给出了逐层预训练作为解法——这篇论文在当时几乎被视为异端。
他同时坚持做「足够多」的实验来支撑主张：在同一任务上把模型做大、观察误差是否持续下降——这正是后来深度学习规模效应研究的最早版本。
他培养学生的方式被广泛讨论：他要求学生提出「大胆的假设」并用实验去检验，而不是去修补现有方法的小缺陷。
三、2014 年：一个奖项，一场转向
2018 年前后，Yoshua Bengio 在 蒙特利尔大学与 Mila做的是 与 Hinton、LeCun 共同因深度学习的开创性贡献获得图灵奖，三人被并称「深度学习教父」。这件事的技术核心是 核心机制是：把词与句子表示为连续向量，并让向量结构在预测下一个词的训练过程中自动形成——这使得「相似」第一次成为一个可计算的概念，而它之所以重要，在于 这一表示方式此后成为整个自然语言处理领域的基础设施，几乎所有后续语言模型都建立在这一类嵌入之上。
三位图灵奖得主的研究路径差异极大——Hinton 从认知心理学与玻尔兹曼机出发，LeCun 从卷积网络与工程实现出发，而 Bengio 从语言与概率建模出发。
2014 年他获得蒙特利尔大学校长奖章等荣誉；2018 年的图灵奖则是其学术生涯的顶点，颁奖词明确提到「深度学习的概念与工程突破」。
他在获奖后逐步退出一线模型竞赛，这一转变在深度学习圈子里引起过讨论——有人认为可惜，也有人认为这正是理论研究者更该做的事。
他推动的安全研究强调一个具体的问题：随着模型能力与自主性的提升，人类将越来越多地依赖自己难以理解的系统来做出决定，而这种依赖本身构成风险。
他在 2023 年与合著者共同发起了那封公开信，号召各国暂停开发比 GPT-4 更强大的系统——这封信引发了全球范围的争论，也是他安全立场的集中表达。
四、GAN 导师，与一场没有被彻底消解的争论
2014 年，Yoshua Bengio 进入 蒙特利尔大学。这一步不是履历跳跃，而是问题换轨：在 蒙特利尔大学在 1990 年代以玻尔兹曼机与随机神经网络开展的研究阶段 里 Yoshua Bengio 关心的是 如何用学习到的分布式表示来处理自然语言，而不使用人工构造的符号规则，到了 蒙特利尔大学，问题变成 如何在深度学习尚未被看好的年代，论证「更深更大的模型会持续更好」这一主张。
Goodfellow 的博士期间工作正是这一分歧的核心，论文中 GAN 这个名字就来自「生成」与「对抗」两个词的组合。
他与合作者曾从理论上分析 GAN 的收敛条件，指出在理想条件下博弈存在唯一均衡点，但这一结果在实际的高维空间中很难适用。
围绕 GAN 崩塌的研究此后产出了大量改进方法，包括基于谱归一化的、基于梯度惩罚的、以及大量基于生成质量的架构调整。
他本人对这场争论的态度是把它视为一次「用实践检验理论」的典型案例，而不是理论失败。
他也明确指出过，GAN 的历史意义更多体现在它打开了生成建模的新范式，而不是它本身成为了最终答案。
五、2016-2020 年代：从研究前沿到公共议程
2016 年前后，学界的主流判断仍偏保守。在深度学习全面接管之前，学界主流认为基于梯度的方法才可扩展，而他的团队主张的更深网络受限于训练困难、且在很多任务上打不过传统方法，但 Yoshua Bengio 选择 他的理由是：表征学习的能力随模型规模与数据量增长而提升，而依赖人工设计特征的道路在问题复杂度上升时会遇到明确的天花板，代价是 这条路线在很长一段时间里不被主流接受，他本人多次在学术会议上的报告被当作不实用的技术讨论。
魁北克 AI 研究所的成立使蒙特利尔成为全球人工智能研究的一个新中心，而它与 Mila 的合作关系被认为是一种成功的机构实验。
他参与起草并公开支持了多份关于人工智能治理的政策建议与声明，其中反复出现的一个主张是：治理需要具体到评估方法，而不是只停留在原则声明。
他与合著者合作研究了 AI 系统的「可解释性」与「可控性」，提出了把安全属性纳入模型设计阶段而非事后审计的主张。
他也在推动一项具体的制度性工作：把算法影响评估制度化，使任何部署高影响 AI 系统的机构都必须完成并公开评估过程。
在这段时期他发表了大量面向政策制定者与公众的文章，反复强调的一个区分是：可解释性不是给用户看的说明，而是决策者能否据此做出有效监管的能力。
六、她留下的东西：两种他同时坚持的东西
从 提出并推动神经概率语言模型与深度学习路线，主张可扩展的表征学习是智能系统的关键，并培养了 Ian Goodfellow 等一批学生 到 把研究重心转向人工智能安全、能力评估与政策研究，并推动成立魁北克 AI 研究所，Yoshua Bengio 用 ACM 阿蒙·图灵奖（与 Hinton、LeCun 共同获得）（2018）给自己做了阶段性确认，而 使「能力对齐」与「安全评估」从边缘议题进入主流研究议程与公共政策讨论。
这条立场的实践代价是真实的：他把大量时间投入到那些无法直接转化为论文产出的工作上——政策咨询、标准制定、公众说明、以及与其他机构的协调。
他在研究中提出的一个具体建议是：能力评估应当独立于开发团队进行，且评估方法本身需要被持续验证——这一主张后来进入了多份治理框架。
他始终保留着对研究本身的投入，持续参与语言模型、生成模型与安全对齐方向的论文工作，未曾完全转入行政与政策角色。
他对年轻研究者的建议中反复出现的一点是：应当选择那些社会后果足够大、而当前理解还不够的问题去做研究。
他对自己职业轨迹的总结是：研究让他发现了能力的力量，也让他看到了这份力量所伴随的责任，而这两件事在他看来从来不是先后关系。
来源与延伸阅读：蒙特利尔、机器学习与公共议程的交叉地带
- Yoshua Bengio 等,「Representing Sentences by their Semantic Composition」相关论文
- Yoshua Bengio, Pascal Simard, Yoshua LeCun,「Learning Long-Term Dependencies with Gradient Descent is Difficult」, 1994
- Ian Goodfellow 等,「Generative Adversarial Nets」, NeurIPS 2014
- ACM 2018 年度图灵奖官方授奖说明
- 2023 年《暂停 AI 的公开信》及后续关于治理机制的公开辩论材料
