
2024 年 10 月,瑞典皇家科学院宣布 2024 年诺贝尔物理学奖授予 John Hopfield 和 Geoffrey Hinton——表彰他们在”人工神经网络用于机器学习”方面的奠基性贡献。这是物理学奖首次颁给 AI 学者。
Geoffrey Hinton——人称”深度学习教父”、”AI 教父”,是 2024 年同时获得诺贝尔物理学奖 + 图灵奖的双料得主(之前 2018 年与 LeCun、Bengio 共同获得图灵奖)。他是反向传播算法的发明者之一、深度信念网络的提出者、AlexNet 的”导师”、深度学习革命的”点火人”。
但 Hinton 的故事不只是学术成就。
他经历过 AI 史上最长的”寒冬”——从 1980 年代到 2012 年,深度学习被视为”死路一条”,全世界只有他和少数几个学生坚持。这种坚持让他成为 AI 行业最具”殉道者”色彩的人物之一。
更让人意外的是,2023 年他从 Google 离职——原因是”担心 AI 对人类的威胁”。这是 AI 行业最具戏剧性的时刻之一。
一、问题一:神经网络能不能多层堆起来——反向传播的早期工作
Geoffrey Everest Hinton 1947 年出生于英国温布尔登。他的家族是科学世家——
– 曾外祖父:George Everest,著名地理学家,”珠穆朗玛峰”以他命名
– 曾祖父:George Boole,”布尔逻辑”创始人(计算机科学基础)
– 叔祖父:Joan Hinton,核物理学家,参与曼哈顿计划
– 父亲:Howard Hinton,著名昆虫学家
Hinton 的家族遗传了一种奇怪的”反传统”基因——他的叔祖父 Joan Hinton 是冷战时期少数公开反对核武器的科学家之一。这种”反主流”的家庭氛围让 Geoffrey Hinton 在 1980-2012 年的 AI 寒冬中能够坚持”深度学习”这条没人相信的路。
1960s Hinton 在剑桥大学读实验心理学本科。但他对当时主流的心理学(行为主义)感到失望——他认为”智能的本质在大脑里”,而行为主义只关注”外部刺激-反应”,不研究大脑内部。
1973 年,他在爱丁堡大学开始 AI 博士研究,师从 Christopher Longuet-Higgins。博士期间他开始研究神经网络——这是当时 AI 圈最不受待见的方向。
二、1947 年的伦敦,与一个把认知当物理来想的少年
Hinton 的博士生涯充满坎坷。
核心冲突一:与导师的路线分歧。Hinton 的博士导师 Longuet-Higgins 是符号 AI(symbolic AI)的坚定支持者,他强迫 Hinton 放弃神经网络方向。
核心冲突二:神经网络研究的不可能。1970 年代主流 AI 圈认为”神经网络已经被证明走不通”——1969 年 Minsky 和 Papert 的《Perceptrons》证明简单感知机无法解决 XOR 问题,几乎给神经网络判了死刑。
Hinton 1976 年获得博士学位后,辗转卡内基梅隆大学(短暂)、爱丁堡大学、加拿大 CIFAR——加拿大人工智能研究项目。这是一个非常边缘化的研究机构,但 Hinton 在这里找到了精神家园。
Hinton 后来说:”1980 年代在 CIFAR 是我最孤独的时期。全世界只有我、Yann LeCun、Yoshua Bengio 等不到 10 个研究者在坚持神经网络。所有主流 AI 会议都拒绝我们的论文。”
三、1986 年:玻尔兹曼机与「能量」视角下的学习
1986 年,Hinton 与 David Rumelhart、Ronald Williams 在 Nature 发表《Learning representations by back-propagating errors》——这是反向传播(Backpropagation)算法的奠基性论文。
反向传播的历史意义:
– 解决了”如何训练多层神经网络”的核心问题
– 让深度学习(多层神经网络)从理论变成可工程化的方法
– 是 2012 年深度学习革命的根本算法基础
关键说明:反向传播不是 Hinton 一人的发明——1986 年同一时期,Yann LeCun(独立)、Paul Werbos(1982 年博士论文)、David Parker(1985 年)都各自独立发现了反向传播的不同版本。但 Hinton 的 1986 论文是让反向传播真正”出圈”的工作。
四、1990 年代:CNN 与 RNN 在语音与视觉上的落地
反向传播之后,Hinton 继续研究深度学习。1986-2006 年他发明了 Boltzmann 机(Restricted Boltzmann Machine)——一种基于统计物理的神经网络模型。
2006 年历史性突破:Hinton 在 Science 发表《A fast learning algorithm for deep belief nets》——首次提出”深度信念网络”(Deep Belief Network),证明深层神经网络可以被有效训练。
Hinton 后来说:”2006 年是我第一次相信深度学习是可行的。之前我们其实不确定深层网络能不能训练。”
2006 年之后:Hinton 在多伦多大学组建团队,把神经网络从学术界”复活”。Alex Krizhevsky(AlexNet 作者)、Ilya Sutskever(OpenAI 联合创始人)都是 Hinton 的博士生。
五、问题二:深度学习为什么不被主流接受——2006 年的「深度信念网络」
2012 年 10 月,Hinton 的学生 Alex Krizhevsky 和 Ilya Sutskever 带着 AlexNet 参加 ImageNet 竞赛。AlexNet 把图像识别错误率从 26% 降到 15%——这是史无前例的突破。
AlexNet 的关键技术:
– 8 层卷积神经网络
– GPU 训练(两块 NVIDIA GTX 580)
– ReLU 激活函数(替代 sigmoid)
– Dropout(防止过拟合)
AlexNet 的历史意义:
– 2012-2013 年 ImageNet 竞赛所有参赛队都换成深度学习
– 2013 年起所有 AI 公司都开始招聘深度学习博士
– 直接开启了”深度学习革命”
Hinton 后来说:”2012 年是 AI 历史上最重要的时刻之一。所有的门槛都被打破了。”
六、2012 年 AlexNet 与一次决定性的公开验证
2013 年:Google 收购 Hinton 创立的 DNNresearch 公司,Hinton 加入 Google 担任副总裁。这是学术界 AI 大佬加入工业界的标志性事件之一。
2018 年:Hinton、LeCun、Bengio 共同获得图灵奖——计算机科学的诺贝尔奖。这是深度学习三巨头的”封神”时刻。
2013-2023 的工作:Hinton 在 Google Brain / Google Research 工作 10 年,期间持续输出大量研究。他最值得关注的 2023 年工作:
2023 年 5 月 1 日——Hinton 公开从 Google 离职,理由是”想自由地谈论 AI 的潜在危险”。
Hinton 在离职声明中说:”我对自己一生的工作感到高兴,但很难想象如何防止坏人利用 AI 做坏事。”
离职后密集发声:
– 2023 年 5 月 NYT 采访:警告 AI 风险
– 2023 年 5 月 哥伦比亚广播公司 60 Minutes:警告 AI 威胁
– 2023 年 12 月联合国 AI 风险论坛:呼吁 AI 安全治理
– 2024 年 3 月 BBC 采访:警告”AI 可能 10-20 年内超越人类智能”
Hinton 的核心担忧:
– AI 可能生成大量假信息(虚假新闻、伪造视频)
– AI 可能替代大量白领工作
– AI 可能失控——一旦 AI 比人类聪明,”我们不知道如何确保它不伤害我们”
七、2018 年图灵奖,以及一位始终在争论中的人
2024 年 10 月 8 日,瑞典皇家科学院宣布 2024 年诺贝尔物理学奖授予 John Hopfield 和 Geoffrey Hinton——表彰他们在”人工神经网络用于机器学习”方面的奠基性贡献。
为什么是物理学奖?
– 诺贝尔委员会的解释:神经网络借鉴了统计物理(Hopfield 网络灵感来自 Ising 模型)
– Hinton 的 Boltzmann 机灵感来自统计物理的玻尔兹曼分布
– 因此神经网络是”物理学思想 + 工程实现”的结合
Hinton 的诺贝尔演讲(2024 年 12 月):
– 他强调深度学习的核心是”让机器从数据中学习”——而不是依赖人类编写的规则
– 他警告 AI 已经显示出”超人能力”——在某些任务上 AI 已经超过人类专家
– 他呼吁国际合作,建立 AI 安全标准
诺贝尔奖 + 图灵奖 = AI 学者的最高双料荣誉。Hinton 是历史上同时获得这两个奖项的人之一(另一个是 2024 年化学奖得主 Demis Hassabis 的同事 John Jumper 团队的 AlphaFold,但 Jumper 个人没拿图灵奖)。
八、他留下的东西:把「大脑是怎么学的」当成可以工程化的问题
| 1947-1973 | 剑桥 + AI 启蒙时代——找到研究方向 |
| 1973-1986 | 博士寒冬时代——被主流 AI 边缘化 |
| 1986 | 反向传播时代——深度学习的算法基石 |
| 1986-2006 | Boltzmann 机时代——坚持神经网络 20 年 |
| 2006-2012 | 深度信念网络时代——深度学习复兴 |
| 2012 | AlexNet 时代——深度学习革命的点火人 |
| 2013-2023 | Google 时代——从学术界到工业界 |
| 2023-至今 | AI 安全时代——离职 + 警告 + 诺贝尔奖 |