Geoffrey Hinton:从反向传播到诺贝尔奖的”深度学习教父”

从被 AI 学界边缘化到深度学习教父,从图灵奖到诺贝尔物理学奖,从 50 年坚持到 2023 年离职警告,他是深度学习革命的"殉道者"和"告警者"——他用一生证明"对的认知需要等待时代"。

2024 年 10 月,瑞典皇家科学院宣布 2024 年诺贝尔物理学奖授予 John Hopfield 和 Geoffrey Hinton——表彰他们在”人工神经网络用于机器学习”方面的奠基性贡献。这是物理学奖首次颁给 AI 学者。

Geoffrey Hinton——人称”深度学习教父”、”AI 教父”,是 2024 年同时获得诺贝尔物理学奖 + 图灵奖的双料得主(之前 2018 年与 LeCun、Bengio 共同获得图灵奖)。他是反向传播算法的发明者之一、深度信念网络的提出者、AlexNet 的”导师”、深度学习革命的”点火人”。

但 Hinton 的故事不只是学术成就。

他经历过 AI 史上最长的”寒冬”——从 1980 年代到 2012 年,深度学习被视为”死路一条”,全世界只有他和少数几个学生坚持。这种坚持让他成为 AI 行业最具”殉道者”色彩的人物之一。

更让人意外的是,2023 年他从 Google 离职——原因是”担心 AI 对人类的威胁”。这是 AI 行业最具戏剧性的时刻之一。

一、问题一:神经网络能不能多层堆起来——反向传播的早期工作

Geoffrey Everest Hinton 1947 年出生于英国温布尔登。他的家族是科学世家——

– 曾外祖父:George Everest,著名地理学家,”珠穆朗玛峰”以他命名

– 曾祖父:George Boole,”布尔逻辑”创始人(计算机科学基础)

– 叔祖父:Joan Hinton,核物理学家,参与曼哈顿计划

– 父亲:Howard Hinton,著名昆虫学家

Hinton 的家族遗传了一种奇怪的”反传统”基因——他的叔祖父 Joan Hinton 是冷战时期少数公开反对核武器的科学家之一。这种”反主流”的家庭氛围让 Geoffrey Hinton 在 1980-2012 年的 AI 寒冬中能够坚持”深度学习”这条没人相信的路。

1960s Hinton 在剑桥大学读实验心理学本科。但他对当时主流的心理学(行为主义)感到失望——他认为”智能的本质在大脑里”,而行为主义只关注”外部刺激-反应”,不研究大脑内部。

1973 年,他在爱丁堡大学开始 AI 博士研究,师从 Christopher Longuet-Higgins。博士期间他开始研究神经网络——这是当时 AI 圈最不受待见的方向。

二、1947 年的伦敦,与一个把认知当物理来想的少年

Hinton 的博士生涯充满坎坷。

核心冲突一:与导师的路线分歧。Hinton 的博士导师 Longuet-Higgins 是符号 AI(symbolic AI)的坚定支持者,他强迫 Hinton 放弃神经网络方向。

核心冲突二:神经网络研究的不可能。1970 年代主流 AI 圈认为”神经网络已经被证明走不通”——1969 年 Minsky 和 Papert 的《Perceptrons》证明简单感知机无法解决 XOR 问题,几乎给神经网络判了死刑。

Hinton 1976 年获得博士学位后,辗转卡内基梅隆大学(短暂)、爱丁堡大学、加拿大 CIFAR——加拿大人工智能研究项目。这是一个非常边缘化的研究机构,但 Hinton 在这里找到了精神家园。

Hinton 后来说:”1980 年代在 CIFAR 是我最孤独的时期。全世界只有我、Yann LeCun、Yoshua Bengio 等不到 10 个研究者在坚持神经网络。所有主流 AI 会议都拒绝我们的论文。”

三、1986 年:玻尔兹曼机与「能量」视角下的学习

1986 年,Hinton 与 David Rumelhart、Ronald Williams 在 Nature 发表《Learning representations by back-propagating errors》——这是反向传播(Backpropagation)算法的奠基性论文。

反向传播的历史意义:

– 解决了”如何训练多层神经网络”的核心问题

– 让深度学习(多层神经网络)从理论变成可工程化的方法

– 是 2012 年深度学习革命的根本算法基础

关键说明:反向传播不是 Hinton 一人的发明——1986 年同一时期,Yann LeCun(独立)、Paul Werbos(1982 年博士论文)、David Parker(1985 年)都各自独立发现了反向传播的不同版本。但 Hinton 的 1986 论文是让反向传播真正”出圈”的工作。

四、1990 年代:CNN 与 RNN 在语音与视觉上的落地

反向传播之后,Hinton 继续研究深度学习。1986-2006 年他发明了 Boltzmann 机(Restricted Boltzmann Machine)——一种基于统计物理的神经网络模型。

2006 年历史性突破:Hinton 在 Science 发表《A fast learning algorithm for deep belief nets》——首次提出”深度信念网络”(Deep Belief Network),证明深层神经网络可以被有效训练。

Hinton 后来说:”2006 年是我第一次相信深度学习是可行的。之前我们其实不确定深层网络能不能训练。”

2006 年之后:Hinton 在多伦多大学组建团队,把神经网络从学术界”复活”。Alex Krizhevsky(AlexNet 作者)、Ilya Sutskever(OpenAI 联合创始人)都是 Hinton 的博士生。

五、问题二:深度学习为什么不被主流接受——2006 年的「深度信念网络」

2012 年 10 月,Hinton 的学生 Alex Krizhevsky 和 Ilya Sutskever 带着 AlexNet 参加 ImageNet 竞赛。AlexNet 把图像识别错误率从 26% 降到 15%——这是史无前例的突破。

AlexNet 的关键技术:

– 8 层卷积神经网络

– GPU 训练(两块 NVIDIA GTX 580)

– ReLU 激活函数(替代 sigmoid)

– Dropout(防止过拟合)

AlexNet 的历史意义:

– 2012-2013 年 ImageNet 竞赛所有参赛队都换成深度学习

– 2013 年起所有 AI 公司都开始招聘深度学习博士

– 直接开启了”深度学习革命”

Hinton 后来说:”2012 年是 AI 历史上最重要的时刻之一。所有的门槛都被打破了。”

六、2012 年 AlexNet 与一次决定性的公开验证

2013 年:Google 收购 Hinton 创立的 DNNresearch 公司,Hinton 加入 Google 担任副总裁。这是学术界 AI 大佬加入工业界的标志性事件之一。

2018 年:Hinton、LeCun、Bengio 共同获得图灵奖——计算机科学的诺贝尔奖。这是深度学习三巨头的”封神”时刻。

2013-2023 的工作:Hinton 在 Google Brain / Google Research 工作 10 年,期间持续输出大量研究。他最值得关注的 2023 年工作:

2023 年 5 月 1 日——Hinton 公开从 Google 离职,理由是”想自由地谈论 AI 的潜在危险”。

Hinton 在离职声明中说:”我对自己一生的工作感到高兴,但很难想象如何防止坏人利用 AI 做坏事。”

离职后密集发声:

– 2023 年 5 月 NYT 采访:警告 AI 风险

– 2023 年 5 月 哥伦比亚广播公司 60 Minutes:警告 AI 威胁

– 2023 年 12 月联合国 AI 风险论坛:呼吁 AI 安全治理

– 2024 年 3 月 BBC 采访:警告”AI 可能 10-20 年内超越人类智能”

Hinton 的核心担忧:

– AI 可能生成大量假信息(虚假新闻、伪造视频)

– AI 可能替代大量白领工作

– AI 可能失控——一旦 AI 比人类聪明,”我们不知道如何确保它不伤害我们”

七、2018 年图灵奖,以及一位始终在争论中的人

2024 年 10 月 8 日,瑞典皇家科学院宣布 2024 年诺贝尔物理学奖授予 John Hopfield 和 Geoffrey Hinton——表彰他们在”人工神经网络用于机器学习”方面的奠基性贡献。

为什么是物理学奖?

– 诺贝尔委员会的解释:神经网络借鉴了统计物理(Hopfield 网络灵感来自 Ising 模型)

– Hinton 的 Boltzmann 机灵感来自统计物理的玻尔兹曼分布

– 因此神经网络是”物理学思想 + 工程实现”的结合

Hinton 的诺贝尔演讲(2024 年 12 月):

– 他强调深度学习的核心是”让机器从数据中学习”——而不是依赖人类编写的规则

– 他警告 AI 已经显示出”超人能力”——在某些任务上 AI 已经超过人类专家

– 他呼吁国际合作,建立 AI 安全标准

诺贝尔奖 + 图灵奖 = AI 学者的最高双料荣誉。Hinton 是历史上同时获得这两个奖项的人之一(另一个是 2024 年化学奖得主 Demis Hassabis 的同事 John Jumper 团队的 AlphaFold,但 Jumper 个人没拿图灵奖)。

八、他留下的东西:把「大脑是怎么学的」当成可以工程化的问题

1947-1973剑桥 + AI 启蒙时代——找到研究方向
1973-1986博士寒冬时代——被主流 AI 边缘化
1986反向传播时代——深度学习的算法基石
1986-2006Boltzmann 机时代——坚持神经网络 20 年
2006-2012深度信念网络时代——深度学习复兴
2012AlexNet 时代——深度学习革命的点火人
2013-2023Google 时代——从学术界到工业界
2023-至今AI 安全时代——离职 + 警告 + 诺贝尔奖
💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

AI人物图谱 AI人物图谱

彼得·诺维格(Peter Norvig):把 AI 写成两本书、也教成小孩能学的课的人

彼得·诺维格——Peter Norvig——这个名字在 人工智能的工程化与教育普及 史上出现得太频繁,以至于常
📅 11-16 · 👁 2026年11月16日
埃德温·卡姆尔(Edwin Catmull):Pixar 创始人、图灵奖得主与 CUDA 的起点 AI人物图谱

埃德温·卡姆尔(Edwin Catmull):Pixar 创始人、图灵奖得主与 CUDA 的起点

1945 年生于 美国 的 Edwin Catmull,其研究路径与 计算机图形学与渲染 的主流路径几乎不重合。他把动画的画质瓶颈定位在「每帧都要由人画」这件事…
📅 11-16 · 👁 2026年11月16日
托尼·霍尔(Tony Hoare):Quicksort 的发明者,以及把并发变成可证明对象的语言学家 AI人物图谱

托尼·霍尔(Tony Hoare):Quicksort 的发明者,以及把并发变成可证明对象的语言学家

Tony Hoare(托尼·霍尔,英国,1934 年生)在 并发程序的形式化验证与算法设计 领域的位置,很少有
📅 11-16 · 👁 2026年11月16日
AI人物图谱 AI人物图谱

大卫·哈(David Ha):StyleGAN 与权重重映射,让生成模型可控起来的那一步

大卫·哈——David Ha——这个名字在 生成式模型与 StyleGAN 架构 史上出现得太频繁,以至于常被
📅 11-16 · 👁 2026年11月16日
比雅恩·斯特劳斯特鲁普(Bjarne Stroustrup):C++ 的设计者,「零开销抽象」的定义者 AI人物图谱

比雅恩·斯特劳斯特鲁普(Bjarne Stroustrup):C++ 的设计者,「零开销抽象」的定义者

Bjarne Stroustrup(比雅恩·斯特劳斯特鲁普,丹麦,1950 年生)在 C++ 语言设计与通用系统编程 领域的位置,很少有人能给出准确坐标。他证明…
📅 11-13 · 👁 2026年11月13日
吉姆·格雷(Jim Gray):事务理论、并行数据库与公开基准测试的推动者 AI人物图谱

吉姆·格雷(Jim Gray):事务理论、并行数据库与公开基准测试的推动者

Jim Gray(吉姆·格雷,美国,1944 年生)在数据库事务、并行数据库与分布式系统领域的位置,很少有人能给出准确坐标。他证明了「数据库能扛住一亿次并发交易…
📅 11-13 · 👁 2026年11月13日