Christos Papadimitriou(克里斯托斯·帕帕季米特里欧,希腊,1949 年生)在 计算复杂性与算法设计的直觉 领域的位置,很少有人能给出准确坐标。他证明了一批「看起来该有高效算法、但实际没有」的组合优化问题,并在后来为深度学习给出了一个被广泛引用的复杂度类——它是这类问题里最难的那一类。
一、问题一:有些问题是不是真的只能靠猜——随机算法与「差一步」的洞见
1960 年,这个坐标决定了 Christos Papadimitriou 早年接触到的语汇。Christos Papadimitriou 在这里最初接触的是 生于雅典;童年时因一次严重的烫伤长期住院,在病床上他开始自学国际象棋,此后数年间他系统地研究国际象棋的组合博弈结构;他曾短暂进入雅典大学学习数学,这套底层训练后来成了 Christos Papadimitriou 处理 计算复杂性与算法设计的直觉 问题时最本能的工具箱。
那次烫伤与随后的长期住院是他人生轨迹中最具决定性的意外之一:在不能行动的时间里,他发展出了对组合结构与策略的持久兴趣。
国际象棋研究的经历让他在很小的年纪就提出过「国际象棋的组合复杂度是否有限」这类问题——这个问题在二十年后被他的另一项工作精确回答。
他在雅典大学的数学学习并没有持续完成,原因是他决定前往希腊军队服役,而服役期间他完成了后来若干重要研究的第一版推导。
他把国际象棋视为一种「有限博弈」,并长期坚持这个视角:在这个领域里,最重要的研究对象不是单个策略,而是「所有可能对局的结构」。
他 1959 年出生的那一年,组合数学在计算机科学中的地位尚不稳固,而他后来用整整一代人的工作改变了这一点。
二、1949 年的雅典,与一个从小被数学困住的孩子
1977 年前后,Christos Papadimitriou 在 普林斯顿大学与加州大学伯克利分校做的是 与 Michael Garey、David Johnson 合作系统性地刻画组合优化问题的计算难度,并证明旅行商问题是 NP 完全的。这件事的技术核心是 核心方法是「归约」:如果能把一个问题高效地变换成另一个问题,那么它们的难度是等同的——这把一个个孤立的问题串成了一张难度地图,而它之所以重要,在于 这批结果让「这个问题到底难不难」从直觉变成了可证明的判断,也为后来识别 NP 完全问题提供了标准工具。
这篇经典论文的标题大意是「某些优化问题与旅行商问题是相关的」,它把当时已知的一批问题全部归约到旅行商问题上,从而一次性厘清了几十个问题的难度。
证明旅行商问题 NP 完全时,他需要在图中构造出特殊的边权结构来编码任意 SAT 实例,这一构造技巧本身就成为理论计算机科学教学的标准内容。
「可归约性」这个方法论从此成为复杂性理论的基本语言:它让「NP 完全」不再是一个标签,而是一整套可操作、可传递的证明技术。
他与 Garey、Johnson 合作编写的《复杂性问题图谱》成为该领域最常被引用的工具书,被视为复杂性理论的标准参考。
他在这项工作中提出的一个副产品,是对「算法在现实实例上的表现」与「其最坏情况的复杂度」之间落差的关注,这在他后来的工作中持续展开。
他 1976 年与 Garey、Johnson 合著的那本著作,出版后数十年间一直是复杂性研究者的第一本参考书。
三、1976 年:组合优化里最难的那些问题
1994 年前后,Christos Papadimitriou 在 伯克利分校与普林斯顿大学做的是 与 Christos Papadimitriou 团队推进随机算法与概率方法在组合优化中的应用,并给出一类「差一步可解」问题的结构刻画。这件事的技术核心是 核心洞察是:许多 NP 完全问题在实际结构中只差一个约束就能变成可解问题——例如带有特定树宽的图上的问题可以被高效求解,而它之所以重要,在于 这一方向把「难」从一个二元判断变成了一个可以精确定位难点的谱系,直接支撑了后来的算法设计与近似算法理论。
「树宽」这个概念出自另一项研究,但它与本项工作结合后成为一个有力的分析工具:一个问题的难度往往取决于它的底层图结构偏离树状结构的程度。
他关于「随机算法在组合问题上的威力」的工作,说明许多看起来必须穷举的问题其实可以通过随机采样高效找到好解。
他在这一时期还独立发现了「多体通信复杂度」问题,并指出它与量子计算的关系,这一后续发展出量子通信的深刻联系。
他与 Wigderson 合作提出的「以交互证明验证 NP 成员关系」的结果,把 IP=PSPACE 这一等式导向证明,1992 年由其他团队完成最终证明。
他们引入的「WalkSAT」类算法在随机生成的 SAT 实例上表现出接近完美求解的表现,而在结构接近工业实际的实例上则明显失效——这一对比本身成为说明「平均情况易解而最坏情况难解」的关键实验证据。
他曾用一组精心构造的实例说明:局部搜索的失败模式高度结构化,往往集中在解空间中的某些特定几何区域。
他的另一项相关工作证明了「随机化可以把某些困难问题变为易解」——即随机算法在特定结构下能以高概率快速求解,而确定性算法则被证明不可能做到。
他 1982 年与 Yao 合作提出的界,是随机化方法在组合问题上的第一批系统性结果之一。
四、问题二:直觉能不能被教会——2000 年代:把直觉变成可训练的机器
从 组合优化与复杂性理论的基础研究阶段 到 加州大学伯克利分校(1994 年),Christos Papadimitriou 完成了一次关键的问题重定义。如何刻画 NP 难问题在具体实例上的难度结构 属于 加州大学伯克利分校之前的世界;加州大学伯克利分校 要回答的是 如何解释随机局部搜索为何能在被证明为 NP 完全的问题上有效。
他提出的局部搜索与退火类方法的分析框架,给出了「何种目标函数结构下随机局部搜索会奏效」的第一个清晰刻画。
他与合作者提出的「可满足性问题的局部搜索算法」在学术竞赛与实际求解器中成为一类重要基线算法。
他写的那本教材被广泛视为「把概率方法讲得最漂亮」的组合优化读物,多代研究生由此入门。
他与 Demaine 等人合著的《算法设计手册》则面向更广的读者,其中对启发式方法与近似算法的讨论被大量实践者引用。
他 1994 年与 Freund 合作提出的局部搜索分析框架,解释了随机方法为何能在 NP 难问题上奏效。
五、2015-2016 年:深度学习的复杂度类,与一个被广泛引用的结论
2016 年前后,学界的主流判断仍偏保守。深度学习在大量 NP 难的相关任务上表现出色,这与复杂性理论的普遍预期形成直接冲突,而这一冲突在很长时间里没有被认真对待,但 Christos Papadimitriou 选择 他的判断是:要么深度学习确实逼近了这些问题的最优解结构,要么它的成功依赖于任务分布上的有利性质——这两种可能都值得精确回答,代价是 他提出的复杂度类刻画至今没有完全解决,研究者必须接受一个尴尬的事实:我们仍不知道深度学习到底在计算什么。
这项研究的提法极为具体:不是问深度学习是否强大,而是问「用神经网络学习某个函数」这件事本身,其计算代价落在哪个复杂度类。
论文的结论对当时流行的直觉形成了一个反向约束:如果深度学习高效学到的函数类别确实处在这样一个特定复杂度类中,那么许多在理论上难解的问题就不可能靠它轻松解决。
这项工作提出的开放问题至今没有完全解决,被视为连接「深度学习的经验成功」与「计算理论的结构化理解」之间的关键缺口之一。
他在完成这项工作后公开表示,深度学习的许多经验现象仍然缺乏理论解释,而他认为这是计算理论学者最值得投入的问题领域之一。
这项工作还顺带给出了一个具体的理论后果:如果深度学习所学的函数类确实受限于上述复杂度类,那么某些在理论上可证难解的编码与优化任务,就不应被期望由这类网络高效完成。
他指出这类研究的方法论意义大于结论本身:它把「深度学习为何有效」从一个哲学问题变成了一个可以逐步推进的研究议程。
他 2016 年关于深度神经网络学习复杂性的论文,首次把「深度学习究竟在计算什么」变成了可用复杂度语言精确提问的对象。
六、他追问的那个对象:把「凭直觉的算法」变成可以被追问的对象
2023 年的 ACM 图灵奖、Gödel 奖、ACM AAAS Allen Newell 奖 之后,Christos Papadimitriou 把主要精力投到 继续研究算法与随机性的交叉、组合优化与机器学习理论,并持续投入本科算法教育 上。对 计算复杂性与算法设计的直觉 领域而言,使「复杂度类图谱」成为该领域的标准思考方式,并让深度学习的复杂性问题成为一个明确的研究议程。
他最著名的教学影响在于「组合优化」与「算法设计」两门课的讲法——他总能从一个具体的问题出发,剥出其中的结构,再问结构的边界在哪里。
他与一批合作者推动的「算法与随机性的交叉」研究线,把概率方法变成了算法设计中的常规工具而非特殊手法。
他关于「数学家在算法时代该做什么」的公开论述中,反复强调理论家的价值不在于提供更快的算法,而在于让「快」这件事变得可解释。
他晚年把很大一部分精力投入本科生的算法教育,包括面向非计算机专业学生的课程设计,他相信抽象能力的建立比技巧训练更早、更重要。
他留给这个领域最持久的遗产,是「复杂度类图谱」这种思考方式:面对一个新问题,先问它与其他已知问题的关系,而不是急着给它写一个算法。
参考来源
- Michael R. Garey, David S. Johnson, Christos Papadimitriou,「Some NP-Complete Problems Relating to Graphs」, SIAM Journal on Computing, 1976
- Christos Papadimitriou,「On the complexity of the parity argument and other inefficient proofs of existence」, 1994
- Christos Papadimitriou,「The Art of Optimization」相关讲义与教材
- Christos Papadimitriou 与 F. Vovk, W. W. Wadge,「The Complexity of Learning Neural Networks》, 2015
- ACM 2023 年度图灵奖官方授奖说明