操作系统是计算机系统里最保守也最难颠覆的一层。它承载着几十年的兼容性包袱,因此 AI 在这里的进展节奏异常慢 —— 但也正因为如此,每一次真正的落地都极具代表性:它证明了 AI 不仅能做新东西,也能改造最古老的基础设施。

一、1990-2000 年代:调度与预测的朴素思路
1990 年代的操作系统研究就开始探索用机器学习做任务调度与完成时间预测,思路是把负载特征作为输入。同一时期缓存替换策略的研究引入机器学习,目标是从访问模式预测哪些页会再次被访问。这些尝试的共同问题是数据稀缺:每次运行都要重新学习,而操作系统的运行环境无法容忍大量训练开销。一个更根本的障碍是兼容性 —— 任何改变调度决策的方案都必须保证原有的实时性与公平性语义不被破坏。早期研究的核心是预测作业的运行时间,用它来指导调度决策,但这类预测的准确度长期不足以单独决策。
同期缓存替换研究试图用访问频率的时序模式预测未来访问,实验显示在特定负载下优于最不经常使用策略。一个根本约束是内核路径的实时性要求:任何在内核中运行的模型,推理开销必须微秒级。这一时期还出现了把机器学习用于中断处理与设备驱动的探索,但多数停留在原型阶段。
二、2000-2012:数据中心调度与大规模机器学习
2000 年代中期,谷歌等数据中心开始把机器学习用于大规模集群的任务调度与资源分配。2010 年前后,谷歌公开了基于预测的集群负载管理做法,用历史作业记录预测资源需求并提前预留。这一时期的关键变化是数据规模:单个数据中心的作业日志量足以支撑有意义的预测模型,而这是早期单机时代不可想象的。同一时期还出现了把机器学习用于内存管理的研究,用访问模式预测缺页并提前换页。2009 年后谷歌公开了基于预测的集群资源管理做法,用作业历史预测资源需求并提前预留。
同期 B4 调度器的公开讨论把大规模资源分配问题带入公众视野,其公平性与效率的权衡被广泛分析。2010 年前后,内存管理研究开始利用访问模式预测缺页,但通用内核中的收益被持续质疑。这一时期还出现了把机器学习用于文件系统布局的尝试,把热数据聚集到相邻位置以减少寻道时间。
三、2013-2020:智能化内核与学习资源调度
2013 年前后的一批研究把机器学习引入内核的多个路径:调度、内存管理与中断处理。2016 年后,学习型虚拟内存管理与页缓存研究显示可观的性能提升,尤其在特定工作负载下。同期出现了面向异构硬件的资源调度框架,把 GPU 的分配问题建模为学习任务。这一阶段的核心约束是开销:任何在内核路径上运行的模型,其推理延迟必须远小于它节省的时间,这一门槛淘汰了大量方案。2016 年前后,一批把机器学习引入内核调度、内存与中断路径的研究集中发表,形成了系统的探索。
同期学习型内存管理在特定工作负载下报告了可观的性能提升,但在通用场景中的收益并不稳定。GPU 资源调度的学习方案也在这一时期出现,把异构设备分配建模为序贯决策问题。一个被反复强调的标准是:模型必须在开销与收益之间保持数量级上的优势,否则不值得引入内核。
四、2021-2025:大模型推理成为一等公民
2021 年后,大模型推理的调度问题成为操作系统与集群管理的新课题:显存碎片化、批处理效率与首字延迟的权衡。vLLM 等通过连续批处理与分页显存管理大幅提升了吞吐量,把「服务好模型」变成了调度器的基本职责。2023 至 2025 年间,推理侧的抢占式调度与多租户隔离成为云厂商的核心竞争点,直接影响单位算力的服务成本。一个被广泛讨论的长期问题是:当推理负载占据集群主体时,传统的「本地进程」抽象是否仍是合适的资源管理单位。
2022 年前后,连续批处理与分页显存管理让大模型推理吞吐大幅提升,调度器职责随之扩展。同期多租户推理的隔离问题凸显:不同请求的延迟需求差异巨大,统一的调度策略难以同时满足。2024 年后,推理侧的能耗与成本成为云厂商的核心竞争点,调度算法直接决定单位服务成本。一个长期存在的抽象争议是:当推理负载占据集群主体时,进程作为资源管理单位是否仍然合适。
资料来源
- Gunlap et al., Machine learning for operating systems, 会议论文集 2013-2020
- 谷歌数据中心负载预测与集群调度的公开工程论文
- Kwon et al., Efficient Memory Management for LLM Serving with vLLM, SOSP 2023
- Linux 内核社区关于调度与内存管理的公开邮件列表讨论