AI与操作系统:从调度优化到AI原生运行时的四十年

操作系统是计算机系统里最保守也最难颠覆的一层。它承载着几十年的兼容性包袱,因此 AI 在这里的进展节奏异常慢 —— 但也正因为如此,每一次真正的落地都极具代表性:它证明了 AI 不仅能做新东西,也能改造最古老的基础设施。

操作系统是计算机系统里最保守也最难颠覆的一层。它承载着几十年的兼容性包袱,因此 AI 在这里的进展节奏异常慢 —— 但也正因为如此,每一次真正的落地都极具代表性:它证明了 AI 不仅能做新东西,也能改造最古老的基础设施。

一、1990-2000 年代:调度与预测的朴素思路

1990 年代的操作系统研究就开始探索用机器学习做任务调度与完成时间预测,思路是把负载特征作为输入。同一时期缓存替换策略的研究引入机器学习,目标是从访问模式预测哪些页会再次被访问。这些尝试的共同问题是数据稀缺:每次运行都要重新学习,而操作系统的运行环境无法容忍大量训练开销。一个更根本的障碍是兼容性 —— 任何改变调度决策的方案都必须保证原有的实时性与公平性语义不被破坏。早期研究的核心是预测作业的运行时间,用它来指导调度决策,但这类预测的准确度长期不足以单独决策。

同期缓存替换研究试图用访问频率的时序模式预测未来访问,实验显示在特定负载下优于最不经常使用策略。一个根本约束是内核路径的实时性要求:任何在内核中运行的模型,推理开销必须微秒级。这一时期还出现了把机器学习用于中断处理与设备驱动的探索,但多数停留在原型阶段。

二、2000-2012:数据中心调度与大规模机器学习

2000 年代中期,谷歌等数据中心开始把机器学习用于大规模集群的任务调度与资源分配。2010 年前后,谷歌公开了基于预测的集群负载管理做法,用历史作业记录预测资源需求并提前预留。这一时期的关键变化是数据规模:单个数据中心的作业日志量足以支撑有意义的预测模型,而这是早期单机时代不可想象的。同一时期还出现了把机器学习用于内存管理的研究,用访问模式预测缺页并提前换页。2009 年后谷歌公开了基于预测的集群资源管理做法,用作业历史预测资源需求并提前预留。

同期 B4 调度器的公开讨论把大规模资源分配问题带入公众视野,其公平性与效率的权衡被广泛分析。2010 年前后,内存管理研究开始利用访问模式预测缺页,但通用内核中的收益被持续质疑。这一时期还出现了把机器学习用于文件系统布局的尝试,把热数据聚集到相邻位置以减少寻道时间。

三、2013-2020:智能化内核与学习资源调度

2013 年前后的一批研究把机器学习引入内核的多个路径:调度、内存管理与中断处理。2016 年后,学习型虚拟内存管理与页缓存研究显示可观的性能提升,尤其在特定工作负载下。同期出现了面向异构硬件的资源调度框架,把 GPU 的分配问题建模为学习任务。这一阶段的核心约束是开销:任何在内核路径上运行的模型,其推理延迟必须远小于它节省的时间,这一门槛淘汰了大量方案。2016 年前后,一批把机器学习引入内核调度、内存与中断路径的研究集中发表,形成了系统的探索。

同期学习型内存管理在特定工作负载下报告了可观的性能提升,但在通用场景中的收益并不稳定。GPU 资源调度的学习方案也在这一时期出现,把异构设备分配建模为序贯决策问题。一个被反复强调的标准是:模型必须在开销与收益之间保持数量级上的优势,否则不值得引入内核。

四、2021-2025:大模型推理成为一等公民

2021 年后,大模型推理的调度问题成为操作系统与集群管理的新课题:显存碎片化、批处理效率与首字延迟的权衡。vLLM 等通过连续批处理与分页显存管理大幅提升了吞吐量,把「服务好模型」变成了调度器的基本职责。2023 至 2025 年间,推理侧的抢占式调度与多租户隔离成为云厂商的核心竞争点,直接影响单位算力的服务成本。一个被广泛讨论的长期问题是:当推理负载占据集群主体时,传统的「本地进程」抽象是否仍是合适的资源管理单位。

2022 年前后,连续批处理与分页显存管理让大模型推理吞吐大幅提升,调度器职责随之扩展。同期多租户推理的隔离问题凸显:不同请求的延迟需求差异巨大,统一的调度策略难以同时满足。2024 年后,推理侧的能耗与成本成为云厂商的核心竞争点,调度算法直接决定单位服务成本。一个长期存在的抽象争议是:当推理负载占据集群主体时,进程作为资源管理单位是否仍然合适。

资料来源

  • Gunlap et al., Machine learning for operating systems, 会议论文集 2013-2020
  • 谷歌数据中心负载预测与集群调度的公开工程论文
  • Kwon et al., Efficient Memory Management for LLM Serving with vLLM, SOSP 2023
  • Linux 内核社区关于调度与内存管理的公开邮件列表讨论
💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

AI与编译器:从自动调优到学习成本模型的三次浪潮 AI大事记

AI与编译器:从自动调优到学习成本模型的三次浪潮

编译器是 AI 落地最成功的领域之一 —— 因为它的正确性可以完全自动验证。这个特性让「学出来的优化决策」可以放心地用:编译结果要么与语义等价,要么不是。这条路…
📅 11-20 · 👁 2026年11月20日
AI与三维重建:从多视图几何到单图生成的十年 AI大事记

AI与三维重建:从多视图几何到单图生成的十年

三维重建是把二维世界还原成可计算几何体的过程。传统方法的几何原理扎实但需要密集采集,而学习方法用先验替代了部分几何约束。这个领域的关键转折点,是生成模型让「缺失…
📅 11-19 · 👁 2026年11月19日
AI与生物特征识别:从指纹机到深度伪造攻防的三十年 AI大事记

AI与生物特征识别:从指纹机到深度伪造攻防的三十年

生物特征识别是 AI 最早的商业化应用之一,也是隐私争议最持久的领域之一。它的历史恰好记录了攻与防的往复循环:每一次识别能力的提升,都会催生新的伪造手段,而每一…
📅 11-18 · 👁 2026年11月18日
AI与网络搜索:从关键词匹配到对话式答案的三十五年 AI大事记

AI与网络搜索:从关键词匹配到对话式答案的三十五年

搜索是信息检索技术在互联网上的最大规模应用,也是被生成式 AI 冲击最直接的领域。三十五年间,搜索的核心问题始终没变:如何在极短时间内,从海量文档里找出最相关的…
📅 11-18 · 👁 2026年11月18日
AI与输入法:从拼音输入到意图理解的三十年 AI大事记

AI与输入法:从拼音输入到意图理解的三十年

输入法的历史是中文与语音输入技术史的一个缩影。它既是深度学习最早取得商业成功的场景之一,也是最贴近日常、却最少被公众注意的技术领域。预测下一个词这个看似简单的任…
📅 11-18 · 👁 2026年11月18日
AI 与芯片良率:从缺陷检测到工艺窗口优化的三十年 AI大事记

AI 与芯片良率:从缺陷检测到工艺窗口优化的三十年

在纳米尺度上,一个肉眼不可见的缺陷就可能报废整片晶圆。半导体良率因此成为制造业中数据密度最高、也最有价值的数据资产之一。AI 在这里的应用不是「炫技」,而是直接…
📅 11-18 · 👁 2026年11月18日