一、什么是存算一体
存算一体(Compute-in-Memory, CIM / Processing-in-Memory, PIM)是在存储单元内部或近存储单元位置直接完成数据计算的新型芯片架构,旨在突破传统冯诺依曼架构「存算分离」导致的「内存墙」与「功耗墙」瓶颈。存算一体特别适合 AI 推理(矩阵乘加运算)与大数据分析场景,是后摩尔时代算力提升的关键技术路径之一,三星、SK 海力士、Mythic、Syntiant、知存科技、苹芯科技、后摩智能等国内外学界与产业界正加速布局。

二、原理
1. 内存墙识别:识别传统冯诺依曼架构下「数据搬运」导致的功耗与性能瓶颈(搬运能耗 >> 计算能耗)→ 2. 架构选型:选择近存计算(HBM-PIM、Logic-in-Memory)vs 内存计算(ReRAM、PCM、MRAM 矩阵运算)vs 数字存内计算(SRAM/DRAM 内置算子)→ 3. 乘加实现:用存储单元的模拟/数字特性实现矩阵乘加(MAC)运算 → 4. 稀疏化协同:与稀疏化算法协同,让零值跳过计算,降低能耗 → 5. 编译器与软件栈:开发支持 CIM 架构的编译器、算子库与编程模型 → 6. 系统集成:把 CIM 芯片与 CPU/NPU 协同,应用于端侧 AI 推理场景
三、信息卡片
| 中文名 | 存算一体 |
| 英文名 | Compute-in-Memory / Processing-in-Memory |
| 缩写 | CIM / PIM |
| 别名 | 存算一体、存内计算、近存计算、Compute-in-Memory |
| 提出者 | 学术:Patterson、Williams 等;产业:三星、SK 海力士、Mythic、知存科技、后摩智能 |
| 提出时间 | 2010 年代 PIM 概念复兴;2018 年 UPMEM 推出商用 PIM-DIMM;2022 年三星 HBM-PIM |
| 所属类别 | 新兴技术 > 半导体 > 芯片架构 |
| 核心技术 | ReRAM、PCM、MRAM、SRAM/DRAM 内置算子、近存计算 HBM-PIM、稀疏计算 |
| 主要应用 | 端侧 AI 推理、大模型加速、边缘计算、AI PC、自动驾驶 |
四、历史时间线
- 1960-1990 年代:Patterson、Williams 等学界早期探索 CIM 概念
- 2010 年代:随着深度学习算力需求爆发,PIM 概念复兴
- 2018 年:法国 UPMEM 推出全球首个商用 PIM-DIMM(DRAM-PIM)
- 2020 年:Mythic、Syntiant 等存内 AI 芯片公司涌现(基于 Flash/NOR)
- 2022 年:三星发布 HBM-PIM(Processing-in-Memory HBM),阿里平头哥等入局
- 2023-2024 年:知存科技、后摩智能、苹芯科技等中国 CIM 芯片公司密集发布原型
- 2025-2028 年:存算一体在端侧 AI 推理、自动驾驶、AI PC 等场景规模化落地
五、分类
按存储介质:ReRAM(电阻式随机存储器)vs PCM(相变存储器)vs MRAM(磁阻随机存储器)vs Flash(NOR/NAND)vs SRAM vs DRAM
- 按位置:内存计算(In-Memory Computing,存储内计算)vs 近存计算(Near-Memory,HBM-PIM、Logic-in-Memory)
- 按信号形式:模拟存内计算(电流/电荷直接乘加)vs 数字存内计算(bit-cell 内置算子)
- 按应用场景:AI 推理加速(CIM-NPU)vs 大数据分析(数据库加速)vs 通用计算(CPU PIM)
- 按工程形态:单芯片 CIM(端侧)vs 芯片组 PIM(数据中心)vs Chiplet 集成 PIM
六、应用场景
端侧 AI 推理:在 AI PC、AI 手机、智能家居等端侧场景用 CIM 跑 LLM/SD 模型,降低功耗
- 大模型加速:在数据中心用 HBM-PIM 等加速 Transformer 推理与微调
- 边缘计算:在 IoT、智能摄像头、可穿戴设备中用 CIM 实现低功耗本地智能
- 自动驾驶:在车载芯片中用 CIM 加速 BEV、Transformer 感知模型
- 数据库与大数据:用 PIM 加速 SQL JOIN、矩阵运算等数据密集型负载
七、优缺点
优点:突破内存墙:相比传统冯诺依曼架构性能提升 10-100 倍,能效提升 10-50 倍;降低功耗:数据搬运大幅减少,特别适合端侧低功耗 AI 场景;支撑后摩尔时代:算力增长不再完全依赖制程微缩,架构创新成为新路径;形成新产业链:催生新型存储器件与 CIM 芯片设计公司
- 缺点:器件一致性差:ReRAM、PCM 等新型存储器件的一致性、寿命仍是工程难点;模拟计算精度受限:模拟 CIM 精度有限,需与数字方案结合或量化训练协同;生态成熟度不足:编译器、算子库、编程模型仍在演进;成本与良率:新型存储器工艺成熟度与成本仍需规模化生产验证
八、常见误区
- 存算一体 = 内存(错:存算一体是「在存储内做计算」的架构创新,与传统内存不同)
- 存算一体取代 GPU(错:CIM 主要加速矩阵乘加等特定运算,GPU 在通用并行计算上仍有优势)
- 存算一体已可商用(错:除部分 NOR Flash CIM 商业化外,ReRAM/PCM CIM 大多仍处研发与小批量阶段)
- 存算一体就是近存计算(错:存算一体覆盖近存计算(HBM-PIM)与内存计算(ReRAM、PCM)两条不同技术路径)
九、关联概念
- 父概念:半导体、新兴技术、AI 芯片
- 子概念:HBM-PIM、ReRAM、PCM、MRAM、近存计算
- 兄弟概念:神经形态计算、硅光子、RISC-V、AI PC、GPU集群
- 对比概念:GPU、ASIC AI 加速、NPU、传统冯诺依曼架构
- 应用相关:AI PC、AI智能体 AI Agent、大语言模型 Large Language Model、GPU集群、RISC-V