存算一体

存算一体(Compute-in-Memory,CIM/Processing-in-Memory,PIM)是在存储单元内部或近存储单元位置直接完成数据计算的新型芯片架构,旨在突破传统冯诺依曼架构「存算分离」导致的「内存墙」。

一、什么是存算一体

存算一体(Compute-in-Memory, CIM / Processing-in-Memory, PIM)是在存储单元内部或近存储单元位置直接完成数据计算的新型芯片架构,旨在突破传统冯诺依曼架构「存算分离」导致的「内存墙」与「功耗墙」瓶颈。存算一体特别适合 AI 推理(矩阵乘加运算)与大数据分析场景,是后摩尔时代算力提升的关键技术路径之一,三星、SK 海力士、Mythic、Syntiant、知存科技、苹芯科技、后摩智能等国内外学界与产业界正加速布局。

存算一体技术与大模型_存边计算架构-CSDN博客

二、原理

1. 内存墙识别:识别传统冯诺依曼架构下「数据搬运」导致的功耗与性能瓶颈(搬运能耗 >> 计算能耗)→ 2. 架构选型:选择近存计算(HBM-PIM、Logic-in-Memory)vs 内存计算(ReRAM、PCM、MRAM 矩阵运算)vs 数字存内计算(SRAM/DRAM 内置算子)→ 3. 乘加实现:用存储单元的模拟/数字特性实现矩阵乘加(MAC)运算 → 4. 稀疏化协同:与稀疏化算法协同,让零值跳过计算,降低能耗 → 5. 编译器与软件栈:开发支持 CIM 架构的编译器、算子库与编程模型 → 6. 系统集成:把 CIM 芯片与 CPU/NPU 协同,应用于端侧 AI 推理场景

三、信息卡片

中文名 存算一体
英文名 Compute-in-Memory / Processing-in-Memory
缩写 CIM / PIM
别名 存算一体、存内计算、近存计算、Compute-in-Memory
提出者 学术:Patterson、Williams 等;产业:三星、SK 海力士、Mythic、知存科技、后摩智能
提出时间 2010 年代 PIM 概念复兴;2018 年 UPMEM 推出商用 PIM-DIMM;2022 年三星 HBM-PIM
所属类别 新兴技术 > 半导体 > 芯片架构
核心技术 ReRAM、PCM、MRAM、SRAM/DRAM 内置算子、近存计算 HBM-PIM、稀疏计算
主要应用 端侧 AI 推理、大模型加速、边缘计算、AI PC、自动驾驶

四、历史时间线

  • 1960-1990 年代:Patterson、Williams 等学界早期探索 CIM 概念
  • 2010 年代:随着深度学习算力需求爆发,PIM 概念复兴
  • 2018 年:法国 UPMEM 推出全球首个商用 PIM-DIMM(DRAM-PIM)
  • 2020 年:Mythic、Syntiant 等存内 AI 芯片公司涌现(基于 Flash/NOR)
  • 2022 年:三星发布 HBM-PIM(Processing-in-Memory HBM),阿里平头哥等入局
  • 2023-2024 年:知存科技、后摩智能、苹芯科技等中国 CIM 芯片公司密集发布原型
  • 2025-2028 年:存算一体在端侧 AI 推理、自动驾驶、AI PC 等场景规模化落地

五、分类

按存储介质:ReRAM(电阻式随机存储器)vs PCM(相变存储器)vs MRAM(磁阻随机存储器)vs Flash(NOR/NAND)vs SRAM vs DRAM

  • 按位置:内存计算(In-Memory Computing,存储内计算)vs 近存计算(Near-Memory,HBM-PIM、Logic-in-Memory)
  • 按信号形式:模拟存内计算(电流/电荷直接乘加)vs 数字存内计算(bit-cell 内置算子)
  • 按应用场景:AI 推理加速(CIM-NPU)vs 大数据分析(数据库加速)vs 通用计算(CPU PIM)
  • 按工程形态:单芯片 CIM(端侧)vs 芯片组 PIM(数据中心)vs Chiplet 集成 PIM

六、应用场景

端侧 AI 推理:在 AI PC、AI 手机、智能家居等端侧场景用 CIM 跑 LLM/SD 模型,降低功耗

  • 大模型加速:在数据中心用 HBM-PIM 等加速 Transformer 推理与微调
  • 边缘计算:在 IoT、智能摄像头、可穿戴设备中用 CIM 实现低功耗本地智能
  • 自动驾驶:在车载芯片中用 CIM 加速 BEV、Transformer 感知模型
  • 数据库与大数据:用 PIM 加速 SQL JOIN、矩阵运算等数据密集型负载

七、优缺点

优点:突破内存墙:相比传统冯诺依曼架构性能提升 10-100 倍,能效提升 10-50 倍;降低功耗:数据搬运大幅减少,特别适合端侧低功耗 AI 场景;支撑后摩尔时代:算力增长不再完全依赖制程微缩,架构创新成为新路径;形成新产业链:催生新型存储器件与 CIM 芯片设计公司

  • 缺点:器件一致性差:ReRAM、PCM 等新型存储器件的一致性、寿命仍是工程难点;模拟计算精度受限:模拟 CIM 精度有限,需与数字方案结合或量化训练协同;生态成熟度不足:编译器、算子库、编程模型仍在演进;成本与良率:新型存储器工艺成熟度与成本仍需规模化生产验证

八、常见误区

  • 存算一体 = 内存(错:存算一体是「在存储内做计算」的架构创新,与传统内存不同)
  • 存算一体取代 GPU(错:CIM 主要加速矩阵乘加等特定运算,GPU 在通用并行计算上仍有优势)
  • 存算一体已可商用(错:除部分 NOR Flash CIM 商业化外,ReRAM/PCM CIM 大多仍处研发与小批量阶段)
  • 存算一体就是近存计算(错:存算一体覆盖近存计算(HBM-PIM)与内存计算(ReRAM、PCM)两条不同技术路径)

九、关联概念

  • 父概念:半导体、新兴技术、AI 芯片
  • 子概念:HBM-PIM、ReRAM、PCM、MRAM、近存计算
  • 兄弟概念:神经形态计算、硅光子、RISC-V、AI PC、GPU集群
  • 对比概念:GPU、ASIC AI 加速、NPU、传统冯诺依曼架构
  • 应用相关:AI PC、AI智能体 AI Agent、大语言模型 Large Language Model、GPU集群、RISC-V
💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

6G 行业百科

6G

6G(第六代移动通信技术)是继5G之后的下一代移动通信技术,预期在2030年前后商用,聚焦通感一体(IntegratedSensingandCommunicat…
📅 11-20 · 👁 2026年11月20日
卫星互联网 行业百科

卫星互联网

卫星互联网是通过低轨(LEO,LowEarthOrbit)/中轨(MEO,MediumEarthOrbit)卫星星座提供全球宽带互联网接入的新型通信基础设施,以…
📅 11-20 · 👁 2026年11月20日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

具身智能是什么?

具身智能是让 AI 通过机器人等物理载体与真实环境交互、在感知—行动闭环中学习并完成任务的智能形态,核心是「身体」与「智能」的耦合,能力包括环境感知、运动控制与…
📅 11-20 · 👁 2026年11月20日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

小语言模型SLM是什么?

小语言模型(SLM, Small Language Model)是参数量在数十亿以下、可在消费级或边缘设备本地运行的紧凑语言模型,核心是以专注任务换取轻量高效,…
📅 11-20 · 👁 2026年11月20日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

指令微调SFT是什么?

指令微调(SFT, Supervised Fine-Tuning)是用「指令—回答」示范数据对预训练模型进行监督训练的后训练方法,核心是用高质量样本对齐模型行为…
📅 11-20 · 👁 2026年11月20日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

提示注入是什么?

提示注入是攻击者通过在输入中嵌入恶意指令,诱导大模型偏离系统设定、泄露数据或执行非预期动作的攻击方式,核心是利用模型对自然语言指令不加区分服从的特性,形态包括直…
📅 11-20 · 👁 2026年11月20日