冯·诺依曼架构下,数据要在存储器和处理器之间来回搬运。对 AI 推理这种"参数多、计算密"的负载,数据搬运消耗的能量和时间常常超过计算本身。存算一体(Computing-in-Memory,CIM)就是冲着这个瓶颈来的:让存储单元直接参与计算,省掉反复搬运。

## CIM 的基本原理

传统做法是:权重存在内存里,计算时读出来送到乘加单元,算完再写回去。存算一体的思路是反过来的:把权重"钉"在存储阵列里,输入数据以电压形式加到阵列上,利用物理定律(比如欧姆定律和基尔霍夫电流定律)在阵列内部直接完成矩阵乘加,结果以电流或电荷形式读出。

这样做的好处很直观:权重不需要反复读取,数据搬运大幅减少,能效比可以显著提升。这对边缘推理、 always-on 的感知类应用特别有吸引力——功耗预算只有毫瓦级的地方,每一点能效都很珍贵。

## 模拟与数字两条路线

- **模拟存算**:用阻变存储器(RRAM)、相变存储器(PCM)等新型器件的电导值表示权重,在模拟域完成计算。能效潜力最大,但面临器件非理想性(漂移、噪声、良率)的挑战。
- **数字存算**:在 SRAM 阵列里嵌入简单的数字逻辑,仍在数字域计算。精度和可靠性接近传统数字电路,代价是能效提升幅度不如模拟路线。

学术界和产业界两条路线都在推进,模拟路线偏前沿探索,数字存算路线已经有相对成熟的 IP 和小规模产品。

## 当前落地的卡点

**精度**:神经网络对量化有一定容忍度,但模拟器件的噪声和漂移会吃掉这部分裕量。如何保证在真实器件上跑出可接受的精度,是首要工程问题。

**规模**:实验室演示多是小规模阵列,放大到实用网络的尺寸后,阵列划分、片间通信、良率都会带来新问题。大模型的权重规模对 CIM 阵列容量是硬约束。

**软件栈**:这是最容易被低估的一环。再好的芯片,没有好用的编译器、量化工具链和模型适配流程,算法工程师就用不起来。存算架构的映射、切分、精度仿真都需要专门的工具支持,生态成熟度远不如 GPU。

## 理性看待

存算一体是真实的技术方向,能效优势有物理基础,但离"替代 GPU"还差得很远。更现实的路径是:在功耗敏感的特定场景(端侧感知、小模型推理)先落地,用产品迭代反哺技术成熟度。对从业者来说,值得跟踪器件进展和工具链生态,而不是只看峰值能效数字。