Computing-in-Memory (CiM) architectures aim to reduce costly data transfers by performing arithmetic and logic operations in memory and hence relieve the pressure due to the memory wall. However, determining whether a given workload can really benefit from CiM, which memory hierarchy and what device technology should be adopted by a CiM architecture requires in-depth study that is not only time consuming but also demands significant expertise in architectures and compilers. This paper presents an energy evaluation framework, Eva-CiM, for systems based on CiM architectures. Eva-CiM encompasses a multi-level (from device to architecture) comprehensive tool chain by leveraging existing modeling and simulation tools such as GEM5, McPAT [2] and DESTINY [3]. To support high-confidence prediction, rapid design space exploration and ease of use, Eva-CiM introduces several novel modeling/analysis approaches including models for capturing memory access and dependency-aware ISA traces, and for quantifying interactions between the host CPU and CiM modules. Eva-CiM can readily produce energy estimates of the entire system for a given program, a processor architecture, and the CiM array and technology specifications. Eva-CiM is validated by comparing with DESTINY [3] and [4], and enables findings including practical contributions from CiM-supported accesses, CiM-sensitive benchmarking as well as the pros and cons of increased memory size for CiM. Eva-CiM also enables exploration over different configurations and device technologies, showing 1.3-6.0X energy improvement for SRAM and 2.0-7.9X for FeFET-RAM, respectively.

中文翻译：

---

Eva-CiM：用于内存计算架构的系统级性能和能源评估框架

内存计算 (CiM) 架构旨在通过在内存中执行算术和逻辑运算来减少昂贵的数据传输，从而缓解内存墙带来的压力。然而，确定给定的工作负载是否真的可以从 CiM 中受益，CiM 架构应该采用哪种存储器层次结构和什么设备技术需要深入研究，这不仅耗时，而且需要在架构和编译器方面具有丰富的专业知识。本文提出了一个能源评估框架，Eva-CiM，用于基于 CiM 架构的系统。Eva-CiM 通过利用现有的建模和仿真工具，如 GEM5、McPAT [2] 和 DESTINY [3]，包含一个多层次（从设备到架构）综合工具链。支持高置信度预测、快速设计空间探索和易用性，Eva-CiM 引入了几种新颖的建模/分析方法，包括用于捕获内存访问和依赖感知 ISA 跟踪的模型，以及用于量化主机 CPU 和 CiM 模块之间的交互的模型。Eva-CiM 可以很容易地为给定程序、处理器架构以及 CiM 阵列和技术规范生成整个系统的能量估计。Eva-CiM 已通过与 DESTINY [3] 和 [4] 的比较得到验证，并能够得出结论，包括来自 CiM 支持的访问的实际贡献、CiM 敏感的基准测试以及 CiM 增加内存大小的利弊。Eva-CiM 还可以探索不同的配置和器件技术，分别显示 SRAM 和 FeFET-RAM 的能量提高 1.3-6.0 倍和 2.0-7.9 倍。以及量化主机 CPU 和 CiM 模块之间的交互。Eva-CiM 可以很容易地为给定程序、处理器架构以及 CiM 阵列和技术规范生成整个系统的能量估计。Eva-CiM 已通过与 DESTINY [3] 和 [4] 的比较得到验证，并能够得出结论，包括来自 CiM 支持的访问的实际贡献、CiM 敏感的基准测试以及 CiM 增加内存大小的利弊。Eva-CiM 还可以探索不同的配置和器件技术，分别显示 SRAM 和 FeFET-RAM 的能量提高 1.3-6.0 倍和 2.0-7.9 倍。以及量化主机 CPU 和 CiM 模块之间的交互。Eva-CiM 可以很容易地为给定程序、处理器架构以及 CiM 阵列和技术规范生成整个系统的能量估计。Eva-CiM 已通过与 DESTINY [3] 和 [4] 的比较得到验证，并能够得出结论，包括来自 CiM 支持的访问的实际贡献、CiM 敏感的基准测试以及 CiM 增加内存大小的利弊。Eva-CiM 还可以探索不同的配置和器件技术，分别显示 SRAM 和 FeFET-RAM 的能量提高 1.3-6.0 倍和 2.0-7.9 倍。Eva-CiM 已通过与 DESTINY [3] 和 [4] 的比较得到验证，并能够得出结论，包括来自 CiM 支持的访问的实际贡献、CiM 敏感的基准测试以及 CiM 增加内存大小的利弊。Eva-CiM 还可以探索不同的配置和器件技术，分别显示 SRAM 和 FeFET-RAM 的能量提高 1.3-6.0 倍和 2.0-7.9 倍。Eva-CiM 已通过与 DESTINY [3] 和 [4] 的比较得到验证，并能够得出结论，包括来自 CiM 支持的访问的实际贡献、CiM 敏感的基准测试以及 CiM 增加内存大小的利弊。Eva-CiM 还可以探索不同的配置和器件技术，分别显示 SRAM 和 FeFET-RAM 的能量提高 1.3-6.0 倍和 2.0-7.9 倍。