Memory approximation techniques are commonly limited in scope, targeting individual levels of the memory hierarchy. Existing approximation techniques for a full memory hierarchy determine optimal configurations at design-time provided a goal and application. Such policies are rigid: they cannot adapt to unknown workloads and must be redesigned for different memory configurations and technologies. We propose AXES: the first self-optimizing runtime manager for coordinating configurable approximation knobs across all levels of the memory hierarchy. AXES continuously updates and optimizes its approximation management policy throughout runtime for diverse workloads. AXES optimizes the approximate memory configuration to minimize power consumption without compromising the quality threshold specified by application developers. AXES can (1) learn a policy at runtime to manage variable application quality of service (QoS) constraints, (2) automatically optimize for a target metric within those constraints, and (3) coordinate runtime decisions for interdependent knobs and subsystems. We demonstrate AXES' ability to efficiently provide functions 1-3 on a RISC-V Linux platform with approximate memory segments in the on-chip cache and main memory. We demonstrate AXES' ability to save up to 37% energy in the memory subsystem without any design-time overhead. We show AXES' ability to reduce QoS violations by 75% with $<5\%$ additional energy.

中文翻译：

---

AXES：新兴内存架构的近似管理器

内存近似技术通常在范围上受到限制，针对内存层次结构的各个级别。现有的用于完整存储器层次结构的近似技术在设计时确定最佳配置提供了目标和应用。这种策略是死板的：它们无法适应未知的工作负载，必须针对不同的内存配置和技术进行重新设计。我们建议使用 AXES：第一个自优化运行时管理器，用于在所有级别的内存层次结构中协调可配置的近似旋钮。AXES 在整个运行时针对不同的工作负载不断更新和优化其近似管理策略。AXES 优化了近似内存配置，以在不影响应用程序开发人员指定的质量阈值的情况下最大限度地降低功耗。AXES 可以 (1) 在运行时学习策略以管理可变的应用程序服务质量 (QoS) 约束，(2) 自动优化这些约束内的目标指标，以及 (3) 协调相互依赖的旋钮和子系统的运行时决策。我们展示了 AXES 在 RISC-V Linux 平台上有效提供功能 1-3 的能力，在片上缓存和主存储器中具有近似的内存段。我们展示了 AXES 能够在没有任何设计时开销的情况下在内存子系统中节省高达 37% 的能量。我们展示了 AXES 能够以 $<5\%$ 额外能量将 QoS 违规减少 75%。(3) 协调相互依赖的旋钮和子系统的运行时决策。我们展示了 AXES 在 RISC-V Linux 平台上有效提供功能 1-3 的能力，在片上缓存和主存储器中具有近似的内存段。我们展示了 AXES 能够在没有任何设计时开销的情况下在内存子系统中节省高达 37% 的能量。我们展示了 AXES 能够以 $<5\%$ 额外能量将 QoS 违规减少 75%。(3) 协调相互依赖的旋钮和子系统的运行时决策。我们展示了 AXES 在 RISC-V Linux 平台上有效提供功能 1-3 的能力，在片上缓存和主存储器中具有近似的内存段。我们展示了 AXES 能够在没有任何设计时开销的情况下在内存子系统中节省高达 37% 的能量。我们展示了 AXES 能够以 $<5\%$ 额外能量将 QoS 违规减少 75%。