Clouds inherit CPU scheduling policies of operating systems. These policies enforce fairness while leveraging best-effort mechanisms to enhance responsiveness of all schedulable entities, irrespective of their service level objectives (SLOs). This leads to unpredictable performance that forces cloud providers to enforce strict reservation and isolation policies to prevent high-criticality services (e.g., Memcached) from being impacted by low-criticality ones (e.g., logging), which results in low utilization. In this paper, we present Akita, a hypervisor CPU scheduler that delivers predictable performance at high utilization. Akita allows virtual machines (VMs) to be categorized into high- and low-criticality VMs. Akita provides strong guarantees on the ability of cloud providers to meet SLOs of high-criticality VMs, by temporarily slowing down low-criticality VMs if necessary. Akita, therefore, allows the co-existence of high and low-criticality VMs on the same physical machine, leading to higher utilization. The effectiveness of Akita is demonstrated by a prototype implementation in the Xen hypervisor. We present experimental results that show the many advantages of adopting Akita as the hypervisor CPU scheduler. In particular, we show that high-criticality Memcached VMs are able to deliver predictable performance despite being co-located with low-criticality CPU-bound VMs.

中文翻译：

---

Akita：虚拟化云的 CPU 调度程序

云继承了操作系统的CPU调度策略。这些策略确保公平性，同时利用尽力而为的机制来增强所有可调度实体的响应能力，而不管其服务水平目标 (SLO)。这会导致不可预测的性能，迫使云提供商强制执行严格的预留和隔离策略，以防止高关键性服务（例如 Memcached）受到低关键性服务（例如日志记录）的影响，从而导致利用率低下。在本文中，我们介绍了 Akita，这是一种管理程序 CPU 调度程序，可在高利用率下提供可预测的性能。Akita 允许将虚拟机 (VM) 分为高危和低危 VM。Akita 为云供应商满足高危虚拟机 SLO 的能力提供了强有力的保证，如有必要，通过暂时减慢低关键性虚拟机的速度。因此，Akita 允许在同一台物理机上共存高危和低危虚拟机，从而提高利用率。Xen 虚拟机管理程序中的原型实现证明了 Akita 的有效性。我们展示的实验结果显示了采用 Akita 作为管理程序 CPU 调度程序的许多优势。特别是，我们表明，尽管与低关键性 CPU 密集型 VM 位于同一位置，但高关键性 Memcached 虚拟机仍能够提供可预测的性能。我们展示的实验结果显示了采用 Akita 作为管理程序 CPU 调度程序的许多优势。特别是，我们表明，尽管与低关键性 CPU 绑定的 VM 位于同一位置，但高关键性 Memcached 虚拟机仍能够提供可预测的性能。我们展示的实验结果显示了采用 Akita 作为管理程序 CPU 调度程序的许多优势。特别是，我们表明，尽管与低关键性 CPU 密集型 VM 位于同一位置，但高关键性 Memcached 虚拟机仍能够提供可预测的性能。