Applications with a dynamic workload demand need access to a flexible infrastructure to meet performance guarantees and minimize resource costs. While cloud computing provides the elasticity to scale the infrastructure on demand, cloud service providers lack control and visibility of user space applications, making it difficult to accurately scale the infrastructure. Thus, the burden of scaling falls on the user. That is, the user must determine when to trigger scaling and how much to scale. Scaling becomes even more challenging when applications exhibit dynamic changes in their behavior. In this paper, we propose a new cloud service, Dependable Compute Cloud (DC2), that automatically scales the infrastructure to meet the user-specified performance requirements, even when multiple user requests execute concurrently. DC2 employs Kalman filtering to automatically learn the (possibly changing) system parameters for each application, allowing it to proactively scale the infrastructure to meet performance guarantees. Importantly, DC2 is designed for the cloud - it is application-agnostic and does not require any offline application profiling or benchmarking, training data, or expert knowledge about the application. We evaluate DC2 via implementation on OpenStack using a multi-tier application under a range of workload mixes and arrival traces. Our experimental results demonstrate the robustness and superiority of DC2 over existing rule-based approaches with respect to avoiding SLA violations and minimizing resource consumption.

中文翻译：

---

为云部署的应用程序提供性能保证

具有动态工作负载需求的应用程序需要访问灵活的基础架构，以满足性能保证并最大限度地降低资源成本。虽然云计算提供了按需扩展基础架构的弹性，但云服务提供商缺乏对用户空间应用程序的控制和可见性，因此难以准确扩展基础架构。因此，缩放的负担落在了用户身上。也就是说，用户必须确定何时触发缩放以及缩放多少。当应用程序表现出其行为的动态变化时，扩展变得更具挑战性。在本文中，我们提出了一种新的云服务，即可靠计算云 (DC2)，它可以自动扩展基础设施以满足用户指定的性能要求，即使在多个用户请求同时执行时也是如此。DC2 采用卡尔曼滤波来自动学习每个应用程序的（可能发生变化的）系统参数，从而使其能够主动扩展基础设施以满足性能保证。重要的是，DC2 是为云设计的——它与应用程序无关，不需要任何离线应用程序分析或基准测试、训练数据或有关应用程序的专家知识。我们通过在一系列工作负载混合和到达跟踪下使用多层应用程序在 OpenStack 上的实现来评估 DC2。我们的实验结果证明了 DC2 在避免违反 SLA 和最小化资源消耗方面相对于现有的基于规则的方法的鲁棒性和优越性。允许它主动扩展基础设施以满足性能保证。重要的是，DC2 是为云设计的——它与应用程序无关，不需要任何离线应用程序分析或基准测试、训练数据或有关应用程序的专家知识。我们通过在一系列工作负载混合和到达跟踪下使用多层应用程序在 OpenStack 上的实现来评估 DC2。我们的实验结果证明了 DC2 在避免违反 SLA 和最小化资源消耗方面相对于现有的基于规则的方法的鲁棒性和优越性。允许它主动扩展基础设施以满足性能保证。重要的是，DC2 是为云设计的——它与应用程序无关，不需要任何离线应用程序分析或基准测试、训练数据或有关应用程序的专家知识。我们通过在一系列工作负载混合和到达跟踪下使用多层应用程序在 OpenStack 上的实现来评估 DC2。我们的实验结果证明了 DC2 在避免违反 SLA 和最小化资源消耗方面相对于现有的基于规则的方法的鲁棒性和优越性。我们通过在一系列工作负载混合和到达跟踪下使用多层应用程序在 OpenStack 上的实现来评估 DC2。我们的实验结果证明了 DC2 在避免违反 SLA 和最小化资源消耗方面相对于现有的基于规则的方法的鲁棒性和优越性。我们通过在一系列工作负载混合和到达跟踪下使用多层应用程序在 OpenStack 上的实现来评估 DC2。我们的实验结果证明了 DC2 在避免违反 SLA 和最小化资源消耗方面相对于现有的基于规则的方法的鲁棒性和优越性。