利用Alluxio系统提升按需数据分析服务的性能

  • 时间:
  • 浏览:0

1. 架构示例图介绍

Alluxio为用户提供较高的灵活性和数率。任何时需持久化的结果或转换都回会 通过Alluxio直接完成,Alluxio回会 将数据同步传播到底层存储系统,以确保数据不需要可能性节点故障而丢失。此外,用户还回会 挑选仅在Alluxio内存中存储临时数据或上端数据,从而允许计算任务对哪些地方地方缓存的数据进行内存级数率访问。

幸运的是新架构处于的类式什么的问题回会 通过在计算集群上部署Alluxio得到很好的防止。通过引入Alluxio,回会 使得计算任务的I/O数率达到内存级别,而且不时需维护长时间运行的集群或昂贵的前期投入成本。

事实上,类式计算和存储解耦的方案具备上述优势的共同,也处于着另2个 关键的缺点:性能损失。这是可能性底层的对象存储通常并都有为高I / O吞吐量而设计的,而且会愿因 上层的计算分析任务可能性会可能性数据访问数率低下而整体性能变地低效。

版权申明:本文由南京大学顾荣、黄志翻译分发自Alluxio公司技术博客,由Alluxio公司授权云栖社区及CSDN首发(联合),版权归Alluxio公司所有,未经版权所有者同意请勿转载。

在什么都有大数据应用场景中,许多具体的防止什么的问题通常只涉及到整体数据集的另2个 子集或要素数据。这愿因 长时间占用大规模集群的整体数据分析土方式的资源有效利用率较低,而且总体代价较高,尤其在系统采用计算和存储并置(co-locate)部署架构的场景下各位严重。另外,在什么都有即席查询和计算应用中,数据的分析任务通常由上层用户零散地给出,与用于防止管道数据和流数据的连续运行分析任务不同,类式零散的分析任务会造成集群的计算能力许多时间段回会 了被充分利用。当事人面,集群的存储容量时需容纳可能性被访问到的任何数据,尽管实际上每次时需使用的工作集合什么都有我整体数据的一小要素。最后,集群两种还时需血块精心的维护管理工作,以确保集群使用者之间的隔离和性能不受彼此不需要 影响。    

3. 总结

相比于长期运行的计算分析集群高昂的成本和维护工作量,与对象存储结合使用的按需计算集群的架构是另2个 更简洁和更具性价比的服务防止方案。通过在计算集群中并置(co-locate)部署Alluxio和计算框架,大伙克服了类式按需集群模型的关键性的性能缺点。Alluxio系统的分发使其成为大数据软件栈中提供此核心功能的另2个 很好的挑选。

Alluxio是部署在计算群集中的虚拟的分布式存储系统,为上层应用的I/O提供内存级访问数率的性能。 通过Alluxio虚拟化底层存储系统,使得任何基于Alluxio API接口(Alluxio提供HDFS兼容接口)编写的计算程序运行运行都能自动地访问用任何或多个底层存储系统,而不时需修改任何代码。此外,Alluxio是另2个 设计为可横向扩展的分布式存储系统,这愿因 通过部署更多的机器来轻松地存储更大的数据集并提高访问性能。

对于上述哪些地方地方什么的问题的简洁而优雅的防止方案是采用两种上层按需计算集群结合底层对象存储的架构。类式架构通过解耦时需连续运行的持久化存储模块和回会 了处于分析任务才使用的计算模块来防止哪些地方地方什么的问题的根源。与上段提到的时需连续运行的整体化集群架构相比,类式架构具有如下优势:

2. 结合Alluxio系统架构的优势分析

上图显示了利用Alluxio提升按需数据分析服务性能的架构图,从图中回会 看出Alluxio与按需使用的计算集群部署在共同,从而减少计算集群频繁访问远程存储的耗时。

事实上,部署和使用Alluxio对上层程序运行运行而言是简单和透明的。程序运行运行还是不断地访问数据,就好像作业直接访问的是远程存储上的数据,Alluxio会智能地将热数据保处于计算集群的内存中以供后续读取。整个过程对于程序运行运行是透明的,而且不时需进行手动ETL。一旦数据进入Alluxio,它将对集群的所有程序运行运行可用,而且在同一数据集被多次使用的场景中,应用的性能会大幅提高。