Apache Spark 是目前最流行的分布式计算框架之一。Spark DataFrame 是一个以命名列方式组织的分布式数据集,在执行时间和内存使用上进行了底层优化,成为了Spark主流数据API,得到了普遍应用。Alluxio 与 Spark 是来自加州大学伯克利分校 AMP 实验室的姊妹项目。为了提升性能和简化数据管理,许多企业如中国联通、BOSS直聘、WeRide文远知行、去哪儿等将Alluxio 与 Spark 部署在一起。
其中,去哪儿网(Qunar)在生产环境中部署了 Alluxio,其 Spark streaming 作业平均提速了15 倍,高峰时段的性能提升更是高达 300 倍。原先一些变慢或无法完成的 Spark 作业,在使用 Alluxio后都能够快速完成。想了解如何实现?点击下载白皮书:
Alluxio 可实现多重优势,帮助 Spark 更有效地执行作业,如何进行配置和操作。立即点击下载白皮书,获悉更多精彩内容。