主流OLAP分析引擎概览「2」

当前OLAP引擎主要有Kylin、Impala、Kudu、Presto、Druid、Clickhouse、Doris、TiDB、Hawq、Hive、SparkSQL、SnappyData、Elasticsearch、Greenplum等。

当前OLAP引擎主要有Kylin、Impala、Kudu、Presto、Druid、Clickhouse、Doris、TiDB、Hawq、Hive、SparkSQL、SnappyData、Elasticsearch、Greenplum等。

上一篇文章:主流OLAP分析引擎概览

本文继续介绍主流的OLAP引擎。

主流OLAP分析引擎概览「2」

Apache Kylin 是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay公司开发并贡献到Apche开源社区成为顶级项目的。它能在亚秒内查询巨大的Hive表。

Kylin 是OLAP引擎中的MOLAP处理方式,其实它的核心是Cube和Cuboid,Cube是一种预计算技术,基本思路是预先对数据作多维索引,查询时只扫描索引指向的数据聚合结果而不访问原始数据,同时避免了数据的聚合操作从而实现查询提速。

主流OLAP分析引擎概览「2」

Apache Kudu是由Cloudera开源的存储引擎,可以同时提供低延迟的随机读写和高效的数据分析能力。Kudu支持水平扩展,使用Raft协议进行一致性保证,并且与Cloudera Impala和Apache Spark等当前流行的大数据查询和分析工具结合紧密。

我们知道,基于HDFS的存储技术,比如Parquet,具有高吞吐量连续读取数据的能力;而HBase和Cassandra等技术适用于低延迟的随机读写场景,那么有没有一种技术可以同时具备这两种优点呢?Kudu提供了一种“happy medium”的选择。

Kudu不但提供了行级的插入、更新、删除API,同时也提供了接近Parquet性能的批量扫描操作。使用同一份存储,既可以进行随机读写,也可以满足数据分析的要求。

Kudu的架构

与HDFS和HBase相似,Kudu使用单个的Master节点,用来管理集群的元数据,并且使用任意数量的Tablet Server节点用来存储实际数据。可以部署多个Master节点来提高容错性。

主流OLAP分析引擎概览「2」

主流OLAP分析引擎概览「2」

Apache Druid。由美国广告技术公司MetaMarkets公司2012年开源,孵化于Apache。

Druid 是一个分布式的、支持实时多维 OLAP 分析的数据处理系统。它既支持高速的数据实时摄入处理,也支持实时且灵活的多维数据分析查询。因此 Druid 最常用的场景就是大数据背景下、灵活快速的多维 OLAP 分析。 另外,Druid 还有一个关键的特点:它支持根据时间戳对数据进行预聚合摄入和聚合分析,因此也有用户经常在有时序数据处理分析的场景中用到它。

Druid 数据模型比较简单,它将数据进行预聚合,只不过预聚合的方式与 Kylin 不同,kylin 是 Cube 化,Druid 的预聚合方式是将所有维度进行 Group-by。

Kylin、Druid 只适合聚合场景,ClickHouse、Doris 适合明细和聚合场景。

主流OLAP分析引擎概览「2」

衡量OLAP特定业务场景的两个重要的指标:

查询速度:Search Latency(常用Search Latency Pct99来衡量)

查询并发能力:QPS

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/71915.html

(0)

相关推荐

  • 老人大小便护理机器人,智能大小便护理设备

    科技融入护理领域,一切不再是难题!

    科技 2021年10月23日
  • 掉头发很厉害 吃黑芝麻管用吗,为什么吃黑芝麻还一直掉发

    食用黑芝麻是“脱发星人”默认的养发偏方。对此,专家詹庆霞表示,黑芝麻内不含任何防脱的成分,而且其中含有很多油脂类物质,对于由脂溢性皮炎造成脱发的患者来说,大量食用反而会加重皮脂的溢出,使脱发情况更加严重。“治疗脱发切忌急于求成、病急乱投医,首先要分析脱发类型、脱发原因,进行系统的检查。”

    生活 2021年11月17日
  • 365幅画册,365个美好的向往,画一幅向往美好生活的画

    很多人都在寻找美,他们觉得远方的一切都是美好的,但中国美学的创始人朱光潜在《谈美》说:知道生活的人就是艺术家,他的生活就是艺术作品。. 在《小小诗画家:给孩子365堂美育课》儿童绘...

    生活 2021年10月23日
  • 美联储主席鲍威尔讲话,美联储主席鲍威尔讲话直播

    本周黄金白银周五之前是持续持续震荡向上看多为主,而且本周黄金已连续7连阳,最后周五加息可能提前影响而出现了调整。但是上周的强势连续7连阳出现在上半年5月与20年的7月,从这两次来看后期黄金不会短期就弱势必定还有进一步的上升。而本周周评的时候我提醒大家关注1834的压力与9号的转折,如果9号转折是高点整体将看空,但是9号最后成为逆推,因为10号突破之后就出现大幅上涨,而这一点就我们就确认要进一步的持续低多。而从本周消息面来看造成本周黄金白银持续震荡向上的原因如下:

    生活 2021年11月21日
  • 读《母爱的羁绊》有感

    《母爱的羁绊》这本书的作者是美国心理咨询师卡瑞尔.麦克布莱德。作为从业28年之久的婚姻家庭治疗专家,她用自己的亲身经历细致入微地分析了来自原生家庭的教育陷阱和以及在此影响下产生的扭曲的母女关系。传统道德体系中一直被称为“伟大的”母亲们,她们用自己的经验去代替孩子的,用自己的“真理”压制孩子的思考,她们用“自己无所不能的爱”一次次挫伤着孩子的生命潜能,压制着孩子的自我成长。在这种被作者定义为“自恋型”母亲教育出来的女儿成为母亲后,由受害者再变为自己女儿的施虐者,周而复始。而这一切都是在无意识中完成的。正如作者在书中所说“情感遗传就像基因遗传一样,不知不觉代代相传”。

    生活 2021年10月3日