关于千万级数据的OLAP场景是什么样的

技术关于千万级数据的OLAP场景是什么样的关于千万级数据的OLAP场景是什么样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。前段时间接手一

许多新手不太清楚数千万数据的OLAP场景。为了帮助大家解决这个问题,下面小编就为大家详细讲解一下。有这种需求的人可以从中学习,希望你能有所收获。

前段时间我接手了一个棘手的项目。

6000万股市数据聚合场景。

从10: 00到10: 10,用户发起查询、分析、然后聚合,最后呈现给用户的时间不超过2秒。

因为聚合维度很多,所以可以分为时间维度和指标维度。指标维度超过10个。

当mongo从10到1010使用时,大约有2000万个数据被首先抛出。没有索引,几乎没有产生任何结果。

如果每个维度都使用索引,成本太高,最后mongo被果断放弃。

00-1010使用mysql,数据是碎片化的,并且非常细粒度,它已经准备好用空间换取时间。

数据冗余主要是基于时间维度,对几个主要时间段和时间点提前做好数据准备。

其他维度很难计算。

想法是好的,考试的结果对我来说相当残酷。

1.硬计算耗时太长。

2.非主时间维度跨度太细,并非都是前置数据。

2010年10月至10月,采用elasticsearch,准备了5台服务器。准备了五个es集群来应对OLAP的情况。

导入5000万数据后,开始测试。

时间维度的其他单个维度在1秒以内。

时间维度的其他维度(3以内)在3秒以内。

阅读以上内容对你有帮助吗?如果您想了解更多相关知识或阅读更多相关文章,请关注行业资讯频道,感谢您的支持。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/37461.html

(0)

相关推荐

  • es6新特性中class基本用法是什么

    技术es6新特性中class基本用法是什么本篇内容主要讲解“es6新特性中class基本用法是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“es6新特性中class基本用

    攻略 2021年11月5日
  • 数据库主复制知识点(数据库主从复制知识点)

    技术数据库中人工选择复制组的主节点方法是什么本篇内容介绍了“数据库中人工选择复制组的主节点方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大

    攻略 2021年12月22日
  • python中如何使用Matplotlib库

    技术python中如何使用Matplotlib库这篇文章将为大家详细讲解有关python中如何使用Matplotlib库,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。Matplotli

    攻略 2021年12月8日
  • 如何实现web微前端沙箱

    技术如何实现web微前端沙箱这篇文章主要讲解了“如何实现web微前端沙箱”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何实现web微前端沙箱”吧!背景应用沙箱可能是微前

    攻略 2021年11月15日
  • Does RSA Private key always contain the Public key, or is it just .NET

    技术Does RSA Private key always contain the Public key, or is it just .NET Does RSA Private key always

    礼包 2021年12月9日
  • 如何在Azure上创建Web App部署Asp.NET Core应用

    技术如何在Azure上创建Web App部署Asp.NET Core应用本篇文章为大家展示了如何在Azure上创建Web App部署Asp.NET Core应用,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章

    攻略 2021年11月19日