关于千万级数据的OLAP场景是什么样的

技术关于千万级数据的OLAP场景是什么样的关于千万级数据的OLAP场景是什么样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。前段时间接手一

许多新手不太清楚数千万数据的OLAP场景。为了帮助大家解决这个问题,下面小编就为大家详细讲解一下。有这种需求的人可以从中学习,希望你能有所收获。

前段时间我接手了一个棘手的项目。

6000万股市数据聚合场景。

从10: 00到10: 10,用户发起查询、分析、然后聚合,最后呈现给用户的时间不超过2秒。

因为聚合维度很多,所以可以分为时间维度和指标维度。指标维度超过10个。

当mongo从10到1010使用时,大约有2000万个数据被首先抛出。没有索引,几乎没有产生任何结果。

如果每个维度都使用索引,成本太高,最后mongo被果断放弃。

00-1010使用mysql,数据是碎片化的,并且非常细粒度,它已经准备好用空间换取时间。

数据冗余主要是基于时间维度,对几个主要时间段和时间点提前做好数据准备。

其他维度很难计算。

想法是好的,考试的结果对我来说相当残酷。

1.硬计算耗时太长。

2.非主时间维度跨度太细,并非都是前置数据。

2010年10月至10月,采用elasticsearch,准备了5台服务器。准备了五个es集群来应对OLAP的情况。

导入5000万数据后,开始测试。

时间维度的其他单个维度在1秒以内。

时间维度的其他维度(3以内)在3秒以内。

阅读以上内容对你有帮助吗?如果您想了解更多相关知识或阅读更多相关文章,请关注行业资讯频道,感谢您的支持。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/37461.html

(0)

相关推荐

  • 牛客网面试题

    技术牛客网面试题 牛客网面试题目录
    一、JAVA
    二、计算机网络
    三、操作系统
    四、项目
    五、数据库
    第六部分 框架
    第七部分 设计模式
    第八部分 数据结构和算法
    第九部分 Linux
    ########

    礼包 2021年12月20日
  • sql设计表结构的常见问题有哪些

    技术sql设计表结构的常见问题有哪些这篇文章主要介绍sql设计表结构的常见问题有哪些,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!1.sql改写遇到表字段经常要增加的业务怎么设计表结构?2.业务问

    攻略 2021年10月26日
  • 互联网中元宇宙概念指的是什么意思

    技术互联网中元宇宙概念指的是什么意思这篇文章将为大家详细讲解有关互联网中元宇宙概念指的是什么意思,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。 元宇宙不是特

    攻略 2021年11月2日
  • mysql5.7无法开启二进制日志的示例分析

    技术mysql5.7无法开启二进制日志的示例分析小编给大家分享一下mysql5.7无法开启二进制日志的示例分析,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起

    攻略 2021年11月6日
  • Animate 2020 安装教程(附安装包资源)

    技术Animate 2020 安装教程(附安装包资源) Animate 2020 安装教程(附安装包资源)原文链接:https://www.gujin.store/tools/package/an-20

    礼包 2021年10月26日
  • 格力空调e6,格力空调显示E6是什么故障

    技术格力空调e6,格力空调显示E6是什么故障格力空调显示E6原因分析格力空调e6:1、通信故障。说明空调是变频的,需要检查一下与室外机的黑色连线部分是否有松脱,没有的话,就需要打人工,让他们安排售后来检查一下。
    2、内机

    生活 2021年10月23日