ORC在Hive中如何应用

技术ORC在Hive中如何应用这篇文章主要介绍了ORC在Hive中如何应用,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。ORC文件不仅仅是一种列式文件存储

本文主要介绍ORC在Hive中的应用,具有一定的参考价值。有兴趣的朋友可以参考一下。希望大家看完这篇文章后有很多收获。让边肖带你去了解一下。

ORC文件不仅是列式文件存储格式,也是很高的压缩比文件,是MapReduce的可切分(Split)文件。因此,在Hive中使用ORC作为表的文件存储格式,不仅可以在很大程度上节省HDFS存储资源,还可以大大提高数据的查询和处理性能,因为ORC比其他文件格式具有更高的压缩比,而且查询Task的输入数据减少,使用的任务也减少。

性能改进的另一个方面是为ORC文件中的每个字段建立一个轻量级的索引,以确定文件中是否满足WHERE子句中的筛选条件。例如,在执行HQL语句“SELECT COUNT(1) FROM xxx WHERE a=1”时,首先从ORC文件的元数据中读取索引信息,快速定位id=0所在的偏移量,如果在索引信息中没有找到id=0的信息,则直接跳过该文件。

在hive中执行以下语句,创建一个新的Hive表xxx,并将存储格式指定为ORC。

CREATETABLExxx(名称字符串,颜色字符串)STOREDASORC

如果一个表不是以ORC格式存储的,并且您想现在将其更改为ORC格式,您可以执行以下语句:

alteretablexxxsetfileformatorc;

从hive 0.14版本开始,可以执行以下语句来合并ORC小文件。合并发生在条带级别,因此没有重新解压缩编码。

alter table XXX[partition partition _ spec]CONCATENATE;

如果想查看ORC文件的信息,可以执行以下语句,其中path为hdfs路径。

hive-orckfile dumppath _ to _ file

从Hive 1.1开始,如果想查看ORC的数据内容,可以执行以下语句:

hive-orckfile dump-dpath _ to _ file

感谢您仔细阅读本文。希望边肖分享的文章《如何在蜂巢应用ORC》对大家有所帮助。同时希望大家多多支持,关注行业信息渠道,多了解!

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/143185.html

(0)

相关推荐

  • nh4电子式,电子式要怎么写,和离子式的区别?

    技术nh4电子式,电子式要怎么写,和离子式的区别?电子式一般针对单个的分子或原子出题,让你写出他们的电子式,即各自外部电子的分布或排布情况nh4电子式。离子式一般用在写离子方程式上,离子即物质溶于水后所形成的粒子,比如说

    生活 2021年10月20日
  • SpringBoot怎么实现持久化登录状态获取

    技术SpringBoot怎么实现持久化登录状态获取本篇内容主要讲解“SpringBoot怎么实现持久化登录状态获取”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“SpringB

    攻略 2021年11月9日
  • 配置ssh时本地验证失败怎么办(ssh提示密钥问题)

    技术SCP未验证主机密钥错误怎么解决本篇文章给大家分享的是有关SCP未验证主机密钥错误怎么解决,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。最近在研究ope

    攻略 2021年12月23日
  • 自建蜘蛛池用什么服务器比较好

    技术自建蜘蛛池用什么服务器比较好什么是蜘蛛池? 蜘蛛池原理其实很简单,就是由大量域名组成的站群,每个网站下生生成海量页面,这些页面内容都是相互组合拼凑出来的,没有什么质量可言,可以说就是一大群垃圾站点,但是这群网站,每个

    礼包 2021年10月30日
  • 富文本编辑器 从word中复制内容带多张图片

    技术富文本编辑器 从word中复制内容带多张图片 富文本编辑器 从word中复制内容带多张图片?
    1.4.2之后官方并没有做功能的改动,1.4.2在word复制这块没有bug,其他版本会出现手动无法转存

    礼包 2021年11月10日
  • Java项目的UML反向工程工具是什么

    技术Java项目的UML反向工程工具是什么这篇文章主要介绍“Java项目的UML反向工程工具是什么”,在日常操作中,相信很多人在Java项目的UML反向工程工具是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操

    攻略 2021年11月2日