Hadoop伪分布式搭建

技术Hadoop伪分布式搭建 Hadoop伪分布式搭建Hadoop伪分布式搭建
伪分布式一开始不需要克隆虚拟机,其余配置和Hadoop完全分布式一样
1. Hadoop安装
1.1 上传文件
用xftp

Hadoop伪分布式搭建

Hadoop伪分布式搭建

伪分布式一开始不需要克隆虚拟机,其余配置和Hadoop完全分布式一样

1. Hadoop安装

1.1 上传文件

用xftp上传hadoop-2.6.0.tar.gz文件到/opt/软件中

1.2 解压文件

进入/opt/软件中解压

CD/opt/软件/进入/opt/软件目录

(tar -zxvf Hadoop包名-丙指定的路径)

tar-zxvf Hadoop-2 . 6 . 0 . tar . gz-C/opt/module//把文件加压到/opt/模块目录中

进入解压后的Hadoop目录修改hadoop-2.6.0为hadoop

CD/opt/模块

mv hadoop-2.6.0 hadoop//修改hadoop-2.6.0为hadoop

1.3 设置环境变量

命令:

vi /root/bash_profile

加入下面内容:

导出HADOOP _ HOME=/opt/module/HADOOP//等号后面是hadoop解压后的路径

导出路径=$PATH:$HADOOP_HOME/bin

导出路径=$PATH:$HADOOP_HOME/sbin

使设置立即生效:

源/根/。bash_profile

验证是否成功:

hadoop版本

1.4 配置Hadoop

配置前进入hadoop中的/etc/hadoop

光盘/opt/模块/Hadoop/etc/Hadoop

1.4.1 修改hadoop-env.sh、yarn-env.sh、mapred-env.sh

找到JAVA_HOME修改他们的JAVA_HOME路径

命令:

六。hadoop-env.sh//进入hadoop-env.sh进行修改

六。yarn-env.sh//进入纱线-环境嘘进行修改

六。mapred-env.sh//进入mapred-env.sh进行修改

配置其中的JAVA_HOME路径(路径根据自己虚拟机上的配置来定)

导出JAVA _ HOME=/opt/module/JDK 1。8 .0 _ 281

1.4.2 配置core-site.xml

命令:

视觉识别系统核心网站。可扩展标记语言

在中添加如下:

!-指定HDFS中名称节点的地址-

财产

namefs.defaultFS/name

价值HDFS ://大师:9000/价值

/property

!-指定Hadoop运行时产生文件的存储目录-

财产

namehadoop.tmp.dir/name

价值/hadoop安装路径/数据/值

/property

1.4.3 配置hdfs-site.xml

命令:

vi hdfs-site.xml

在中添加如下:

!-指定HDFS副本的数量-

财产

namedfs.replication/name

值1/值

/property

1.4.4 配置yarn-site.xml

命令:

视觉识别系统纱线-site.xml

在中添加如下:

!-减速器获取数据的方式-

财产

命名院子。节点管理器。辅助服务/名称

valuemapreduce_shuffle/value

/property

!-指定故事的资源管理器的地址-

财产

nameyarn.resourcemanager.hostname/name

价值主管/值

/property

1.4.5 配置mapred-site.xml

配置前先把mapred-site.xml。模板名字改为mapred-site.xml

mv地图网站。XML。模板映射网站。可扩展标记语言

进入mapred-site.xml进行修改

vi mapred-site.xml

在中添加如下:

!-历史服务器端地址-

财产

namemapreduce.jobhistory.address/name

valuemaster:10020/value

/property

!-历史服务器网端地址-

财产

namemapreduce.jobhistory.webapp.address/name

valuemaster:19888/value

/property

1.5 启动Hadoop

(1)第一次启动要格式化

hdfs名称节点-格式

(2)启动集群(需进入hadoop安装目录)

sbin/start-all.sh

(3)关闭集群(需进入hadoop安装目录)

sbin/stop-all.sh

hdfs网站访问地址:192.168.1.110:50070

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/77285.html

(0)

相关推荐

  • 深入理解C++11-附录B

    技术深入理解C++11-附录B 深入理解C++11-附录B深入理解C++11
    附录B
    弃用的特征
    1.auto:
    可在任何需要声明变量类型的上文中使用,但不能声明函数参数(因为重载的原因,不能这么使用)

    礼包 2021年11月23日
  • Collection集合-List-Set

    技术Collection集合-List-Set Collection集合-List-Set两大体系1.Collection集合-List-Set2.Map集合核心1.ArrayList 2.HashMa

    礼包 2021年12月7日
  • 怎样处理Java程序中的内存漏洞

    技术怎样处理Java程序中的内存漏洞本篇文章为大家展示了怎样处理Java程序中的内存漏洞,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。 Java 程序中也有内存漏洞?当然有。与流

    攻略 2021年12月2日
  • 如何修改IIS目录的ASP.NET版本

    技术如何修改IIS目录的ASP.NET版本这篇文章将为大家详细讲解有关如何修改IIS目录的ASP.NET版本,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。一个用于修改虚拟目录的ASP.

    攻略 2021年11月19日
  • android httpClient 支持HTTPS的访问方式是怎样的

    技术android httpClient 支持HTTPS的访问方式是怎样的这篇文章将为大家详细讲解有关android httpClient 支持HTTPS的访问方式是怎样的,文章内容质量较高,因此小编分享给大家做个参考,

    攻略 2021年11月12日
  • IP代理软件怎么助力新媒体增长

    技术IP代理软件怎么助力新媒体增长小编给大家分享一下IP代理软件怎么助力新媒体增长,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!1、在各种方式

    攻略 2021年11月1日