澳门黄冠娱乐备用网址 1.预备工作,  搭建伪分布式是为了仿效条件

  首先先不看理论,搭建起环境之后再看;

  首先先不看理论,搭建起环境之后再看;

  搭建伪分布式是为着仿效条件,调试方便。

  搭建伪分布式是为着模仿条件,调试方便。

  电脑是win10,用的虚拟机VMware Workstation 12
Pro,跑的Linux系统是centos6.5 ,装的hadoop2.6.0,jdk1.8;

  电脑是win10,用的虚构机VMware Workstation 12
Pro,跑的Linux系统是centos6.5 ,装的hadoop2.6.0,jdk1.8;

  1.准备工作

  1.备选工作

  准备工作:把JDK和Hadoop安装包上传到linux系统(hadoop用户的根目录)

  准备干活:把JDK和Hadoop安装包上传到linux系统(hadoop用户的根目录)

  系统环境:IP:192.168.80.99,

  系统环境:IP:192.168.80.99,

  linux用户:

澳门黄冠娱乐备用网址,  linux用户:

  root/123456,hadoop/123456

  root/123456,hadoop/123456

  主机名:node

  主机名:node

  把防火墙关闭,root执行:service iptables stop

  把防火墙关闭,root执行:service iptables stop

  2.jdk安装

  2.jdk安装

  1.在hadoop用户的根目录,Jdk解压,(hadoop用户操作)tar -zxvf
jdk-8u65-linux-x64.tar.gz 解压完毕后,在hadoop用户的根目录有一个jdk1.8.0_65目录

  1.在hadoop用户的根目录,Jdk解压,(hadoop用户操作)tar -zxvf
jdk-8u65-linux-x64.tar.gz 解压已毕后,在hadoop用户的根目录有一个jdk1.8.0_65目录

  2.安插环境变量,须求修改/etc/profile文件(root用户操作)切到root用户,输入su命令 vi /etc/profile 进去编辑器后,输入i,进入vi编辑器的插入情势在profile文件最终添加

  2.布署环境变量,须要修改/etc/profile文件(root用户操作)切到root用户,输入su命令 vi /etc/profile 进去编辑器后,输入i,进入vi编辑器的插入方式在profile文件最后添加

JAVA_HOME=/home/hadoop/jdk1.8.0_65

export PATH=$PATH:$JAVA_HOME/bin

JAVA_HOME=/home/hadoop/jdk1.8.0_65

export PATH=$PATH:$JAVA_HOME/bin

  编辑完结后,按下esc退出插入方式输入:,那时在左下角有一个冒号的标识

  编辑完结后,按下esc退出插入格局输入:,那时在左下角有一个冒号的标识

  q   退出不保留

  q   退出不保留

  wq  保存退出

  wq  保存退出

  q!   强制退出

  q!   强制退出

  3.把修改的环境变量生效(hadoop用户操作)

  3.把修改的环境变量生效(hadoop用户操作)

  执行source /etc/profile

  执行source /etc/profile

  4.实施 java -version 查看版本,假诺成功验证jdk配置成功

  4.执行 java -version 查看版本,假设成功验证jdk配置成功

  

  

  3.Hadoop 安装

  3.Hadoop 安装

   1.在hadoop用户的根目录,解压(hadoop用户操作)

   1.在hadoop用户的根目录,解压(hadoop用户操作)

    tar -zxvf hadoop-2.6.0.tar.gz

    tar -zxvf hadoop-2.6.0.tar.gz

   解压落成在hadoop用户的根目录下有一个hadoop-2.6.0目录

   解压已毕在hadoop用户的根目录下有一个hadoop-2.6.0目录

  2.改动配置文件hadoop-2.6.0/etc/hadoop/hadoop-env.sh(hadoop用户操作)

  2.修改配置文件hadoop-2.6.0/etc/hadoop/hadoop-env.sh(hadoop用户操作)

    export JAVA_HOME=/home/hadoop/jdk1.8.0_65

    export JAVA_HOME=/home/hadoop/jdk1.8.0_65

  3.修改配置文件hadoop-2.6.0/etc/hadoop/core-site.xml,添加(hadoop用户操作)

  3.改动配置文件hadoop-2.6.0/etc/hadoop/core-site.xml,添加(hadoop用户操作)

  

  

<property>

<name>fs.defaultFS</name>

<value>hdfs://node:9000</value>

</property>

<property>

<name>fs.defaultFS</name>

<value>hdfs://node:9000</value>

</property>

  4.改动配置文件hadoop-2.6.0/etc/hadoop/hdfs-site.xml,添加(hadoop用户操作)

  4.修改配置文件hadoop-2.6.0/etc/hadoop/hdfs-site.xml,添加(hadoop用户操作)

  

  

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

  5.改动修改配置文件hadoop-2.6.0/etc/hadoop/mapred-site.xml (hadoop用户操作),这几个文件并未,须要复制一份

  5.改动修改配置文件hadoop-2.6.0/etc/hadoop/mapred-site.xml (hadoop用户操作),那一个文件并未,要求复制一份

    cp etc/hadoop/mapred-site.xml.template
etc/hadoop/mapred-site.xml

    cp etc/hadoop/mapred-site.xml.template
etc/hadoop/mapred-site.xml

    添加

    添加

<property>

        <name>mapreduce.framework.name</name>

        <value>yarn</value>

    </property>

<property>

        <name>mapreduce.framework.name</name>

        <value>yarn</value>

    </property>

  6.修改配置文件hadoop-2.6.0/etc/hadoop/yarn-site.xml,添加(hadoop用户操作)

  6.修改配置文件hadoop-2.6.0/etc/hadoop/yarn-site.xml,添加(hadoop用户操作)

<property>

        <name>yarn.nodemanager.aux-services</name>

        <value>mapreduce_shuffle</value>

    </property>

<property>

        <name>yarn.nodemanager.aux-services</name>

        <value>mapreduce_shuffle</value>

    </property>

  

  

  7.改动主机名称(root用户操作),重启生效

  7.改动主机名称(root用户操作),重启生效

    vi /etc/sysconfig/network

    vi /etc/sysconfig/network

  修改HOSTNAME的值为用户名

  修改HOSTNAME的值为用户名

  8.改动/etc/hosts文件(root用户操作),添加: ip 主机名称

  8.修改/etc/hosts文件(root用户操作),添加: ip 主机名称

    192.168.44.199(用自己的ip,上面讲怎么着获得)  node

    192.168.44.199(用自己的ip,上面讲哪些获取)  node

  附:查看ip地址

  附:查看ip地址

  编辑–>虚拟网络编辑器

  编辑–>虚拟网络编辑器

澳门黄冠娱乐备用网址 1

澳门黄冠娱乐备用网址 2

  net形式,选DHCP设置,得到ip地址初阶

  net形式,选DHCP设置,得到ip地址初叶

澳门黄冠娱乐备用网址 3

澳门黄冠娱乐备用网址 4

  

  

 net设置,拿到网关

 net设置,得到网关

澳门黄冠娱乐备用网址 5

澳门黄冠娱乐备用网址 6

点左侧小电脑,选用 VPN Connections–>Configue VPN

点右侧小电脑,选拔 VPN Connections–>Configue VPN

澳门黄冠娱乐备用网址 7

澳门黄冠娱乐备用网址 8

选中eth0,点有左侧edit

选中eth0,点有左侧edit

澳门黄冠娱乐备用网址 9

澳门黄冠娱乐备用网址 10

选取IP Settings
,按照自己的ip按图修改,Address就是您的ip地址,在起头ip地址和终结ip地址之间选一个就行

接纳IP Settings
,按照自己的ip按图修改,Address就是您的ip地址,在开首ip地址和终结ip地址之间选一个就行

澳门黄冠娱乐备用网址 11

澳门黄冠娱乐备用网址 12

  9.格式化HDFS,在hadoop解压目录下,执行如下命令:(hadoop用户操作)

  9.格式化HDFS,在hadoop解压目录下,执行如下命令:(hadoop用户操作)

    bin/hdfs namenode -format

    bin/hdfs namenode -format

  注意:格式化只可以操作一遍,如若因为某种原因,集群无法用,
须求再次格式化,必要把上五回格式化的新闻删除,在/tmp目录里实施 rm –rf *

  注意:格式化只能够操作三遍,借使因为某种原因,集群不可能用,
需求再行格式化,须求把上两次格式化的信息删除,在/tmp目录里举行 rm –rf *

  10.起动集群,在hadoop解压目录下,执行如下命令:(hadoop用户操作,截图用机后来改过,主机为gp)

  10.起头集群,在hadoop解压目录下,执行如下命令:(hadoop用户操作,截图用机后来改过,主机为gp)

    启动集群:sbin/start-all.sh
  要求输入一遍当前用户的密码(通过计划ssh互信解决,截图用机已经计划过ssh不用输密码)

    启动集群:sbin/start-all.sh
  须要输入两回当前用户的密码(通过布置ssh互信解决,截图用机已经配备过ssh不用输密码)

澳门黄冠娱乐备用网址 13

澳门黄冠娱乐备用网址 14

   启动后,在命令行输入jps有以下输出

   启动后,在命令行输入jps有以下输出

澳门黄冠娱乐备用网址 15

澳门黄冠娱乐备用网址 16

关门集群:sbin/stop-all.sh  须求输入三遍当前用户的密码(通过布置ssh互信解决,我的同上)

关闭集群:sbin/stop-all.sh  须求输入一次当前用户的密码(通过安插ssh互信解决,我的同上)

 澳门黄冠娱乐备用网址 17

 澳门黄冠娱乐备用网址 18

  4.SSH互信配置(hadoop用户操作)
  rsa加密方法,公钥和私钥
  1.生成公钥和私钥
  在命令行执行ssh-keygen,然后回车,然后会唤起输入内容,什么都无须写,一路回车
  在hadoop用户根目录下,有一个.ssh目录
  id_rsa 私钥
  id_rsa.pub 公钥
  known_hosts 通过SSH链接到本主机,都会在那边有记录
  2.把公钥给信任的主机(本机)
  在命令行输入ssh-copy-id 主机名称
  ssh-copy-id hadoop
  复制的历程中要求输入信任主机的密码
  3.注解,在命令行输入:ssh 信任主机名称
  ssh hadoop
  若是没有提醒输入密码,则陈设成功

  4.SSH互信配置(hadoop用户操作)
  rsa加密方法,公钥和私钥
  1.生成公钥和私钥
  在命令行执行ssh-keygen,然后回车,然后会提示输入内容,什么都无须写,一路回车
  在hadoop用户根目录下,有一个.ssh目录
  id_rsa 私钥
  id_rsa.pub 公钥
  known_hosts 通过SSH链接到本主机,都会在此间有记录
  2.把公钥给信任的主机(本机)
  在命令行输入ssh-copy-id 主机名称
  ssh-copy-id hadoop
  复制的长河中须求输入信任主机的密码
  3.验证,在命令行输入:ssh 信任主机名称
  ssh hadoop
  借使没有提示输入密码,则配备成功

 澳门黄冠娱乐备用网址 19

 澳门黄冠娱乐备用网址 20

   至此,马到成功。

   至此,水到渠成。

相关文章