CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

19秒前 45阅读

前置准备:

VMware17

Tabby:https://github.com/Eugeny/tabby/releases/tag/v1.0.207

jdk-8u401:https://www.java.com/en/download/

hbase-1.3.1:https://archive.apache.org/dist/hbase/1.3.1/

hadoop-2.7.7:https://archive.apache.org/dist/hadoop/common/hadoop-2.7.7/

CentOS-7安装镜像:去找其他链接吧

打包在以下百度网盘链接里了

链接:https://pan.baidu.com/s/1VQGGVFOZ5uSo-9P-9reF9A?pwd=igcd

提取码:igcd

1、安装VMware17和Tabby

这里不再详细展开如何安装

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

2、安装centos7

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

顺带一提,装好后关机打个快照可以方便之后克隆装好虚拟机的最纯净状态,不必再次安装虚拟机(能省半个小时它不香吗?)

3、配置静态ip

vim /etc/sysconfig/network-scripts/ifcfg-ens33

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

按a可以进入编辑模式

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

不会看自己网段的看下图

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

要改的

BOOTPROTO="static"

要新增的

IPADDR="192.168.88.102"
GATEWAY="192.168.88.2"
NETMASK="255.255.255.0"
DNS="192.168.88.2"

配完后如下图

注意保存是先按esc键进入命令模式再输入:wq回车

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

重启网络

systemctl restart network

查看下ip

ifconfig

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

打个快照保存下,然后转战tabby

右键左侧当前虚拟机的名称选择快照->拍摄快照

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

4、Tabby连接虚拟机并上传文件

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

选择ssh连接

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

Tabby上传文件

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

查看一下上传的目录

ls /usr/local/

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

5、解压并配置环境变量

先给jdk创建一个新目录

mkdir -p /export/server

解压jdk:

tar -zxvf /usr/local/jdk-8u401-linux-x64.tar.gz -C /export/server/

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

解压hadoop:

tar -zxvf /usr/local/hadoop-2.7.7.tar.gz -C /usr/local/

解压hbase:

tar -zxvf /usr/local/hbase-1.3.1-bin.tar.gz -C /usr/local/

改名jdk:

mv /export/server/jdk1.8.0_401 /export/server/jdk

改名hadoop:

mv /usr/local/hadoop-2.7.7 /usr/local/hadoop

改名hbase:

mv /usr/local/hbase-1.3.1 /usr/local/hbase

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

进入环境变量文件:

vim /etc/profile

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

export JAVA_HOME=/export/server/jdk
export PATH=$PATH:$JAVA_HOME/bin
export HADOOP_HOME=/usr/local/hadoop
export PATH=.:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
export HBASE_HOME=/usr/local/hbase
export PATH=$PATH:$HBASE_HOME/bin

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

应用环境变量:

source /etc/profile

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

6、一些其他的基础配置

关闭防火墙

关闭本次:

systemctl stop firewalld

关闭开机自启:

systemctl disable firewalld

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

关闭selinux

临时关闭:

setenforce 0

修改配置文件:

vim /etc/sysconfig/selinux

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

SELINUX=disabled

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

更改主机名(这里的主机名要与后边配置hadoop和hbase时完全一致):

hostnamectl set-hostname node2

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

修改hosts映射文件:

vim /etc/hosts

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

在里面添加一行:自己的ip(刚配的)+主机名

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

配置ssh免密登录:

ssh-keygen -t rsa

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

创建密钥文件:

cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

如果查看Java版本时(java -version)显示的不是1.8.0.401可以删除掉本机上自带的其他jdk

查看本机已安装jdk命令:

rpm -qa|grep java

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

删除命令:rpm -e --nodeps xxxxxx(xxxxxx指代你要删除的软件,示例见下图)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

7、配置hadoop

配置hadoop-env.sh:

vim /usr/local/hadoop/etc/hadoop/hadoop-env.sh
export JAVA_HOME=/export/server/jdk

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

配置yarn-env.sh:

vim /usr/local/hadoop/etc/hadoop/yarn-env.sh
export JAVA_HOME=/export/server/jdk

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

配置core-site.xml:

vim /usr/local/hadoop/etc/hadoop/core-site.xml
 fs.defaultFS
 hdfs://192.168.88.102:8020


  hadoop.tmp.dir
  /usr/local/hadoop/tmp

下图ip地址和代码块内对应不上,以代码块为主

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

配置hdfs-site.xml:

vim /usr/local/hadoop/etc/hadoop/hdfs-site.xml
 dfs.replication
 1

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

因为没有mapred-site.xml只有mapred-site.xml.template所以要复制一份

命令:

cp /usr/local/hadoop/etc/hadoop/mapred-site.xml.template /usr/local/hadoop/etc/hadoop/mapred-site.xml

配置mapred-site.xml:

vim /usr/local/hadoop/etc/hadoop/mapred-site.xml
 mapreduce.framework.name
 yarn

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

配置yarn-site.xml:

vim /usr/local/hadoop/etc/hadoop/yarn-site.xml
 yarn.nodemanager.aux-services
 mapreduce_shuffle

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

格式化hadoop:

hadoop namenode -format

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

启动hadoop:

start-all.sh

查看是否成功方法1:

jps

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

查看是否成功方法2:浏览器内输入地址http://192.168.88.102:50070/(ip改成自己的,能ping通虚拟机的都可以访问)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

关闭hadoop命令为:

stop-all.sh

这里不做演示

配好了之后可以再拍个快照以防配错

8、配置hbase伪分布式模式

配置hbase-env.sh:

vim /usr/local/hbase/conf/hbase-env.sh

加上

export JAVA_HOME=/export/server/jdk
export HBASE_MANAGES_ZK=true

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

配置hbase-site.xml:

vim /usr/local/hbase/conf/hbase-site.xml

注意一定要应该修改的一定要修改

 hbase.rootdir
 hdfs://node2:8020/hbase


 hbase.zookeeper.quorum
 node2



 dfs.replication
 1


 hbase.cluster.distributed
 true


 hbase.zookeeper.property.dataDir
 /usr/local/hbase/data/zookeeper

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

开启(开启前需要开启hadoop):

start-hbase.sh

查看是否成功方法1:

jps

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

查看是否成功方法2:浏览器内输入地址http://192.168.88.102:16010/(ip改成自己的,能ping通虚拟机的都可以访问)

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

关闭时注意先关hbase再关hadoop。

关闭hbase:

stop-hbase.sh

配好后别忘了拍个快照备份一下

9、解决某些服务启动不起来的问题(持续更新)

9.1无namenode

一种可能的原因是格式化化多次但没有删除以前格式化时的文件,导致唯一识别标识集群id变化了。所以启动不起来namenode 

解决方法:删除以前格式化的文件重新格式化

删除临时文件:

rm -rf /tmp/hadoop*

删除在core-site.xml中配置的格式化文件地址的文件夹:

rm -rf /usr/local/hadoop/tmp

每个人配置的地址不同请查看自己的core-site.xml文件

CentOS 7配置hadoop和hbase伪分布式模式保姆级教程(近乎零基础跟着配也能配对)

VPS购买请点击我

文章版权声明:除非注明,否则均为主机测评原创文章,转载或复制请以超链接形式并注明出处。

目录[+]