博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
hadoop-1.2.1安装配置
阅读量:5043 次
发布时间:2019-06-12

本文共 2537 字,大约阅读时间需要 8 分钟。

1.准备三台节点 hnd1  hnd2  hnd3

下载 hadoop 

下载地址:http://apache.fayea.com/hadoop/common/

API文档:http://hadoop.apache.org/docs/r1.0.4/cn/index.html

2.解压;tar -zxvf hadoop-1.2.1.tar.gz

添加软连接:ln -sf /home/hadoop/package/hadoop-1.2.1 /home/hadoop-1.2

3.更改配置:

进入/home/hadoop-1.2/conf
修改 vi core-site.xml 配置hdfs的入口和工作目录
可参考:http://hadoop.apache.org/docs/r1.2.1/single_node_setup.html
file:///D:/tool/%E6%96%87%E6%A1%A3/db/hadoop-1.2.1/hadoop-1.2.1/docs/core-default.html
修改hadoop.tmp.dir这个目录 dfs等很多工作目录是以此为基础的

fs.default.name
hdfs://hnd1:9000
hadoop.tmp.dir
/opt/hadoop-1.2

修改 vi hdfs-site.xml 配置副本数 不配的情况下默认是3

dfs.replication
2

修改 vi slaves 配置datanode

hnd2
hnd3

修改 vi masters 配置second NameNode

hnd2 就是second NameNode配置到第二台系统中

4.ssh免密码登录

生成密钥到/root/.ssh目录下
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
执行下面命令实现本地免密码登录
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
跨系统免密码登录
拷贝hnd1公钥到hnd2root目录下 scp id_dsa.pub root@hnd2:~
在hnd2中root目录下 cat id_dsa.pub >> ~/.ssh/authorized_keys
这样就可以访问了

5.启动服务

把tar包拷贝到其它节点上
scp -r /home/hadoop/package/hadoop-1.2.1.tar.gz root@hnd2:~/
scp -r /home/hadoop/package/hadoop-1.2.1.tar.gz root@hnd3:~/
解压 tar -zxvf hadoop-1.2.1.tar.gz
创建软链ln -sf /root/hadoop-1.2.1 /home/hadoop-1.2
把hnd1的配置/home/hadoop-1.2/conf
这个目录全部拷贝到hnd2\hnd3
scp ./* root@hnd2:/home/hadoop-1.2/conf/
scp ./* root@hnd3:/home/hadoop-1.2/conf/
bin目录下格式化 ./hadoop namenode -format
启动服务 ./start-dfs.sh

6.启动时JAVA_HOME is not set.

conf 配置
vi hadoop-env.sh

JAVA_HOME的配置

解压 tar -zxvf jdk-8u91-linux-x64.tar.gz
配置 export JAVA_HOME=/usr/java/jdk1.8.0_77
PATH=$JAVA_HOME/bin:$PATH:$HOME/bin
执行 source .bash_profile
查看 Java -version OK

其它节点安装jdk

拷贝 scp -r /home/hadoop/package/jdk-8u91-linux-x64.tar.gz root@hnd2:~/
scp -r /home/hadoop/package/jdk-8u91-linux-x64.tar.gz root@hnd3:~/

7.
jps 查看启动的进程
其他节点上的进程没有启动 关闭防火墙
service iptables stop

8.访问 http://hnd1:50070/

本地需要配置域名解析
C:\Windows\System32\drivers\etc hosts

9.

ssh: Could not resolve hostname hnd2: Name or service not known
vi /etc/hosts
192.168.40.101 hnd1
192.168.40.102 hnd2
192.168.40.103 hnd3

vi /etc/sysconfig/network

NETWORKING=yes
HOSTNAME=h1

 

xshell 连接linux命令 ssh 192.168.40.101

断开的命令:exit

 

IT技术和行业交流群: 417691667

转载于:https://www.cnblogs.com/sun-rain/p/5429715.html

你可能感兴趣的文章
AngularJS学习篇(一)
查看>>
【转载】 IP实时传输协议RTP/RTCP详解
查看>>
关于Xshell无法连接centos6.4的问题
查看>>
Linux系统的数据写入机制--延迟写入
查看>>
css3动画——基本准则
查看>>
javaweb常识
查看>>
Java注解
查看>>
时间>金钱
查看>>
元数据元素
查看>>
Visual Studio Code 构建C/C++开发环境
查看>>
web自己主动保存表单
查看>>
一个小的日常实践——高速Fibonacci数算法
查看>>
创建与删除索引
查看>>
java的基本数据类型
查看>>
机器学些技法(9)--Decision Tree
查看>>
静态页面复习--用semantic UI写一个10min首页
查看>>
在Windows下安装64位压缩包版mysql 5.7.11版本的方法
查看>>
drf权限组件
查看>>
输入月份和日期,得出是今年第几天
查看>>
利用mysqldump备份mysql
查看>>