最详细的Hadoop环境调试

前言

Hadoop在大数据技术体系中的地位至关重要，Hadoop是大数据技术的基础，对Hadoop基础知识的掌握的扎实程度，会决定在大数据技术道路上走多远。

这是一篇入门文章，Hadoop的学习方法很多，网上也有很多学习路线图。本文的思路是：以安装部署Apache Hadoop2.x版本为主线，来详情Hadoop2.x的架构组成、各板块协同工作原理、技术细节。安装不是目的，通过安装认识Hadoop才是目的。

本文分为五个部分、十三节、四十九步。

第一部分：Linux环境安装

Hadoop是运行在Linux，尽管借助工具也能运行在Windows上，但是建议还是运行在Linux系统上，第一部分详情Linux环境的安装、配置、Java JDK安装等。

第二部分：Hadoop本地模式安装

Hadoop本地模式只是使用于本地开发调试，或者者快速安装体验Hadoop，这部分做简单的详情。

第三部分：Hadoop伪分布式模式安装

学习Hadoop一般是在伪分布式模式下进行。这种模式是在一台机器上各个进程上运行Hadoop的各个板块，伪分布式的意思是尽管各个板块是在各个进程上分开运行的，但是只是运行在一个操作系统上的，并不是真正的分布式。

第四部分：完全分布式安装

完全分布式模式才是生产环境采使用的模式，Hadoop运行在服务器集群上，生产环境一般都会做HA，以实现高可使用。

第五部分：Hadoop HA安装

HA是指高可使用，为理解决Hadoop单点故障问题，生产环境一般都做HA部署。这部分详情了如何配置Hadoop2.x的高可使用，并简单详情了HA的工作原理。

安装过程中，会穿插简单详情涉及到的知识。希望可以对大家有所帮助。

第一部分：Linux环境安装

第一步、配置Vmware NAT网络

一、Vmware网络模式详情

参考：http://blog.csdn.net/collection4u/article/details/14127671

二、NAT模式配置

NAT是网络地址转换，是在宿主机和虚拟机之间添加一个地址转换服务，负责外部和虚拟机之间的通讯转接和IP转换。

我们部署Hadoop集群，这里选择NAT模式，各个虚拟机通过NAT用宿主机的IP来访问外网。

我们的要求是集群中的各个虚拟机有固定的IP、能访问外网，所以进行如下设置：

1、 Vmware安装后，默认的NAT设置如下：