这篇文章主要介绍的是hadoop2.0的ha(high avalability 高可用性),在介绍hadoop2.0的ha配置之前,本文先介绍hadoop2.0 ha的基本原理和2种方式。
1.概述在hadoop2.0之前,namenode只有一个,存在单点问题(虽然hadoop1.0有secondarynamenode,checkpointnode、buckcupnode这些,但是单点问题依然存在),在hadoop2.0引入了ha机制。hadoop2.0的ha机制官方介绍了有2种方式,一种是nfs(net work file system)方式,另外一种是qjm(quorum journal manager)方式。
2.基本原理hadoop2.0的ha机制有两个namenode,一个是active namenode,状态是active;另外一个是standby namenode,状态是standby。两者的状态是可以切换的,但不能同时都是active状态,最多只有1个是active状态。只有active namenode提供对外的服务,standby namenode是不对外服务的。active namenode和standby namenode之间通过nfs或者jn(journalnode qjm方式)来同步。
active namenode会把最近的操作记录写到本地一个edits文件中(edits file),并传输到nfs或者jn中。standby namenode定期检查,从nfs或者jn把最近的edits文件读过来,然后把edits文件和fsimage文件合并成一个新的fsimage,合并之后会通知active namenode获取这个新的fsimage。active namenode获得这个新的fsimage文件之后,替换原来旧的fsimage文件。
这样,就保持了active namenode和standby namenode的数据的实时同步,standby namenode可以随时切换成active namenode(比如active namenode挂了)。而且还有一个原来hadoop1.0的secondarynamenode,checkpoint,buckcupnode的功能;合并edits文件和fsimage,使fsimage文件一直保持更新。所以启动了hadoop2.0的ha机制之后,secondarynamenode,checkpointnode,buckcupnode这些都不需要了。
3.nfs方式nfs作为active namenode和standby namenode之间数据共享的存储。active namenode会把最近的edits文件写到nfs,而standby namenode从nfs中把数据读过来。这个方式的缺点是,如果active namenode或者standby namenode有一个和nfs之间网络有问题的话,则会造成他们之前数据的同步出问题。
4.qjm(quorum journal manager)方式qjm的方式可以解决上述nfs容错机制不足的问题。active namenode和standby namenode之间是通过一组journalnode(数量是奇数,可以是3,5,7,...2n+1)来共享数据。active namenode把最近的edits文件写到2n+1个journalnode上,只要有n+1个写入成功的话就表示写入操作成功了,然后standby namenode就可以从journalnode上读取了。可以看到,qjm方式由容错机制,可以容忍n个journalnode的失败。
5.主备节点的切换active namenode和standby namenode可以随时切换。当active namenode挂掉后,也可以把standby namenode切换成active状态,称为active namenode。可以人工切换和自动切换。人工切换时通过执行ha管理的命令来改变namenode的状态,从standby到active,或者从active到standby。自动切换则在active namenode挂掉的时候,standby namenode自动切换成active状态,取代原来的active namenode称为新的active namenode,hdfs继续正常工作。
主备节点的自动切换需要配置zookeeper。active namenode和standby namenode把他们的状态实时记录到zookeeper中,zookeeper监视他们的状态变化。当zookeeper发现active namenode挂掉后,会自动把standby namenode切换成active namenode。
6.实战tips1):qjm方式有明显的优点,一是本身就有fencing的功能,而是通过多个journal节点增强了系统的健壮性,所以建议在生产环境中采用qjm的方式。
2):journalnode消耗的资源很少,不需要额外的机器专门来启动journalnode,可以从hadoop集群中选几台机器作为journalnode。
原文来自:http://www.linuxidc.com/linux/2014-05/101174.htm
