ZK,分布式应用间的协调调度机制,监听和管理分布式服务器间的连接。
一、
zk的数据结构——znode
每个Znode由3部分组成 :stat:此为状态信息, 描述该Znode的版本, 权限等信息;data:与该Znode关联的数据;children:该Znode下的子节点。
znode中的数据为调度相关数据,例如:配置文件信息、状态信息等,默认每个节点最大1M。
每一个节点都拥有自己的ACL(访问控制列表),这个列表规定了用户的权限,即限定了特定用户对目标节点可以执行的操作。
客户端可以在节点上设置watch,我们称之为监视器。当节点状态发生改变时(Znode的增、删、改)将会触发watch所对应的操作。
二、ZK部署常见问题
1 下载zk安装包,在此采用从一台主机copy到另一台主机的方式:
scp -r zookeeper-3.4.10 hadoop@node04:/home/hadoop/
2 修改配置
/home/hadoop/zookeeper-3.4.10/conf/zoo.cfg (/home/hadoop是我的zk安装目录)
在zoo.cfg添加配置:
server.1=node01:2888:3888 (主机名:心跳端口:选举通信端口)心跳端口用于探测主机是否活着。。 server后的 "1" 是主机的 机器号,需要在每台主机下的myid文件里定义
server.2=node02:2888:3888
server.3=node03:2888:3888
dataDir=home/hadoop/zookeeper/data (快照文件存放目录,现在我也不知道放点啥.....)
dataLogDir=home/hadoop/zookeeper/logs (事务日志存放目录)
3 补充文件
在 /home/hadoop/zookeeper-3.4.10/data 下创建 myid 文件,并写入机器号,例如1,2,3
创建 zookeeper/data 、/zookeeper/logs 文件夹,对应zoo.cfg中的配置。
注意:zk启动后,会在 /zookeeper-3.4.10/data 下生成一个进程id文件:zookeeper_server.pid,不同用户启动生成的文件不同,首次用root用户启用服务的话,再次用hadoop用户启,会报进程id相关的错,将 zookeeper_server.pid 文件删除重启zk即可。
4 创建软连接
zk启动脚本中通过软连接的方式找到安装目录进行启动,所以要先配置软连接再启动服务;
切换root用户创建软连接:ln -s /home/hadoop/zookeeper-3.4.10/ /usr/local/zookeeper
5 启动服务
进入 /home/hadoop/zookeeper-3.4.10/bin 目录下,执行
./zkServer.sh start 启动服务
./zkServer.sh status 查看状态
./zkServer.sh stop 关闭服务
输入 jps 命令查看zk进程:QuorumPeerMain 为zk进程
6 配置环境变量
切换 root 用户,在 /etc/profile 文件中配置环境变量,添加
export ZOOKEEPER_HOME=/usr/local/zookeeper
export PATH=$PATH:$ZOOKEEPER_HOME/bin
退出,执行 source /etc/profile 编译环境变量生效
7 常见问题
有时候配置完启动失败,可以查看 zookeeper.out 日志来排查文件,文件默认在 zookeeper-3.4.10/bin 目录下。
例如: 域名解析失败,需要检查 /etc/hosts 文件中是否有配置该域名映射关系
三、主机间通信,SSH免密登录设置
免密登录设置只针对于当前用户,用root用户设置完,不代表其他用户可以免密登录。
1、以普通用户hadoop为例:在A主机执行 ssh-keygen -t rsa 会在/home/hadoop 下生成 .ssh文件夹及秘钥、公钥俩文件
2、将 id_rsa.pub"这个文件拷贝到 主机B 的"~/.ssh/"目录中并改名为"authorized_keys";注意用copy或者cat 复制内容靠谱,用vi打开复制的话,可能会带个换行符啥的,导致不好用
3、改变权限: chmod 644 authorized_keys
4、在主机A执行 ssh node02即可登录到主机B;(node02为主机B的名字,或者用ip,注意:第一次登录时仍需要输入密码,以后就不用输入了)
简言之:将当前服务器的公钥文件复制到目标机器的.ssh目录的authorized_keys文件中。
原理(转):
这种方式你需要在客户端服务器上为自己创建一对密匙,并把公匙放在需要登录的服务器上。
当你要连接到服务器上时,客户端就会向服务器请求使用密匙进行安全验证。
服务器收到请求之后,会在该服务器上你所请求登录的用户的家目录下寻找你的公匙,
然后与你发送过来的公匙进行比较。
如果两个密匙一致,服务器就用该公匙加密“质询”并把它发送给客户端。
客户端收到“质询”之后用自己的私匙解密再把它发送给服务器。
四、登录zk查看节点等相关信息
zkCli.sh -server hostname:port
不写hostname:port 时,默认连接本地zk。
查看路径时,路径必须从根节点开始。