Zookeeper运维

2023-09-15 11:19:19

我是一个目录

1. 参数说明

工作节点瞬间压力大，导致和集群通信出现延迟，被踢出节点，瞬间释放的连接立即又连接到另外节点，最终集群挂掉。加了一些延迟配置后，集群稳定。

参数说明
tickTime=2000Zookeeper服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime时间就会发送一个心跳。tickTime以毫秒为单位
initLimit=10集群中的follower服务器(F)与leader服务器(L)之间初始连接时能容忍的最多心跳数(tickTime的数量)
syncLimit=5集群中的follower服务器与leader服务器之间请求和应答之间能容忍的最多心跳数(tickTime的数量)
dataDir=/usr/local/zookeeper/dataZooKeeper存放内存数据结构的snapshot，便于快速恢复
clientPort=2181客户端连接Zookeeper服务器的端口，Zookeeper会监听这个端口，接受客户端的访问请求
maxClientCnxns=1000在socket级别限制单个客户端到ZooKeeper集群中单台服务器的并发连接数量，可以通过IP地址来区分不同的客户端，默认是60，设置为0表示不限制并发连接数
minSessionTimeout=30000服务器允许客户端会话的最小超时时间，以毫秒为单位。默认值是2倍的tickTime
maxSessionTimeout=60000服务器允许客户端会话的最大超时时间，以毫秒为单位。默认值是20倍的tickTime
autopurge.snapRetainCount=10当启用自动清理功能后，ZooKeeper将只保留autopurge.snapRetainCount个最近的数据快照(dataDir)和对应的事务日志文件(dataLogDir)，其余的将会删除掉。默认值是3,最小值也是3
autopurge.purgeInterval=1用于配置触发清理任务的时间间隔，以小时为单位。要启用自动清理，可以将其值设置为一个正整数(比如1)，默认值是0
globalOutstandingLimit=200客户端提交请求的速度可能比ZooKeeper处理的速度快得多，特别是当客户端的数量非常多的时候。为了防止ZooKeeper因为排队的请求而耗尽内存，ZooKeeper将会对客户端进行限流，即限制系统中未处理的请求数量不超过globalOutstandingLimit设置的值，默认的限制是1000
preAllocSize=131072单位KB，用于配置ZooKeeper事务日志文件预分配的磁盘空间大小。默认的块大小是64MB。改变块大小的其中一个原因是当数据快照文件生成比较频繁时可以适当减少块大小。比如1000次事务会新产生一个快照(参数为snapCount)，新产生快照后会用新的事务日志文件，假设一个事务信息大小100B，那么事务日志预分配的磁盘空间大小为100kB会比较好
snapCount=300000ZooKeeper将事务记录到事务日志中。当snapCount个事务被写到一个日志文件后，启动一个快照并创建一个新的事务日志文件。snapCount的默认值是100000
leaderServes=yesleader是否接受client请求,默认为yes即leader可以接受client的连接，当节点数为>3时，建议关闭。在ZooKeeper中，Leader服务器主要协调事务更新请求。对于事务更新请求吞吐很高而读取请求吞吐很低的情况可以配置Leader不接受客户端连接，这样就可以专注于协调工作
server.1=192.168.1.5:2888:38882888 leader\follower传输信息端口，3888选举端口
server.2=192.168.1.6:2888:38882888 leader\follower传输信息端口，3888选举端口
server.3=192.168.1.7:2888:38882888 leader\follower传输信息端口，3888选举端口

2. Zookeeper优化建议

a. 将ZooKeeper与其他应用分开部署，避免相互影响

对于ZooKeeper来说，如果在运行过程中，需要和其它应用程序来竞争磁盘、CPU、网络、内存资源，那么整体性能将会大打折扣。我们在使用ZooKeeper初期尝试将ZooKeeper与其他应用公用机器，在系统流量上涨后，由于IO及CPU被其他应用使用很大，造成ZooKeeper的Session经常超时甚至应用与ZooKeeper的连接断开。因此，建议ZooKeeper与其他应用分开部署。

b. 将数据文件和事务日志分开存放，提高ZooKeeper性能

我们先分析一下磁盘对ZooKeeper性能的影响。客户端对ZK的更新操作都是永久的，不可回退的，ZK会将每次更新操作以事务日志的形式写入磁盘，写入成功后才会给予客户端响应。明白这点之后，你就会明白磁盘的吞吐性能对于ZK的影响了，磁盘写入速度制约着ZK每个更新操作的响应。因此，我们在选择机型时尽量选择多块硬盘的机器，ZK的事务日志输出是一个顺序写文件的过程，本身性能是很高的，所以尽量保证不要和其它随机写的应用程序共享一块磁盘，尽量避免对磁盘的竞争。

c. 尽量避免内存与磁盘空间的交换，确保设置一个合理的JVM堆大小

如果设置太大，会让内存与磁盘进行交换，这将使ZK的性能大打折扣。例如一个4G内存的机器的，如果你把JVM的堆大小设置为4G或更大，那么会使频繁发生内存与磁盘空间的交换，通常设置成3G就可以了。

3. Zookeeper性能查看

1、Zookeeper服务器当前节点配置信息: echo conf|nc localhost 2181
2、cons：echo cons|nc localhost 2181 输出当前服务器所有客户端连接的详细信息
3、crst:重置所有客户端连接统计信息
4、dump:echo dump|nc localhost 2181，输出当前集群的所有会话消息
5、envi：echo envi|nc localhost 2181，输出服务器运行时的环境信息
6、ruok：echo ruok|nc localhost 2181，输出当前Zookeeper是否正在运行。是，则返回 ‘imok’
7、stat：echo stat|nc localhost 2181，服务器运行时状态信息
8、srvr：和stat功能一致，但不会输出客户端连接情况
9、srst：重置所有服务器统计信息
10、wchs：echo wchs|nc localhost 2181，输出当前服务器管理的Watcher信息
11、wchp：echo wchp|nc localhost 2181，与wchs类似，但以节点路径为单位对Watcher信息进行归组
12、mntr：echo mntr|nc localhost 2181，比stat更为详尽的服务器信息
mntr:列出服务器的健康状态：
zk_version

版本

zk_avg_latency

平均延时

zk_max_latency

最大延时

zk_min_latency

最小延时

zk_packets_received

收包数

zk_packets_sent

发包数

zk_num_alive_connections

连接数

zk_outstanding_requests

堆积请求数

zk_server_state

leader/follower 状态

zk_znode_count

znode数量

zk_watch_count

watch数量

zk_ephemerals_count

临时节点（znode）

zk_approximate_data_size

数据大小

zk_open_file_descriptor_count

打开的文件描述符数量

zk_max_file_descriptor_count

最大文件描述符数量

zk_followers

follower 数量，leader角色才会有这个输出

zk_synced_followers

同步的 follower 数量

shell终端输入：echo mntr| nc localhost 2181

参数解析如下：

zk_server_state 说明：集群中有且只能有一个leader，没有leader，则集群无法正常工作；两个或以上的leader，则视为脑裂，会导致数据不一致问题

zk_followers /zk_synced_followers 说明：如果上述两个值不相等，就表示部分follower异常了需要立即处理，很多低级事故，都是因为单个集群故障了太多的follower未及时处理导致

zk_outstanding_requests 说明：常态下该值应该持续为0，不应该有未处理请求

zk_pending_syncs 说明：常态下该值应该持续为0，不应该有未同步的数据

zk_znode_count 说明：节点数越多，集群的压力越大，性能会随之急剧下降 经验值：不要超过100万 建议：当节点数过多时，需要考虑以机房/地域/业务等维度进行拆分

zk_approximate_data_size 说明：当快照体积过大时，ZK的节点重启后，会因为在initLimit的时间内同步不完整个快照而无法加入集群 经验值：不要超过1GB体积 建议：不要把ZK当做文件存储系统来使用

zk_open_file_descriptor_count/zk_max_file_descriptor_count 说明：当上述两个值相等时，集群无法接收并处理新的请求 建议：修改/etc/security/limits.conf，将线上账号的文件句柄数调整到100万

zk_watch_count 说明：对于watch的数量较多，那么变更后ZK的通知压力也会较大

zk_packets_received/zk_packert_sent 说明：ZK节点接收/发送的packet的数量，每个节点的具体值均不同，通过求和的方式来获取集群的整体值 建议：通过两次命令执行间隔1s来获取差值

zk_num_alive_connections 说明：ZK节点的客户端连接数量，每个节点的具体值均不同，通过求和的方式来获取集群的整体值 建议：通过两次命令执行间隔1s来获取差值

zk_avg_latency/zk_max_latency/zk_min_latency 说明：需要关注平均延时的剧烈变化，业务上对延时有明确要求的，则可以针对具体阈值进行设置

4. 建议

Zookeeper 不落盘配置，对使用dlock分布式锁非常频繁，IO占用很高的情况下可以使用此方案，提升ZK性能，分布式锁单独部署zk，数据不落盘： 在/dev/shm下创建两个目录datadir和logdir，zk的配置文件把datadir和logdir指向对应创建目录，并设置forceSync=no. 这个方案是在zk服务器内存充足时使用，并将zk快照数量控制在5个左右。

更多推荐

OpenStack创建云主机并连接CRT

文章目录OpenStackT版创建云主机并连接CRT命令行操作（1）创建镜像（2）创建实例（3）创建网络创建内网创建外网（4）创建安全组（5）创建路由（6）创建云主机（7）绑定浮动IP（8）登录云主机（9）CRT连接图形化操作（1）创建镜像（2）创建实例（3）创建网络创建内网创建外网（4）创建安全组（5）创建路由（6）

MTR 网络连通性测试工具 基础入门 整理

MTRMTR的全称是mytraceroute，是一个集合了ping与traceroute功能的网络诊断工具，广泛应用于链路测试。相对于traceroute只会做一次链路跟踪测试，mtr会对链路上的相关节点做持续探测并给出相应的统计信息。因此，mtr能避免节点波动对测试结果的影响，所以其测试结果更正确，建议优先使用。安装

Vue进阶（幺陆玖）信创适配改造

文章目录一、前言二、方案实施2.1存在的问题2.2方案优化2.3User-Agent详解三、拓展阅读一、前言随着外部监管对国产化的要求越来越高，所在产品团队信创专项改造工作开始实施，需求如下：信创平台控件只能使用在信创终端使用，不能应用在Windows上，存量系统运行过程中需要能够识别业务人员当前使用的终端操作系统，若

【算法练习Day3】 移除链表元素&&设计链表&&反转链表

​​📝个人主页：@Sherry的成长之路🏠学习社区：Sherry的成长之路（个人社区）📖专栏链接：练题🎯长路漫漫浩浩，万事皆有期待文章目录移除链表元素其他问题设计链表其他问题反转链表其他问题总结：移除链表元素203.移除链表元素-力扣（LeetCode）链表问题大多都可以用虚拟头结点的方法，使链表的插入和删除操

实施主品牌进化战略(三)：建立产品竞争与进化体系

产品早晚都会抵达成熟期，所以建立一个有效的产品竞争与进化体系，才能保障产品更新迭代与时俱进在跨周期中实现增长和主品牌进化。同时这也是工业制造、汽车制造、软件开发、食品饮料、人工智能等行业强者穿越周期的战略共性。3M：以超级技术打造产品竞争与进化体系3M公司，诞生于1902年，以胶粘技术起家，后发展出光学、医疗、研磨以及

写在2023，转行软件测试的我后悔了吗？

前言朋友，作为一个曾经从机械转行到IT的行业的过来人，已在IT行业工作5年，分享一下我的经验，供你参考。讲真，现在想通过培训班培训几个月就进入IT行业，越来越来难了；如果是在2018年以前，还有机会，一方面，那个时候IT行业还不算卷，需求还是蛮大的；但最近这一两年，由于大环境不好，很多互联网大厂都开始裁员了，连科班出身

计算机网络与技术——物理层

😊计算机网络与技术——物理层👻物理层的基本概念👻数据通信基础知识🚢数据通信系统的模型🚢信道的基本概念🚢信道的极限容量👻物理层下面的传输媒体🔊导引型传输媒体🔊非导引型传输媒体👻信道复用技术🥏频分复用、时分复用和统计时分复用🥏波分复用🥏码分复用👻宽带接入技术☃️ADSL技术☃️光纤同轴混合网（H

强强联合，波卡生态正成为物联网赛道关键入口

自5月23日，波卡平行链之一Peaq宣布将特斯拉和去中心化汽车共享应用引入Polkadot生态系统后，其以打造Polkadot上Web3汽车共享的未来为目标，开启物联网发展的新时代；而在近期，Peaq又表示将在9月前往德国慕尼黑IAAMOBILITY2023，作为L1底层架构参与特斯拉和捷豹汽车的现场演示。在这场展示活

什么是边缘计算网关？

边缘计算网关（简称边缘网关）将云端功能扩展到本地的边缘设备，使边缘设备能够快速自主地响应本地事件，提供低延时、低成本、隐私安全、本地自治的本地计算服务。同时所有服务都以Docker镜像方式安装，真正做到了跨平台，部署快捷，易管理。在链路安全，应用场景，云开发组件等也都做到了非常好的支持。涂鸦提供了丰富的物联网协议，客户

985、211高校分布

985、211高校分布985211985全国985大学有39所1、北京市（8所）北京大学、中国人民大学、清华大学、北京航空航天大学、北京理工大学、中国农业大学、北京师范大学、中央民族大学2、天津市（2所）南开大学、天津大学3、辽宁省（2所）大连理工大学、东北大学4、吉林省（1所）吉林大学5、黑龙江省（1所）哈尔滨工业大

批量调整视频饱和度和色度，提升你的视频剪辑效率！

作为一名视频剪辑师，你是否经常为如何高效地调整多个视频的饱和度和色度而烦恼？现在，我们为你提供了一种简单、快速、准确的方法，帮助你轻松解决这个问题！首先我们要进入好简单批量智剪，并在左侧的板块栏里选择“任务剪辑”第二步，进入板块之后，并点击“添加视频”在弹出来的文件框里，将要调整的视频都一一导入。第三步，导入后，所有视

热文推荐
  1. BD就业复习第四天

    1.布隆过滤器怎么实现去重布隆过滤器是一种用于快速检查一个元素是否可能存在于一个大集合中的数据结构，但它并不适用于精确去重。因为布隆过滤器具有一定的误判率（可能会将不存在的元素误判为存在），所以不能确保完全的去重。但可以结合其他数据结构来实现近似的去重功能。以下是使用布隆过滤器进行近似去重的一般步骤：初始化布隆过滤器：

  2. Android Key/Trust Store研究+ssl证书密钥

    前言：软件搞环境涉及到了中间件thaltrustzonecertificatekey，翻译过来是thal信任区域证书密钥，不明白这是什么，学习一下ssl证书密钥SSL密钥是SSL加密通信中的重要组成部分。SSL证书通过加密算法生成，用于保护网络通信的安全性和私密性。密钥是一种密码学算法中的关键元素，用于加密和解密敏感信

  3. mac安装运行superset及踩坑解决过程

    介绍ApacheSuperset是一个现代的企业级商业智能Web应用程序。它快速、轻量、直观，并加载了各种选项，使所有技能的用户都可以轻松探索和可视化他们的数据，从简单的饼图到高度详细的Deck.gl地理空间图表。安装首先安装自制homebrew安装管理器，然后运行以下命令：brewinstallreadlinepkg

  4. Java版本spring cloud + spring boot企业电子招投标系统源代码

    项目说明随着公司的快速发展，企业人员和经营规模不断壮大，公司对内部招采管理的提升提出了更高的要求。在企业里建立一个公平、公开、公正的采购环境，最大限度控制采购成本至关重要。符合国家电子招投标法律法规及相关规范，以及审计监督要求；通过电子化平台提高招投标工作的公开性和透明性；通过电子化招投标，使得招标采购的质量更高、速度

  5. Week2：包含 min 函数的栈

    1️⃣题目描述定义栈的数据结构，请在该类型中实现一个能够得到栈的最小元素的min函数在该栈中，调用min、push及pop的时间复杂度都是O(1)。示例:MinStackminStack=newMinStack();minStack.push(-2);minStack.push(0);minStack.push(-3)

  6. 代码随想录算法训练营Day45 | 动态规划(7/17) LeetCode 70. 爬楼梯 （进阶） 322. 零钱兑换 279.完全平方数

    开始第七天的练习！第一题70.ClimbingStairsYouareclimbingastaircase.Ittakesnstepstoreachthetop.Eachtimeyoucaneitherclimb1or2steps.Inhowmanydistinctwayscanyouclimbtothetop?在刚进

  7. ScrollView如何裁剪粒子特效

    1）ScrollView如何裁剪粒子特效2）Unreal在移动设备中无法使用Stat命令获取到GPUThread的耗时3）Unity中如何看到相机视野范围内的剔除结果这是第354篇UWA技术知识分享的推送，精选了UWA社区的热门话题，涵盖了UWA问答、社区帖子等技术知识点，助力大家更全面地掌握和学习。Rendering

  8. Zero-Shot 使用简单两层网络不用训练就能进行图像恢复

    文章今天要分享的文章是CVPR2023比较有意思的一篇《Zero-ShotNoise2Noise:EfficientImageDenoisingwithoutanyData》，通过简单的两层网络，并且不需要数据训练直接进行图像恢复代码https://colab.research.google.com/drive/1i8

  9. Si314 低功耗 14 通道电容触摸传感器，软硬件兼容替代GTX314L

    Si314是一款具有自动灵敏度校准功能的14通道电容传感器，其工作电压范围为1.8~5.5V。Si314设置休眠模式来节省功耗，此时，功耗电流为10uA@3.3V。Si314各个感应通道可实现独立使能、校准、灵敏度调节，可以确保可靠性，且具有自适应滤波功能，以应对各种噪音和环境变化。I2C串行接口可以读写内部寄存器，检