1.深入剖析Zookeeper原理（五）ZK核心源码剖析
2.一文读懂，源码硬核 Apache DolphinScheduler3.0 源码解析
3.zookeeper是分析什么？
4.kafka源码Topic的创建源码分析(附视频)
5.ZookeeperApach Curator 框架源码分析：初始化过程（一）Ver 4.3.0
6.0006-Zookeeper指标分析

深入剖析Zookeeper原理（五）ZK核心源码剖析

       ZooKeeper内部维护了三种选举算法：LeaderElection, FastLeaderElection和AuthLeaderElection。FastLeaderElection与AuthLeaderElection的源码实现类似，关键差别在于AuthLeaderElection加入了认证信息，分析但已被ZooKeeper淘汰。源码FastLeaderElection相较于LeaderElection更加高效，分析看书网源码已在3.4.0版本后不被推荐使用。源码当前版本仅保留FastLeaderElection选举算法。分析

       接下来，源码将深入探讨FastLeaderElection选举算法的分析具体实现。此算法在ZooKeeper中通过高效的源码机制确定领导者角色，以保证集群的分析稳定性和高效性。

       深入分析FastLeaderElection算法源码，源码理解其实现机制，分析有助于我们更好地掌握ZooKeeper的源码核心原理。代码逻辑清晰，通过分布式共识算法，确保了选举过程的公平性和正确性。

       为了实现高效的选举过程，FastLeaderElection引入了一系列优化。这些优化包括但不限于，通过优化算法减少选举过程中的通信开销，以及通过改进数据结构提高选举过程的执行效率。

       在实现过程中，FastLeaderElection核心接口被精心设计，确保了选举算法的可扩展性和灵活性。这些接口不仅支持基本的选举功能，还提供了丰富的异常处理机制，以应对各种异常情况。

       此外，abberation 策略源码ZooKeeper的持久化机制是其稳定性的重要保障。ZooKeeper通过事务日志实现持久化处理，确保了数据的一致性和可靠性。日志记录了所有对集群状态的修改操作，使得数据恢复和故障恢复成为可能。

       在ZooKeeper中，Watcher机制的实现是其核心功能之一。Watcher用于通知客户端关于节点状态的变更，以实现实时数据同步。ZooKeeper内部的Watcher管理器（ZKWatchManager）和watch注册类（如ExistWatchRegistration、DataWatchRegistration、ChildWatchRegistration等）共同实现了这一机制。

       这些注册类分别对应了不同的watch类型，允许客户端根据需求订阅不同的事件。例如，ExistWatchRegistration用于监听节点是否存在，DataWatchRegistration用于监听节点数据的变化，而ChildWatchRegistration用于监听子节点的变更。

       通过这些watch注册类，客户端能够实时接收来自ZooKeeper集群的事件通知，从而实现实时的数据同步和状态感知。同时，ZooKeeper通过Watcher机制实现了对节点状态的高效监控，确保了数据的一致性和集群的稳定性。

       最后，ZooKeeper的网络通信实现是其对外提供服务的基础。通过优化的网络通信协议，ZooKeeper能够高效地在分布式环境中进行数据交换和状态同步。这一部分的nginx源码优化实现涉及到多种通信机制，如TCP协议、数据编码、消息格式等，确保了数据传输的可靠性和性能。

       总结，ZooKeeper通过精心设计的选举算法、持久化机制、Watcher机制和网络通信实现，提供了一套高效、稳定和可靠的服务框架。深入理解这些核心原理和实现细节，有助于我们更好地运用ZooKeeper在分布式系统中解决实际问题。

一文读懂，硬核 Apache DolphinScheduler3.0 源码解析

       这篇文章深入解析了硬核Apache DolphinScheduler 3.0的源码设计和策略，让我们一窥其背后的分布式系统架构和容错机制。首先，DolphinScheduler采用去中心化设计，通过Master/Worker角色注册到Zookeeper，实现无中心的集群管理。API接口提供丰富的调度操作，MasterServer负责任务分发和监控，而WorkerServer负责任务执行和日志服务。

       容错机制是系统的关键，包括服务宕机容错和任务重试。服务宕机时，MasterServer通过ZooKeeper的Watcher机制进行容错处理，重新提交任务。任务失败则会根据配置进行重试，直至达到最大次数或成功。shell 源码 博客远程日志访问通过RPC实现，保持系统的轻量化特性。

       源码分析部分详细介绍了工程模块、配置文件、API接口以及Quartz框架的运用。Master的启动流程涉及Quartz的调度逻辑，Worker则负责执行任务并接收Master的命令。Master与Worker之间通过Netty进行RPC通信，实现了负载均衡和任务分发。

       加入社区讨论，作者鼓励大家参与DolphinScheduler的开源社区，通过贡献代码、文档或提出问题来共同提升平台。无论是新手还是经验丰富的开发者，开源世界都欢迎你的参与，为中国的开源事业贡献力量。

zookeeper是什么？

       zookeeper是动物管理员的意思。

       ZooKeeper是一个分布式的，开放源码租前慎的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

       ZooKeeper的目标就是封装好复杂易出错的关键服务，将简单易用的接口和性能高效、功能稳定的客服源码出售系统提供给用户。

       ZooKeeper包含一个简单的原语集，提供Java和C的接口。

       ZooKeeper代码版本中，提供了分布式独享锁、选举、队列的接口，代码在$zookeeper_home\src\recipes。其中分布锁和队列有Java和C两个版本，选举只有Java版本。

       它的原理：

       ZooKeeper是以Fast Paxos算悔判法为基础的，Paxos 算法存在活锁的问题，即当有多个proposer交错提交时，有弊敬可能互相排斥导致没有一个proposer能提交成功，而Fast Paxos做了一些优化，通过选举产生一个leader (领导者)，只有leader才能提交proposer，具体算法可见Fast Paxos。因此，要想弄懂ZooKeeper首先得对Fast Paxos有所了解。

       ZooKeeper的基本运转流程:1、选举Leader。2、同步数据。3、选举Leader过程中算法有很多，但要达到的选举标准是一致的。4、Leader要具有最高的执行ID，类似root权限。5、集群中大多数的机器得到响应并接受选出的Leader。

kafka源码Topic的创建源码分析(附视频)

       关于Kafka Topic创建的源码分析，可以从kafka-topic.sh脚本的入口开始，它执行了kafka.admin.TopicCommand类。在创建Topic时，主要涉及AdminClientTopicService对象的创建和AdminClientClient创建Topics方法的调用，其中Controller负责处理客户端的CreateTopics请求。

       服务端的处理逻辑在KafkaRequestHandler.run()方法中，通过apis.handle(request)调用对应接口，如KafkaApis.handleCreateTopicsRequest，这个方法会触发adminManager.createTopics()，创建主题并监控其完成状态。创建的Topic配置和分区副本信息会被写入Zookeeper，如Topic配置和Topic的分区副本分配。

       当Controller监听到/brokers/topics/Topic名称的变更后，会触发Broker在磁盘上创建相关Log文件。如果Controller在创建过程中失败，如Controller挂掉，待重新选举后，创建过程会继续，直到Log文件被创建并同步到zk中。

       创建Topic时，zk上会创建特定节点，包括主题配置和分区信息。手动添加或删除/brokers/topics/节点将影响Topic的创建和管理。完整参数可通过sh bin/kafka-topic -help查看。

ZookeeperApach Curator 框架源码分析：初始化过程（一）Ver 4.3.0

       Curator是由Netflix开源的一款用于简化Zookeeper客户端开发的工具，它提供了一套高级别API，使得开发者可以更简单易懂地实现分布式应用程序。Curator构建在Zookeeper原生客户端之上，提供了连接重试、异常处理、节点监听等常见功能，减轻了开发者的工作负担。Curator由多个模块组成，其中curator-framework和curator-recipes是最常用的部分，此外还提供了分布式锁等功能。

       Curator的最新版本为5.X系列，不再支持ZK 3.4.X及之前的版本。主要的改动在5.X系列中，原因包括代码重构、API调整等，导致不兼容之前的版本。

       Curator的下载地址可以通过Maven依赖管理或Apache官方网站获取。要开始使用Curator，需要搭建Zookeeper集群环境，详细部署过程可参考其他文章。

       引入Curator依赖后，开发者可以使用CuratorFrameworkFactory构建实例，通过此实例连接Zookeeper集群并执行分布式操作，如分布式锁等。Curator内部实现了重试策略、连接管理等，使得操作更为便捷且稳定。

       Curator提供了可重入锁（公平锁）的示例，开发者可以通过简单的代码实现分布式锁功能。初始化CuratorFramework实例的过程包括设置连接参数、构建实例、启动连接等步骤，内部会处理网络重连、异常处理等逻辑。

       在Curator的初始化过程中，CuratorFrameworkImpl是核心类，它负责构建与Zookeeper集群的连接，并封装了一系列关键组件，如连接管理、异常检测、负载均衡等。CuratorZookeeperClient类负责Zookeeper客户端的封装和调用。

       CuratorFrameworkImpl的启动过程涉及初始化连接状态管理器、启动客户端连接、执行后台操作等关键步骤。通过CAS操作确保线程安全，并在异常情况下自动重试连接。

       连接状态管理器（ConnectionStateManager）负责维护连接状态并处理状态变更通知，确保在状态改变时能够及时通知到监听器。通知机制包括注册一次性监听器、注册CuratorListener和ConnectionStateListener，以及处理未处理的错误。

       Curator的会话管理机制包括连接状态检查和重连策略，确保在连接断开后能够自动恢复连接。在状态变更时，连接状态管理器会通知所有注册的监听器，执行相应的回调逻辑。

       Curator还提供了缓存机制，用于保存节点数据并在数据发生变化时进行更新。此外，Curator支持多次注册监听器，确保在连接断开后能够重新注册监听器，以避免丢失监听事件。

       通过上述分析，Curator为开发者提供了高效、稳定的Zookeeper客户端实现，简化了分布式应用程序的开发过程。在实际应用中，开发者需要根据项目需求选择合适的版本和功能模块，以充分利用Curator提供的便利性。

-Zookeeper指标分析

       通过CDH管理平台访问Zookeeper管理界面，发现Zookeeper的平均请求延迟、最小请求延迟、最大请求延迟指标趋势图不变，指标数据异常。

       在复现问题时，注意到平均请求延迟、最小请求延迟、最大请求延迟这三个指标未发生变化，且指标数据出现异常。

       分析问题源码后发现，指标数据来源于Zookeeper自身的ServerStats模块。此模块通过updateLatency方法来更新maxLatency和minLatency指标。

       在深入研究代码后，我们了解到maxLatency和minLatency指标记录了Zookeeper服务器启动后所有请求的最大延迟和最小延迟。在特定情况下，Zookeeper服务器1通过一次请求更新了maxLatency指标为ms后，后续所有请求均未超过此值，导致CDH平台获取的maxLatency指标始终为ms，造成最大请求延迟指标维持不变的异常。

       同样，当Zookeeper服务器1在通过一次请求后更新了minLatency指标为0ms，且后续所有请求均未小于此值，使得CDH平台获取的minLatency指标始终为0ms，从而出现最小请求延迟指标为0ms并维持不变的异常。

       对于avgLatency指标，其通过累计所有请求的延迟时间（totalLatency）和累计请求次数（count），再通过totalLatency/count计算得出。如果多次请求的延迟均为0ms，那么avgLatency指标将保持为0ms。

       解决此问题的关键在于确保Zookeeper服务器在处理请求时，能正常更新并反馈请求延迟指标，避免出现数据异常的情况。同时，为确保数据的准确性和可靠性，建议定期检查和维护Zookeeper服务器，以确保其正常运行并准确提供指标数据。

       关注微信公众号“Hadoop实操”，获取更多Hadoop技术干货。欢迎分享和转发。

       本文原创，如需转载，请注明转载自微信公众号“Hadoop实操”。