dledger原理源码分析系列(一)-架构，核心组件和rpc组件

简介

      dledger是openmessaging的一个组件， raft算法实现，用于分布式日志，本系列分析dledger如何实现raft概念，以及dledger在rocketmq的应用

本系列使用dledger v0.40

本文分析dledger的架构，核心组件；rpc组件

关键词

Raft

Openmessaging

参考资料

In Search of an Understandable Consensus Algorithm  raft论文简版

技术架构

• 应用/client  client是dledger提供给应用访问节点的组件
• rpc服务

  rpc服务内置rpc client/rpc server，对外接收外部rpc访问，包括client和节点间通讯；对内，解释rpc请求，转发给Server；对外，发送rpc请求到其他节点

  • Server

    主程序，负责节点启动，其他组件的启动；写入日志请求初步处理等

    • Elector

      选举类，负责集群主节点选举

      • EntryPusher

        日志写入器，内置分发器和处理器，分发器主节点用于复制日志到跟随者；处理器跟随者使用，写入日志

        • 存储

          存储日志条木，有两个实现，基于内存和基于文件

          • 快照/状态机

            新版本的dledger提供状态机，dledger成为通用的raft组件，不再是转为rocketmq使用

            启动

            本节分析节点启动，下图是典型的dledger启动代码

            

            1. 构建和初始Server，Server代表节点
            2. 注册状态机，若需要的话
            3. 注册自定义的处理器，扩展rpc服务，若有的话
            4. Metrics组件初始化
            5. 启动server

                 Server启动，负责启动核心组件

                 6. 优雅关机

            rpc

            本节介绍dledger的rpc模块，dledger选主，日志写入和复制通过来来回回的rpc完成，本节介绍dledger业务层面的rpc设计

            节点间通讯

            

            上图节点间通讯模型

            RaftProtocol/RaftProtocolHanlder  raft服务接口/处理器接口，raft服务接口定义外部，包括client和节点间访问接口；处理器定义raft处理服务接口

            ClientProtocol/ ClientProtocolHanlder 日志服务接口/处理器接口，日志服务接口定义外部，包括client和节点间访问接口；处理器定义日志处理服务接口

            RpcService 内置rpc client/rpc server， 对内使用NettyRemotingServer接收rpc请求，解释rpc请求，转发给Server；对外，使用NettyRemotingClient发送rpc请求到其他节点

            Server  handler的真正实现者

            技术架构图很直观的展示rpc调用关系

            客户端通讯

            

            Client组件是应用用于集成dledger，应用可使用client组件访问集群

            MetadataUpdate 定时更新leaderId，让Client访问领导者节点

            DLedgerClientProtocol 定义了访问集群的接口

            扩展机制

            Dledger提供rpc扩展机制，通过增加rpc处理器，DLedgerRpcService提供方法注册用户定义处理器

            

             系列文章

            • 架构，核心组件和rpc组件 完成
            • 心跳和选举 TBD
            • 日志写入/复制和存储  包括日志写入和复制，日志存储组件
            • 集成rocketmq  rocketmq使用dledger实现消息存储复制；broker控制器 元数据复制
            • 快照/状态机
            • 集群成员变更  成员变更管理，节点的上线下线发现，dledger v0.4未实现，但计划中，未来版本实现
            • jraft  “double check”  多重分析，jraft比较忠实实现了raft算法，在dledger基础上，再研究jraft对raft更深入的认识