Kafka核心源码解读JKSJ|百度云下载

2020年9月1日 343条评论 18,071次阅读

资源简介

文章目录

你将获得

系统高效的源码阅读方法
深入理解 Kafka 的底层原理
快速定位线上问题并制定调优方案
25个典型案例分享+面试题讲解

讲师介绍

胡夕，Apache Kafka Committer，老虎证券技术总监，著有《Apache Kafka实战》一书，曾任职于IBM、搜狗和新浪微博等公司，也是极客时间《Kafka核心技术与实战》专栏的作者。胡夕对Kafka及其它开源流处理框架与技术有深刻理解，他精通Kafka原理，主导过多个十亿级/天的消息引擎业务系统的设计与搭建，具有丰富的线上环境定位和诊断调优经验，曾给多家大型公司提供企业级Kafka培训。

课程介绍

谈到源码分析，很多人会有这样的疑问：“Kafka的基本功能我已经掌握了，还有读源码的必要吗？”

实际上，阅读源码不仅能够帮你更深刻地理解底层设计原理，提升你的系统架构能力和编码功力，还能让你知道Kafka使用中有哪些坑，提前避免。更为重要的，如果你把读源码的时间分摊到解决问题的时间成本上，你会发现，读源码反而是更节省时间的选择，因为你可以借助源码快速定位问题并制定调优方案。

除此之外，很多公司在招聘资深技术岗时，常常会要求应聘者“至少读过一种开源框架的源码”。这也就意味着，阅读源码正在从“加分项”向“必选项”转变。

读源码之初，我们的目标都是“从入门到精通”，但是，在实际阅读源码的过程中，很多人却遇到了很多棘手的问题，结果只能“从入门到放弃”。这些问题主要是：

源码有这么多，该从哪里开始读？
读源码太枯燥了，有没有什么科学有趣的方法呢？
……

基于这些问题，我们邀请胡夕老师开设了《Kafka核心源码解读》这个课程。鉴于服务器端源码是理解Kafka架构特别是系统运行原理的基础，老师精选出了最重要的组件代码，按照功能将其划分为7个模块，采用“丰富的流程图+代码注释”的方式进行细粒度讲解。

同时，这个课程还有大量的真实案例、社区的最新动态、经典面试题的系统解答，让你不仅能读懂源码，还能做到借助源码高效地解决真实问题。

常见问题

问：Kafka服务器端源码由Scala语言编写而成，不会Scala语言也可以学习这个课程吗？

答：这部分源码并没有用到Scala多少高大上的语法特性。即使你不熟悉Scala语言也没关系。你不需要完整、系统地学习这门语言，只要能简单了解基本的函数式编程风格，以及它的几个关键特性，就足够了。如果你有Java语言基础，那就更好了，因为它们有很多特性非常相似。

当然了，为了不影响你理解课程内涉及的源码，“导读”会先给你介绍下Scala语言。课程里涉及Scala比较难的语言特性时，也会具体解释。所以，你完全不用担心语言的问题。

问：非Kafka使用者是否可以从这个课程中受益？

答：如果你是开源框架爱好者，你可以从这门课里学到很多优秀的设计理念，进一步提升你的系统架构能力。另外，很多公司在招聘高级技术人员时通常会要求应聘者“至少读过一种开源框架的源码”，如果你现在没有更好的选项，不妨学习下这门课，它会让你快速掌握一种源码。

课程模块设计

课程主体分为7个模块。

日志模块：详细介绍消息是如何被定义和组织的，帮你掌握Kafka消息在底层被读写的方法代码是怎么实现的。
请求处理模块：分析各类Kafka请求在网络层传输以及被处理的逻辑代码，尤其是Reactor模式在Kafka中的实现。
副本管理模块：主要阐述分区副本对象的管理逻辑代码，包括副本的创建、状态流转、删除等操作，帮你搞懂副本在Kafka中的状态流转路径。
延迟操作模块：重点讲解Kafka如何实现延迟操作，以及一个O(N)时间复杂度的时间轮算法，带你搞懂延迟操作底层的实现架构。
消费者组管理模块：详细分析消费者组协调器的各类管理功能代码，比如创建、管理、删除等，GroupCoordinator是Kafka中最核心的组件之一。
Controller模块：结合一些实际案例，给你分享Controller组件管理Kafka集群元数据的代码和基于ZooKeeper的Controller选举。
状态机模块：重点分析副本和分区的状态流转逻辑，以及Kafka集群是如何管理副本对象和分区对象的。

除此之外，还设置了“特别放送”模块，与你分享一些经典的学习资料、参与开源社区的全部流程，解析经典的面试题等，全方位提升你的源码阅读能力和Kafka实战能力。

课程目录

《Kafka核心源码解读JKSJ|百度云下载》

适合人群

对Kafka有所了解，想要了解Kafka底层原理、掌握源码阅读方法，以及解决实际操作问题的工程师。
任何对学习源码或者是开源框架感兴趣的软件工程师或架构师。

资源目录

目录：/Kafka核心源码解读 [958.8M]
      ┣━━01丨课前必学 (3讲) [50.5M]
      ┃    ┣━━00丨导读丨构建Kafka工程和源码阅读环境、Scala语言热身.html [2.9M]
      ┃    ┣━━00丨导读丨构建Kafka工程和源码阅读环境、Scala语言热身.m4a [10.2M]
      ┃    ┣━━00丨导读丨构建Kafka工程和源码阅读环境、Scala语言热身.pdf [1.8M]
      ┃    ┣━━00丨开篇词丨阅读源码，逐渐成了职业进阶道路上的“必选项”.html [4.8M]
      ┃    ┣━━00丨开篇词丨阅读源码，逐渐成了职业进阶道路上的“必选项”.m4a [9.9M]
      ┃    ┣━━00丨开篇词丨阅读源码，逐渐成了职业进阶道路上的“必选项”.pdf [6.2M]
      ┃    ┣━━重磅加餐丨带你快速入门Scala语言.html [2.6M]
      ┃    ┣━━重磅加餐丨带你快速入门Scala语言.m4a [10.5M]
      ┃    ┗━━重磅加餐丨带你快速入门Scala语言.pdf [1.4M]
      ┣━━02丨日志模块 (5讲) [129.8M]
      ┃    ┣━━01丨日志段：保存消息文件的对象是怎么实现的？.html [7.2M]
      ┃    ┣━━01丨日志段：保存消息文件的对象是怎么实现的？.m4a [13.1M]
      ┃    ┣━━01丨日志段：保存消息文件的对象是怎么实现的？.pdf [4.9M]
      ┃    ┣━━02丨日志（上）：日志究竟是如何加载日志段的？.html [5.9M]
      ┃    ┣━━02丨日志（上）：日志究竟是如何加载日志段的？.m4a [10.5M]
      ┃    ┣━━02丨日志（上）：日志究竟是如何加载日志段的？.pdf [3.9M]
      ┃    ┣━━03丨日志（下）：彻底搞懂Log对象的常见操作.html [7.1M]
      ┃    ┣━━03丨日志（下）：彻底搞懂Log对象的常见操作.m4a [23.7M]
      ┃    ┣━━03丨日志（下）：彻底搞懂Log对象的常见操作.pdf [4.6M]
      ┃    ┣━━04丨索引（上）：改进的二分查找算法在Kafka索引的应用.html [6.4M]
      ┃    ┣━━04丨索引（上）：改进的二分查找算法在Kafka索引的应用.m4a [17.5M]
      ┃    ┣━━04丨索引（上）：改进的二分查找算法在Kafka索引的应用.pdf [4.2M]
      ┃    ┣━━05丨索引（下）：位移索引和时间戳索引的区别是什么？.html [6.3M]
      ┃    ┣━━05丨索引（下）：位移索引和时间戳索引的区别是什么？.m4a [10.4M]
      ┃    ┗━━05丨索引（下）：位移索引和时间戳索引的区别是什么？.pdf [4.1M]
      ┣━━03丨请求处理模块 (5讲) [136.9M]
      ┃    ┣━━06丨请求通道：如何实现Kafka请求队列？.html [4.5M]
      ┃    ┣━━06丨请求通道：如何实现Kafka请求队列？.m4a [15.6M]
      ┃    ┣━━06丨请求通道：如何实现Kafka请求队列？.pdf [3.4M]
      ┃    ┣━━07丨SocketServer（上）：Kafka到底是怎么应用NIO实现网络通信的？.html [9.2M]
      ┃    ┣━━07丨SocketServer（上）：Kafka到底是怎么应用NIO实现网络通信的？.m4a [16.3M]
      ┃    ┣━━07丨SocketServer（上）：Kafka到底是怎么应用NIO实现网络通信的？.pdf [9M]
      ┃    ┣━━08丨SocketServer（中）：请求还要区分优先级？.html [7M]
      ┃    ┣━━08丨SocketServer（中）：请求还要区分优先级？.m4a [15.5M]
      ┃    ┣━━08丨SocketServer（中）：请求还要区分优先级？.pdf [7.9M]
      ┃    ┣━━09丨SocketServer（下）：请求处理全流程源码分析.html [5.9M]
      ┃    ┣━━09丨SocketServer（下）：请求处理全流程源码分析.m4a [14.7M]
      ┃    ┣━━09丨SocketServer（下）：请求处理全流程源码分析.pdf [4.2M]
      ┃    ┣━━10丨KafkaApis：Kafka最重要的源码入口，没有之一.html [6.3M]
      ┃    ┣━━10丨KafkaApis：Kafka最重要的源码入口，没有之一.m4a [12.4M]
      ┃    ┗━━10丨KafkaApis：Kafka最重要的源码入口，没有之一.pdf [5.2M]
      ┣━━04丨Controller模块 (5讲) [115.7M]
      ┃    ┣━━11丨Controller元数据：Controller都保存有哪些东西？有几种状态？.html [3.8M]
      ┃    ┣━━11丨Controller元数据：Controller都保存有哪些东西？有几种状态？.m4a [13.7M]
      ┃    ┣━━11丨Controller元数据：Controller都保存有哪些东西？有几种状态？.pdf [2.7M]
      ┃    ┣━━12丨ControllerChannelManager：Controller如何管理请求发送？.html [4.8M]
      ┃    ┣━━12丨ControllerChannelManager：Controller如何管理请求发送？.m4a [13.6M]
      ┃    ┣━━12丨ControllerChannelManager：Controller如何管理请求发送？.pdf [3.3M]
      ┃    ┣━━13丨ControllerEventManager：变身单线程后的Controller如何处理事件？.html [5.5M]
      ┃    ┣━━13丨ControllerEventManager：变身单线程后的Controller如何处理事件？.m4a [13.2M]
      ┃    ┣━━13丨ControllerEventManager：变身单线程后的Controller如何处理事件？.pdf [6M]
      ┃    ┣━━14丨Controller选举是怎么实现的？.html [7.2M]
      ┃    ┣━━14丨Controller选举是怎么实现的？.m4a [16.2M]
      ┃    ┣━━14丨Controller选举是怎么实现的？.pdf [5M]
      ┃    ┣━━15丨如何理解Controller在Kafka集群中的作用？.html [5.4M]
      ┃    ┣━━15丨如何理解Controller在Kafka集群中的作用？.m4a [11.8M]
      ┃    ┗━━15丨如何理解Controller在Kafka集群中的作用？.pdf [3.6M]
      ┣━━05丨状态机模块 (3讲) [79.8M]
      ┃    ┣━━16丨TopicDeletionManager：Topic是怎么被删除的？.html [5.1M]
      ┃    ┣━━16丨TopicDeletionManager：Topic是怎么被删除的？.m4a [14.4M]
      ┃    ┣━━16丨TopicDeletionManager：Topic是怎么被删除的？.pdf [4.5M]
      ┃    ┣━━17丨ReplicaStateMachine：揭秘副本状态机实现原理.html [7.9M]
      ┃    ┣━━17丨ReplicaStateMachine：揭秘副本状态机实现原理.m4a [15.7M]
      ┃    ┣━━17丨ReplicaStateMachine：揭秘副本状态机实现原理.pdf [6.8M]
      ┃    ┣━━18丨PartitionStateMachine：揭秘分区状态机实现原理.html [5M]
      ┃    ┣━━18丨PartitionStateMachine：揭秘分区状态机实现原理.m4a [16.5M]
      ┃    ┗━━18丨PartitionStateMachine：揭秘分区状态机实现原理.pdf [4M]
      ┣━━06丨延迟操作模块 (2讲) [47.2M]
      ┃    ┣━━19丨TimingWheel：探究Kafka定时器背后的高效时间轮算法.html [3.6M]
      ┃    ┣━━19丨TimingWheel：探究Kafka定时器背后的高效时间轮算法.m4a [16.4M]
      ┃    ┣━━19丨TimingWheel：探究Kafka定时器背后的高效时间轮算法.pdf [2.6M]
      ┃    ┣━━20丨DelayedOperation：Broker是怎么延时处理请求的？.html [3.3M]
      ┃    ┣━━20丨DelayedOperation：Broker是怎么延时处理请求的？.m4a [19.1M]
      ┃    ┗━━20丨DelayedOperation：Broker是怎么延时处理请求的？.pdf [2.3M]
      ┣━━07丨副本管理模块 (6讲) [133.9M]
      ┃    ┣━━21丨AbstractFetcherThread：拉取消息分几步？.html [2.7M]
      ┃    ┣━━21丨AbstractFetcherThread：拉取消息分几步？.m4a [13M]
      ┃    ┣━━21丨AbstractFetcherThread：拉取消息分几步？.pdf [1.9M]
      ┃    ┣━━22丨ReplicaFetcherThread：Follower拉取Leader消息是如何实现的？.html [6.6M]
      ┃    ┣━━22丨ReplicaFetcherThread：Follower拉取Leader消息是如何实现的？.m4a [13.3M]
      ┃    ┣━━22丨ReplicaFetcherThread：Follower拉取Leader消息是如何实现的？.pdf [4.1M]
      ┃    ┣━━23丨ReplicaManager（上）：必须要掌握的副本管理类定义和核心字段.html [4.1M]
      ┃    ┣━━23丨ReplicaManager（上）：必须要掌握的副本管理类定义和核心字段.m4a [12.2M]
      ┃    ┣━━23丨ReplicaManager（上）：必须要掌握的副本管理类定义和核心字段.pdf [2.9M]
      ┃    ┣━━24丨ReplicaManager（中）：副本管理器是如何读写副本的？.html [4.5M]
      ┃    ┣━━24丨ReplicaManager（中）：副本管理器是如何读写副本的？.m4a [13M]
      ┃    ┣━━24丨ReplicaManager（中）：副本管理器是如何读写副本的？.pdf [3.2M]
      ┃    ┣━━25丨ReplicaManager（下）：副本管理器是如何管理副本的.html [5.1M]
      ┃    ┣━━25丨ReplicaManager（下）：副本管理器是如何管理副本的？.m4a [18.5M]
      ┃    ┣━━25丨ReplicaManager（下）：副本管理器是如何管理副本的？.pdf [4.5M]
      ┃    ┣━━26丨MetadataCache：Broker是怎么异步更新元数据缓存的？.html [4.7M]
      ┃    ┣━━26丨MetadataCache：Broker是怎么异步更新元数据缓存的？.m4a [13.8M]
      ┃    ┗━━26丨MetadataCache：Broker是怎么异步更新元数据缓存的？.pdf [5.6M]
      ┣━━08丨消费者组管理模块 (7讲) [154.3M]
      ┃    ┣━━27丨消费者组元数据（上）：消费者组都有哪些元数据？.html [5.7M]
      ┃    ┣━━27丨消费者组元数据（上）：消费者组都有哪些元数据？.m4a [16M]
      ┃    ┣━━27丨消费者组元数据（上）：消费者组都有哪些元数据？.pdf [4M]
      ┃    ┣━━28丨消费者组元数据（下）：Kafka如何管理这些元数据？.html [3.7M]
      ┃    ┣━━28丨消费者组元数据（下）：Kafka如何管理这些元数据？.m4a [15.5M]
      ┃    ┣━━28丨消费者组元数据（下）：Kafka如何管理这些元数据？.pdf [3.1M]
      ┃    ┣━━29丨GroupMetadataManager：组元数据管理器是个什么东西？.html [4M]
      ┃    ┣━━29丨GroupMetadataManager：组元数据管理器是个什么东西？.m4a [14.5M]
      ┃    ┣━━29丨GroupMetadataManager：组元数据管理器是个什么东西？.pdf [2.7M]
      ┃    ┣━━30丨GroupMetadataManager：位移主题保存的只是位移吗？.html [4.5M]
      ┃    ┣━━30丨GroupMetadataManager：位移主题保存的只是位移吗？.m4a [12M]
      ┃    ┣━━30丨GroupMetadataManager：位移主题保存的只是位移吗？.pdf [4M]
      ┃    ┣━━31丨GroupMetadataManager：查询位移时，不用读取位移主题？.html [3.4M]
      ┃    ┣━━31丨GroupMetadataManager：查询位移时，不用读取位移主题？.m4a [11.2M]
      ┃    ┣━━31丨GroupMetadataManager：查询位移时，不用读取位移主题？.pdf [2.5M]
      ┃    ┣━━32丨GroupCoordinator：在Rebalance中，Coordinator如何处理成员入组？.html [5M]
      ┃    ┣━━32丨GroupCoordinator：在Rebalance中，Coordinator如何处理成员入组？.m4a [16.8M]
      ┃    ┣━━32丨GroupCoordinator：在Rebalance中，Coordinator如何处理成员入组？.pdf [3.7M]
      ┃    ┣━━33丨GroupCoordinator：在Rebalance中，如何进行组同步？.html [5.4M]
      ┃    ┣━━33丨GroupCoordinator：在Rebalance中，如何进行组同步？.m4a [13.1M]
      ┃    ┗━━33丨GroupCoordinator：在Rebalance中，如何进行组同步？.pdf [3.5M]
      ┣━━09丨特别放送 (5讲) [93.3M]
      ┃    ┣━━特别放送（二）丨一篇文章带你了解参与开源社区的全部流程.html [2.5M]
      ┃    ┣━━特别放送（二）丨一篇文章带你了解参与开源社区的全部流程.m4a [6.6M]
      ┃    ┣━━特别放送（二）丨一篇文章带你了解参与开源社区的全部流程.pdf [1.8M]
      ┃    ┣━━特别放送（三）：我是怎么度过日常一天的？.html [2.8M]
      ┃    ┣━━特别放送（三）：我是怎么度过日常一天的？.m4a [8M]
      ┃    ┣━━特别放送（三）：我是怎么度过日常一天的？.pdf [2.3M]
      ┃    ┣━━特别放送（四）丨20道经典的Kafka面试题详解.html [1.8M]
      ┃    ┣━━特别放送（四）丨20道经典的Kafka面试题详解.m4a [20.2M]
      ┃    ┣━━特别放送（四）丨20道经典的Kafka面试题详解.pdf [1.3M]
      ┃    ┣━━特别放送（五）丨Kafka社区的重磅功能：移除ZooKeeper依赖.html [8M]
      ┃    ┣━━特别放送（五）丨Kafka社区的重磅功能：移除ZooKeeper依赖.m4a [16.4M]
      ┃    ┣━━特别放送（五）丨Kafka社区的重磅功能：移除ZooKeeper依赖.pdf [5.6M]
      ┃    ┣━━特别放送（一）丨经典的Kafka学习资料有哪些？.html [4.3M]
      ┃    ┣━━特别放送（一）丨经典的Kafka学习资料有哪些？.m4a [7.5M]
      ┃    ┗━━特别放送（一）丨经典的Kafka学习资料有哪些？.pdf [4.1M]
      ┣━━10丨期中、期末测试 (2讲) [7.4M]
      ┃    ┣━━期末测试丨一套习题，测试你的掌握程度.html [2.1M]
      ┃    ┣━━期末测试丨一套习题，测试你的掌握程度.m4a [917.5K]
      ┃    ┣━━期末测试丨一套习题，测试你的掌握程度.pdf [1.4M]
      ┃    ┣━━期中测试丨这些源码知识，你都掌握了吗？.html [1.7M]
      ┃    ┗━━期中测试丨这些源码知识，你都掌握了吗？.pdf [1.3M]
      ┗━━11丨结束语 (1讲) [10.1M]
            ┣━━结束语丨源码学习，我们才刚上路呢.html [2.5M]
            ┣━━结束语丨源码学习，我们才刚上路呢.m4a [6M]
            ┗━━结束语丨源码学习，我们才刚上路呢.pdf [1.6M]