diff --git a/README.md b/README.md index e5b6291d..6fd5bb94 100644 --- a/README.md +++ b/README.md @@ -99,6 +99,10 @@ File, InputStream OutputStream, Reader Writer, Serializable, Socket, NIO 整理自《大规模分布式存储系统》 +> [一致性协议](https://github.com/CyC2018/InnterviewNotes/blob/master/notes/一致性协议.md) + +二阶段提交、Paxos、Raft、拜占庭将军问题。 + ## 工具 :hammer: > [Git](https://github.com/CyC2018/InnterviewNotes/blob/master/notes/Git.md) diff --git a/notes/一致性协议.md b/notes/一致性协议.md new file mode 100644 index 00000000..6cf9280c --- /dev/null +++ b/notes/一致性协议.md @@ -0,0 +1,159 @@ + +* [两阶段提交协议](#两阶段提交协议) + * [1. 运行过程](#1-运行过程) + * [2. 存在的问题](#2-存在的问题) +* [Paxos 协议](#paxos-协议) + * [1. 执行过程](#1-执行过程) + * [2. 约束条件](#2-约束条件) +* [Raft 协议](#raft-协议) + * [1. 单个 Candidate 的竞选](#1-单个-candidate-的竞选) + * [2. 多个 Candidate 竞选](#2-多个-candidate-竞选) + * [3. 日志复制](#3-日志复制) +* [拜占庭将军问题](#拜占庭将军问题) +* [参考资料](#参考资料) + + + +# 两阶段提交协议 + +Two-phase Commit(2PC)。 + +可以保证多个节点操作的原子性,经常用来实现分布式事务。 + +两类节点:协调者(Coordinator)和参与者(Participants),协调者只有一个,参与者可以有多个。 + +## 1. 运行过程 + +1. 准备阶段:协调者询问参与者事务是否执行成功; + +2. 提交阶段:如果事务在每个参与者上都执行成功,协调者发送通知让参与者提交事务;否则,协调者发送通知让参与者回滚事务。 + +需要注意的是,在准备阶段,参与者执行了事务,但是还未提交。只有在提交阶段协接收到协调者发来的通知后,才进行提交或者回滚。 + +## 2. 存在的问题 + +- 参与者发生故障。解决方案:可以给事务设置一个超时时间,如果某个参与者一直不响应,那么认为事务执行失败。 + +- 协调者发生故障。解决方案:将操作日志同步到备用协调者,让备用协调者接替后续工作。 + +# Paxos 协议 + +用于达成共识性问题,即对多个节点产生的值,该算法能保证只选出唯一一个值。 + +主要有三类节点: + +1. 提议者(Proposer):提议一个值; +2. 接受者(Acceptor):对每个提议进行投票; +3. 告知者(Learner):被告知投票的结果,不参与投票的过程。 + +

+ +## 1. 执行过程 + +规定一个提议包含两个字段:[n, v],其中 n 为序号(具有唯一性),v 为提议值。 + +下图演示了两个 Proposer 和三个 Acceptor 的系统中运行该算法的初始过程,每个 Proposer 都会向每个 Acceptor 发送提议请求。 + +

+ +当 Acceptor 接收到一个提议请求,包含的提议为 [n1, v1],并且之前还未接收过提议请求,那么发送一个提议响应,设置当前接收的提议为 [n1, v1],并且保证以后不会再接受提议值小于 n1 的提议。 + +如下图,Acceptor X 在收到 [n=2, v=8] 的提议请求时,由于之前没有接收过提议,因此就发送一个 [no previous] 的提议响应,并且设置当前接收的提议为 [n=2, v=8],并且保证以后不会再接受提议值小于 2 的提议。其它的 Acceptor 类似。 + +

+ +如果 Acceptor 接受到一个提议请求,包含的提议为 [n2, v2],并且之前已经接收过提议 [n1, v1]。如果 n1 > n2,那么就丢弃该提议请求;否则,发送提议响应,该提议响应包含之前已经接收过的提议 [n1, v1],设置当前接收的提议为 [n2, v2],并且保证以后不会再接受提议值小于 n2 的提议。 + +如下图,Acceptor Z 收到 Proposer A 发来的 [n=2, v=8] 的提议请求,由于之前已经接收过 [n=4, v=5] 的提议,并且 n > 2,因此就抛弃该提议请求;Acceptor X 收到 Proposer B 发来的 [n=4, v=5] 的提议请求,因为之前接收的提议为 [n=2, v=8],并且 2 <= 4,因此就发送 [n=2, v=8] 的提议响应,设置当前接收的提议为 [n=4, v=5],并且保证以后不会再接受提议值小于 4 的提议。Acceptor Y 类似。 + +

+ +当一个 Proposer 接收到超过一半 Acceptor 的提议响应时,就可以发送接受请求。 + +如下图,Proposer A 接受到两个提议响应之后,就发送 [n=2, v=8] 接受请求。该接受请求会被所有 Acceptor 丢弃,因为此时所有 Acceptor 都保证不接受提议值小于 4 的提议。Proposer B 过后也收到了两个提议响应,因此也开始发送接受请求。需要注意的是,接受请求的 v 需要取它收到的最大 v 值,也就是 8。因此它发送 [n=4, v=8] 的接受请求。 + +

+ +Acceptor 接收到接受请求时,如果提议号大于等于该 Acceptor 承诺的最小提议号,那么就发送通知给所有的 Learner。当 Learner 发现有大多数的 Acceptor 接收了某个提议,那么该提议的提议值就被 Paxos 选择出来。 + +

+ +## 2. 约束条件 + +**2.1 正确性** + +只有一个提议值会生效。 + +因为 Paxos 协议要求每个生效的提议被多数 Acceptor 接收,并且 Acceptor 不会接受两个不同的提议,因此可以保证正确性。 + +**2.2 可终止性** + +最后总会有一个提议生效。 + +Paxos 协议能够让 Proposer 发送的提议朝着能被大多数 Acceptor 接受的那个提议靠拢,因此能够保证可终止性。 + +# Raft 协议 + +Raft 和 Poxas 类似,但是更容易理解,也更容易实现。 + +Raft 主要是用来竞选主节点。 + +## 1. 单个 Candidate 的竞选 + +有三种节点:Follower、Candidate 和 Leader。Leader 会周期性的发送心跳包给 Follower。每个 Follower 都设置了一个随机的竞选超时时间,一般为 150ms\~300ms,如果在这个时间内没有收到 Leader 的心跳包,就会变成 Candidate,进入竞选阶段。 + +① 下图表示一个分布式系统的最初阶段,此时只有 Follower,没有 Leader。Follower A 等待一个随机的竞选超时时间之后,没收到 Leader 发来的心跳包,因此进入竞选阶段。 + +

+ +② 此时 A 发送投票请求给其它所有节点。 + +

+ +③ 其它节点会对请求进行回复,如果超过一半的节点回复了,那么该 Candidate 就会变成 Leader。 + +

+ +④ 之后 Leader 会周期性地发送心跳包给 Follower,Follower 接收到心跳包,会重新开始计时。 + +

+ +## 2. 多个 Candidate 竞选 + +① 如果有多个 Follower 成为 Candidate,并且所获得票数相同,那么就需要重新开始投票,例如下图中 Candidate B 和 Candidate D 都获得两票,因此需要重新开始投票。 + +

+ +② 当重新开始投票时,由于每个节点设置的随机竞选超时时间不同,因此能下一次再次出现多个 Candidate 并获得同样票数的概率很低。 + +

+ +## 3. 日志复制 + +① 来自客户端的修改都会被传入 Leader。注意该修改还未被提交,只是写入日志中。 + +

+ +② Leader 会把修改复制到所有 Follower。 + +

+ +③ Leader 会等待大多数的 Follower 也进行了修改,然后才将修改提交。 + +

+ +④ 此时 Leader 会通知的所有 Follower 让它们也提交修改,此时所有节点的值达成一致。 + +

+ +# 拜占庭将军问题 + +> [拜占庭将军问题深入探讨](http://www.8btc.com/baizhantingjiangjun) + +# 参考资料 + +- 杨传辉. 大规模分布式存储系统: 原理解析与架构实战[M]. 机械工业出版社, 2013. +- [区块链技术指南](https://www.gitbook.com/book/yeasy/blockchain_guide/details) +- [NEAT ALGORITHMS - PAXOS](http://harry.me/blog/2014/12/27/neat-algorithms-paxos/) +- [Raft: Understandable Distributed Consensus](http://thesecretlivesofdata.com/raft) +- [Paxos By Example](https://angus.nyc/2012/paxos-by-example/) diff --git a/pics/0aaf4630-d2a2-4783-b3f7-a2b6a7dfc01b.jpg b/pics/0aaf4630-d2a2-4783-b3f7-a2b6a7dfc01b.jpg new file mode 100644 index 00000000..bee1bae5 Binary files /dev/null and b/pics/0aaf4630-d2a2-4783-b3f7-a2b6a7dfc01b.jpg differ diff --git a/pics/10.gif b/pics/10.gif new file mode 100644 index 00000000..d52a911e Binary files /dev/null and b/pics/10.gif differ diff --git a/pics/11.gif b/pics/11.gif new file mode 100644 index 00000000..5d9c6f00 Binary files /dev/null and b/pics/11.gif differ diff --git a/pics/111521118015898.gif b/pics/111521118015898.gif new file mode 100644 index 00000000..5c31da1d Binary files /dev/null and b/pics/111521118015898.gif differ diff --git a/pics/111521118445538.gif b/pics/111521118445538.gif new file mode 100644 index 00000000..323d129c Binary files /dev/null and b/pics/111521118445538.gif differ diff --git a/pics/111521118483039.gif b/pics/111521118483039.gif new file mode 100644 index 00000000..a81124dd Binary files /dev/null and b/pics/111521118483039.gif differ diff --git a/pics/111521118640738.gif b/pics/111521118640738.gif new file mode 100644 index 00000000..7a7b05a9 Binary files /dev/null and b/pics/111521118640738.gif differ diff --git a/pics/111521119203347.gif b/pics/111521119203347.gif new file mode 100644 index 00000000..37cdb5a5 Binary files /dev/null and b/pics/111521119203347.gif differ diff --git a/pics/111521119368714.gif b/pics/111521119368714.gif new file mode 100644 index 00000000..216c3033 Binary files /dev/null and b/pics/111521119368714.gif differ diff --git a/pics/2bf2fd8f-5ade-48ba-a2b3-74195ac77c4b.png b/pics/2bf2fd8f-5ade-48ba-a2b3-74195ac77c4b.png new file mode 100644 index 00000000..590a4299 Binary files /dev/null and b/pics/2bf2fd8f-5ade-48ba-a2b3-74195ac77c4b.png differ diff --git a/pics/2c4556e4-0751-4377-ab08-e7b89d697ca7.png b/pics/2c4556e4-0751-4377-ab08-e7b89d697ca7.png new file mode 100644 index 00000000..c7f87138 Binary files /dev/null and b/pics/2c4556e4-0751-4377-ab08-e7b89d697ca7.png differ diff --git a/pics/3f5bba4b-7813-4aea-b578-970c7e3f6bf3.jpg b/pics/3f5bba4b-7813-4aea-b578-970c7e3f6bf3.jpg new file mode 100644 index 00000000..c9702daf Binary files /dev/null and b/pics/3f5bba4b-7813-4aea-b578-970c7e3f6bf3.jpg differ diff --git a/pics/7.gif b/pics/7.gif new file mode 100644 index 00000000..fad88513 Binary files /dev/null and b/pics/7.gif differ diff --git a/pics/8adb2591-d3f1-4632-84cb-823fb9c5eb09.jpg b/pics/8adb2591-d3f1-4632-84cb-823fb9c5eb09.jpg new file mode 100644 index 00000000..9083d22b Binary files /dev/null and b/pics/8adb2591-d3f1-4632-84cb-823fb9c5eb09.jpg differ diff --git a/pics/9.gif b/pics/9.gif new file mode 100644 index 00000000..f81aa264 Binary files /dev/null and b/pics/9.gif differ diff --git a/pics/9b829410-86c4-40aa-ba8d-9e8e26c0eeb8.jpg b/pics/9b829410-86c4-40aa-ba8d-9e8e26c0eeb8.jpg new file mode 100644 index 00000000..470580c3 Binary files /dev/null and b/pics/9b829410-86c4-40aa-ba8d-9e8e26c0eeb8.jpg differ