分布式算法领域 Paxos 浅谈

All working protocols for asynchronous consensus we have so far encountered have Paxos at their core.

——Google 的 Chubby[1]

在分布式算法领域,有个非常重要的算法叫 Paxos。

Paxos 算法是由 Leslie Lamport 提出的,他在《Paxos Made Simple》[2]中写道:The Paxos algorithm, when presented in plain English, is very simple.

大神 Lamport 的第一篇论文《The Part-Time Parliament》[3]用在虚构的希腊岛屿 Paxos 上的人们通过议会表决法律来解释 Paxos 算法,群众纷纷表示太难理解了。大神表示你们这群渣渣不懂我的幽默,既然如此,我就用简明英语再表述一遍。Lamport 说非常简单,但是 Paxos 公认的繁琐难懂,尤其是要用程序员严谨的思维将所有细节理清的时候,你更多的是下面的表情:

本文核心目的是让与笔者一样的小白理清下述三个问题:

1、Paxos 究竟在解决什么问题?

2、Paxos 算法的核心思想是什么?/3、Paxos 的2阶段都做了什么?

Paxos 是什么

分布式系统中的节点通信存在两种模型:共享内存(Shared memory)消息传递(Messages passing)

基于消息传递通信模型的分布式系统,不可避免的会发生以下错误:

进程可能会慢、被杀死或者重启;

消息可能会延迟、丢失、重复;

在基础 Paxos 场景中,先不考虑可能出现消息篡改即拜占庭错误的情况;

……

Paxos 算法解决的问题是在一个可能发生上述异常的分布式系统中如何就某个值达成一致,保证不论发生以上任何异常,都不会破坏决议的一致性。

——维基百科

简而言之: Paxos 的目的是让整个集群的结点对某个值的变更达成一致。Paxos 可以说是一个民主选举的算法——大多数节点的决定会成个整个集群的统一决定。任何一个点都可以提出要修改某个数据的提案,是否通过这个提案取决于这个集群中是否有超过半数的节点同意。取值一旦确定将不再更改,并且可以被获取到(不可变性,可读取性)。

Paxos 各角色的职能

Proposer:提议者,提出议案(同时存在一个或者多个,他们各自发出提案);

Acceptor:接受者,收到议案后选择是否接受;

Client:产生议题者,发起新的请求;

Learner:最终决策学习者,只学习正确的决议。

上面4种角色中最主要的是 Proposer 和 Acceptor。Proposer 就像 Client 的使者,由 Proposer 使者拿着 Client 的议题去向 Acceptor 提议,让 Acceptor 来决策。主要的交互过程在 Proposer 和 Acceptor 之间。

下面用一幅图来标识角色之间的关系。

上图中是画了很多节点的,每个节点需要一台机器么?答案是不需要的。上面的图是逻辑图,物理中,可以将 Acceptor 和 Proposer 以及 Client 放在一台机器上,Acceptor 启动端口进行 TCP 监听,Proposer 来主动连接即可。所以完全可以将 Client、Proposer、Acceptor、Learner 合并到一个程序里面。

Paxos 算法内容

我们先看看 Paxos 在原作者的《Paxos Made Simple》中的描述。

决议的提出与批准

通过一个决议分为两个阶段:

1)prepare 阶段

proposer 选择一个提案编号 n 并将 prepare 请求发送给 acceptors 中的一个多数派;

acceptor 收到 prepare 消息后,如果提案的编号大于它已经回复的所有 prepare 消息,则 acceptor 将自己上次接受的提案回复给 proposer,并承诺不再回复小于 n 的提案;

下图是一个 proposer 和5个 acceptor 之间的交互,对2种不同的情况做了处理。

2)批准阶段

当一个 proposer 收到了多数 acceptors 对 prepare 的回复后,就进入批准阶段。它要向回复 prepare 请求的 acceptors 发送 accept 请求,包括编号 n 和 value;

在不违背自己向其他 proposer 的承诺的前提下,acceptor 收到 accept 请求后即接受这个请求。

可以看出,Proposer 与 Acceptor 之间的交互主要有4类消息通信,这4类消息对应于 paxos 算法的两个阶段4个过程。用2轮 RPC 来确定一个值。上面的图解都只是一个 Proposer,但是实际中肯定是有其他 Proposer 针对同一件事情发出请求,所以在每个过程中都会有些特殊情况处理,这也是为了达成一致性所做的事情。

如果在整个过程中没有其他 Proposer 来竞争,那么这个操作的结果就是确定无异议的。但是如果有其他 Proposer 的话,情况就不一样了。

唯一编号

保证 Paxos 正确运行的一个重要因素就是提案(proposal)编号,编号之间要能比较大小/先后,如果是一个 proposer 很容易做到,如果是多个 proposer 同时提案,该如何处理?Lamport 不关心这个问题,只是要求编号必须是全序的,但我们必须关心。这个问题看似简单,实际还稍微有点棘手,因为这本质上是也是一个分布式的问题。

在 Google 的 Chubby 论文中给出了这样一种方法:

假设有 n 个 proposer,每个编号为 ir (0 <= ir < n),proposol 编号的任何值 s 都应该大于它已知的最大值,并且满足:s % n = ir => s = m * n + ir

proposer 已知的最大值来自两部分:proposer 自己对编号自增后的值和接收到 acceptor 的 reject 后所得到的值。

我们以3个 proposer P1、P2、P3为例。

开始m=0,编号分别为0,1,2。 P1提交的时候发现了P2已经提交,P2编号为1 > P1的0,因此P1重新计算编号:new P1 = 1 \* 3 + 0 = 4

P3以编号2提交,发现小于P1的4,因此P3重新编号:new P3 = 1 * 3 + 2 = 5

整个 paxos 算法基本上就是围绕着 proposal 编号在进行:proposer 忙于选择更大的编号提 交proposal,acceptor 则比较提交的 proposal 的编号是否已是最大,只要编号确定了,所对应的 value 也就确定了。所以说,在 paxos 算法中没有什么比 proposal 的编号更重要。

Multi Paxos

Paxos 对某一个问题达成一致的一个协议。《Paxos Made Simple》[2]花大部分的时间解释的就是这个一个提案的问题,然后在结尾的 Implementing a State Machine  章节介绍了我们大部分的应用场景是对一堆连续的问题达成一致。

最简单的方法就是实现每一个问题独立运行一个 Paxos 的过程(instance)。每个过程都是独立的,相互不会干扰,这样可以为一组连续的问题达成一致。但是这样每一个问题都需要 Prepare, Accept 两个阶段才能够完成。Prepare 阶段频繁请求会造成无谓的浪费,我们能不能把这个过程给减少。

这样就引入 Proposer Leader 的选举,正常的 Paxos 二阶段从 Proposer Group 中选举出 Leader 后,后续统一由 Leader 发起提案,只有 Leader 才能发起提案的话相当于 Proposer 只有一个,所以可以省略 Prepare 阶段直接进入到 Accpet 阶段。直至发生 Leader 宕机、重新进行选举。

《Paxos Made Live》[5]论文中讲解了如何使用 multi paxos 实现 chubby 的过程,以及实现过程中需要解决的问题,比如需要解决磁盘冲突,如何优化读请求,引入了 Epoch number 等。

实际应用

从上面我们知道,Paxos 在节点宕机恢复、消息无序或丢失、网络分化的场景下能保证决议的一致性。而 Paxos 的描述侧重于理论,在实际项目应用中,处理了 N 多实际细节后,可能已经变成了另外一种算法,这时候正确性已经无法得到理论的保证。

要证明分布式一致性算法的正确性通常比实现算法还困难。所以很多系统实际中使用的都是以 Paxos 理论为基础而衍生出来的变种和简化版。例如 Google 的 Chubby、MegaStore、Spanner 等系统,ZooKeeper 的 ZAB 协议,还有更加容易理解的 raft 协议。大部分系统都是靠在实践中运行很长一段时间才能谨慎的表示,系统已基本运行,没有发现大的问题。

参考文献:

The Chubby lock service for loosely-coupled distributed systems. Mike Burrows, Google Inc ---- Google Chubby论文

Paxos Made Simple. Leslie Lamport ---- 2001年

注:Lamport觉得同行无法接受他的幽默感,于是用容易接受的方法重新表述了一遍。

The Part-Time Parliament. Leslie Lamport ---- Lamport于1998年发表在ACM Transactions on Computer Systems。

注:这是该算法第一次公开发表。

Paxos算法维基百科 ---- 里面详细的描述了Paxos的论证过程

Paxos Made Live - An Engineering Perspective ---- Multi Paxos实际应用

Lamport-Paxos ---- 描写了他用9年时间发表这个算法的前前后后

注:部分图片来自网络

本文作者:刘作为(点融黑帮),高级开发工程师。有5年Python后端开发经验、专注于爬虫、数据挖掘与分析。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,126评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,254评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,445评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,185评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,178评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,970评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,276评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,927评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,400评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,883评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,997评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,646评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,213评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,204评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,423评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,423评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,722评论 2 345

推荐阅读更多精彩内容

  • Paxos算法在分布式领域具有非常重要的地位。但是Paxos算法有两个比较明显的缺点:1.难以理解 2.工程实现更...
    Jeffbond阅读 17,198评论 25 87
  • Paxos是什么 Paxos算法是基于消息传递且具有高度容错特性的一致性算法,是目前公认的解决分布式一致性问题最有...
    jiangmo阅读 1,525评论 0 6
  • 原文:Paxos Made Simple作者:Leslie Lamport时间:01 Nov 2001 1 Int...
    随安居士阅读 1,560评论 1 2
  • 此文知识来自于:《从Paxos到Zookeeper分布式一致性原理与实践》第二章分布式入门基础知识,由于博主对其理...
    李文文丶阅读 1,888评论 0 0
  • paxos 声明: 本文思路完成模仿 朱一聪 老师的的 如何浅显易懂地解说 Paxos 而得,版权属于 朱一聪 ...
    姚钢强阅读 794评论 0 1