异步代码的几种写法 | Rust学习笔记

作者:谢敬伟,江湖人称“刀哥”,20年IT老兵,数据通信网络专家,电信网络架构师,目前任Netwarps开发总监。刀哥在操作系统、网络编程、高并发、高吞吐、高可用性等领域有多年的实践经验,并对网络及编程等方面的新技术有浓厚的兴趣。


Rust历史不长,仍然处于快速发展的历程中。关于异步编程的模式,现在已经发展到async/await协程的高级阶段。大概是因为async/await出现的时间还不长,所以现有大多数的开源项目并不是或不是纯粹使用async/await来书写的,而是前前后后有多种的写法。这样的状况给Rust的学习带来了一些的难度。在这里,我们来捋一捋异步代码的几种写法。

mio

最原始的方式是使用mio进行开发。mio是一个底层异步I/O库,提供非阻塞方式的API,具有很高的性能。实际上mio是对于操作系统epoll/kqueue/IOCP的封装。在C/C++中我们使用libevent之类的库,mio可以理解为对应的Rust版本。基于mio的代码大致如下:

 loop {
     // Poll Mio for events, blocking until we get an event.
     poll.poll(&mut events, None)?;

     // Process each event.
     for event in events.iter() {
         if event.is_writable() {
             // socket可写,开始发送数据
         }

         if event.is_readable() {
             // socket可读,开始接收数据
         }
         // socket 关闭,退出循环
         return Ok(());
     }
 }    

总的来说,这是完全基于异步事件通知的写法,和C/C++区别不是很大,异步代码对于程序员是一个挑战,当代码逻辑越来越复杂,添加新功能或是解决已有问题的难度也越来越大。

另外,mio实现的是一个单线程事件循环,虽然可以处理成千上万路的I/O操作,但没有多线程的能力,需要自己扩充。

Future Poll

为了更好地规范异步的逻辑,Rust抽象出Future表示尚未发生的事物。这些Future可以用很多方式組合成一个更复杂的复合Future来代表一系列的事件。Future需要程序主动去poll(轮询)才能获取到最终的结果,每一次轮询的结果可能是Ready或者Pending

运行库提供ExecutorReactor来执行Future,也就是调用Futurepoll方法循环执行一系列就绪的Future,当Future返回Pending的时候,会将Future转移到Reactor上等待唤醒。Reactor被用来负责唤醒之前无法完成的Future。事实上,tokioReactor是基于mio实现的,而async-std/smol则是封装了epoll/kqueue/IOCP,提供类似的功能。

手动实现Future是一件相对繁琐的工作,主要的问题在于异步模式本身的特性。例如,接收网络数据,无法臆测每次轮询会收到多少字节的数据,往往需要开辟一段接收缓冲区容纳数据,协议解码也需要一个状态机拼包向上层提交;发送网络数据存在相似问题,发送数据时底层未就绪,则缓冲发送数据,待下次轮询时,需要首先检查并处理发送缓冲区。另外还有一些值得注意的地方,如果手动实现的Future返回Pending,则必须自己实现唤醒机制,也就是需要将cx克隆一份记下来,然后在适当的时侯调用cx.wake()。因为网络相关的功能往往是分层的,因此手动的Poll循环也会是层层堆叠的,这时候,返回值Poll::Ready(T)就有学问了。泛型T可能包裹各种不同的数据,Option<T>Result<T,E>,或者两者的组合。因为最外层还有一个Poll<T>,所有这时候的match语句写起来会非常臃肿,粘贴复制写很多代码,完成的功能却非常有限,而且由于这些代码很相似,大大增加了出错的可能性。

标准库中仅仅定义了Future,更多的相关功能需要引用futures-rs类库,里面定义了一系列有关异步的操作,包括StreamSinkAsyncReadAsyncWrite等基础Trait,以及对应实现了大量方便操作的组合子的Ext Trait,特别用途的fusedBoxTry系列的扩展,诸如join!select!pin_mut!等一系列的宏。理论上,不使用这些扩展也能写出代码,只不过那样的代码很可能篇幅会长的可怕。值得一提的是,除了一些可以简化代码的过程宏之外,扩展Trait提供的组合子也会让代码精简不少。比如Future::and_then可以让代码写成链式调用的方式;Sink::send包装了Sink发送三步骤 poll_ready/start_send/poll_flush,使用.await一行代码直接就可以完成发送。因此,很多poll方式的代码实际上是准确地说是混合式的,其中也使用了不少async代码块。

总之,搞清楚Future相关的这些内容是需要花费不少时间,更不用说用它们来写代码了。不过,即便是使用async/await这种更高级原语,也是有必要了解底层的工作原理和实现机制,所谓知其然知其所以然。

async/await

使用async/await可以将异步的代码写得类似同步的过程,更加符合人体工程学。因为async被翻译为一个Future状态机,原先在poll方式中需要处理的与Pending相关的状态现在都由async生成的状态机自动完成,因此大大减轻了程序员的心智负担。

如前所述,底层的Futures提供了很多方便的组合子扩展Future,使用起来很简洁,可以极大地简化代码。例如,上文提到过的Sink::send包装了发送缓冲区的实现和异步发送的三个步骤;AsyncRead::read_exact实现了读取指定字节数的功能,在处理网络协议解析时可以避免手写一个拼包状态机;AsyncWrite::write_all实现了发送全部数据以及发送缓冲,等等。正是在这些底层功能的支持下,async/await成为了更高级的书写异步代码的方式。也许会有少许担心,这样所谓“高级”会不会在性能上有很大损失?笔者个人不这么认为。自动实现的状态机也许未必比程序员手动完成的性能更差。状态机编程对于任何人,即便是一个有经验的程序员都是不小挑战。蹩脚的状态机实现不仅可能有性能问题,更大的风险来自于实现上的漏洞,以及维护上的困难。代码写出来更多是给别人看的,完成同样的功能,简洁的代码更有可能是更高质量的代码。

以下例子是固定长度分割的报文接收过程,使用async/await是很简单的。如果实现为一个Stream/poll_next,代码会复杂很多。

    /// convenient method for reading a whole frame
    pub async fn recv_frame(&mut self) -> io::Result<Vec<u8>> {
        let mut len = [0; 4];
        let _ = self.inner.read_exact(&mut len).await?;  // inner socket, 支持 AsyncRead

        let n = u32::from_be_bytes(len) as usize;
        if n > self.max_frame_len {
            let msg = format!(
                "data length {} exceeds allowed maximum {}",
                n, self.max_frame_len
            );
            return Err(io::Error::new(io::ErrorKind::PermissionDenied, msg));
        }

        let mut frame = vec![0; n];
        self.inner.read_exact(&mut frame).await?;

        Ok(frame)
    }

最后,完全使用async/await写代码目前还有几个问题:

  • async trait

当前Trait 不支持 async fn,无法直接用Trait来抽象异步方法。暂时解决办法是使用三方库 async-trait。如下:

use async_trait::async_trait;

#[async_trait]
trait Advertisement {
    async fn run(&self);
}

async_trait将代码转换为一个返回 Pin<Box<dyn Future + Send + 'async>> 的同步方法。因为装箱和动态派发的原因,性能上会有少许损失。

  • 异步析构

当前drop方法必须是同步调用,不能使用await语法。当一个I/O对象越过生命周期被析构,往往在关闭底层句柄之前,还需要完成某些I/O操作。比如,通知网络对端连接已经关闭。在同步代码中,我们只需要在drop()中置入这些操作,但是在异步代码中,无法在drop()中做类似的事情。

解决办法,总是在异步I/O对象越过生命周期之前显式地执行关闭动作,或是,实现一个类似GC的功能,专门负责清理工作。

展望

笔者在学习Rust过程中,主要关注网络相关的并发编程。因为之前有在Go版本的ipfs/libp2p上的开发经验,故而学习研究了rust-libp2p以及nervos tentaclerust-libp2pParity实现的准官方版本,但是这个项目的代码及其难懂,过于强调使用泛型参数的抽象,导致代码可读性非常差。请教了代码作者,他承认代码可能有些复杂,但也强调都是有原因的... nervos tentacle的实现在协议上不够完整,特别是与标准libp2p并不兼容。两个项目共有的特点是主要用poll的方式写代码,逻辑上都是状态机的嵌套。

因此,笔者试图完全使用async/await方式重构libp2p,参考rust-libp2p的实现,代码协程化,向上层提供纯粹的异步接口,争取在API层面的体验接近go-libp2p,这是推广Rust协程机制的一个尝试,同时也是个人的一个学习的过程。目前刚刚起步,仅完成了secioyamux部分,待合适时机开源,期望更多Rust爱好者共同来开发完善。

参考:
Asynchronous Destructors


深圳星链网科科技有限公司(Netwarps),专注于互联网安全存储领域技术的研发与应用,是先进的安全存储基础设施提供商,主要产品有去中心化文件系统(DFS)、企业联盟链平台(EAC)、区块链操作系统(BOS)。
微信公众号:Netwarps

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,271评论 5 466
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,725评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,252评论 0 328
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,634评论 1 270
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,549评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 47,985评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,471评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,128评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,257评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,233评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,235评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,940评论 3 316
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,528评论 3 302
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,623评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,858评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,245评论 2 344
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,790评论 2 339