I/O Completion Ports

本文仅是对Windows 在线文档(部分)的翻译

I/O完成端口为多处理器系统上的异步I/O请求提供了一个高效的线程模式。当进程创建一个I/O完成端口时,系统会创建相关的一系列队列。结合一个预先初始化的线程池,进程通过使用完成端口可以更快,更高效地处理大量并发的异步I/O请求。

1 I/O完成端口工作流程

CreateIoCompletionPort函数用于创建I/O完成端口对象并将一个或多个文件句柄关联到该端口上。当这些文件句柄上的异步I/O操作完成时,会以先入先出的顺序向该完成端口的I/O完成队列压入一个完成封包。这个机制的强大之处在于将多个文件句柄的同步点整合到一个对象上。当然,这个机制也有其它用武之地。注意,虽然完成封包以先入先出的顺序入队,但可能以其它顺序出队。

术语file handle指一个抽象的重叠I/O设备,而不仅仅是磁盘上的文件。例如,可能是一个网络设备,TCP套接字,命名管道,或邮件槽。其可以是任何支持重叠I/O的系统对象。

当某文件句柄和完成端口关联后,除非该文件句柄上的完成封包从完成端口移除或原始操作同步地返回了错误,否则文件句柄的状态不会更新。线程(由主线程创建的其它线程或主线程自己)使用GetQueuedCompletionStatus函数等待压入到完成端口队列的完成封包,而不是直接等待异步I/O完成。在完成端口上阻塞的线程将以后入先出的顺序唤醒,而下一个完成封包将会以先入先出的顺序从完成端口的I/O完成队列中拉取。也就是说,当将完成封包分配给线程处理时,系统会唤醒最近与该完成端口关联的线程。

在指定的完成端口上不限定调用GetQueuedCompletionStatus的线程数。当线程第一次调用GetQueuedCompletionStatus时,他将和指定的完成端口关联(等待线程队列),一直到以下情况发生:

  • 线程退出
  • 后续调用GetQueuedCompletionStatus时指定另外的完成端口
  • 关闭了完成端口

换句话说,一个线程在同一时刻最多只能关联一个完成端口。

当有完成封包到达时,系统首先检查当前有多少与完成端口关联的线程正在运行。如果正在运行的线程数小于指定的最大并发数,会唤醒其中一个线程(最近的那个)以处理完成封包。当运行的线程完成其处理时,通常会再次调用GetQueuedCompletionStatus,这时候,如果完成端口的I/O完成队列不为空,它将继续处理下一个完成封包,否则线程阻塞,等待完成封包。

线程可以调用PostQueuedCompltionStatus函数向完成端口的I/O完成队列添加特殊的完成封包。这样完成端口还可被用来从进程的其它线程接收自定义消息。这通常用于告知工作线程某些外部事件,如应用程序即将终止运行。

I/O完成端口句柄以及与之关联的文件句柄一起称之为对完成端口的引用。只有当没有引用时,完成端口对象才能被释放。因此,为了释放完成端口对象及相关资源,所有这些句柄必须被正确地关闭。在所有这些条件满足后,应用程序必须调用CloseHandle关闭完成端口句柄。

I/O完成端口和创建它的进程关联,无法在进程间共享,但是可以被进程内的线程共享。

2 线程和并发

完成端口最重要的属性是最大并发数。完成端口的最大并发数在其通过CreateIoCompletionPort创建时由NumberOfConcurrentThreads参数指定。这个参数限制与完成端口关联的线程的可运行数。如果同完成端口关联的正在运行的线程数已达到指定的最大并发值,系统将阻止其它关联线程被唤醒,直到正在运行的线程数小于最大并发数。

最高效的情形是,当队列中有完成封包等待时,由于完成端口上正在运行的线程数已达到其最大并发数而不会唤醒任何其它线程。在这种情况下,如果完成端口的队列中总是有正在等待的完成封包,当正在运行的线程处理完上一个封包,然后调用GetQueuedCompletionStatus时,其不会阻塞而是立即获得下一个完成封包并处理。这时没有线程上下文切换,因为运行中的线程是连续地获得完成封包的,同时其它线程仍然不能运行。

在上面的例子中,额外的线程似乎没什么用,因为它们从来不运行。但是上面的情况是假设运行线程从来不会因为其它机制而进入等待状态。

显然,合适的最大并发数是机器的CPU数。如果线程处理的事务需要长时间运算,更大的并发数将允许更多线程得以运行。有些完成封包可能需要较长的时间进行处理,但多数完成封包的处理时间是差不多的。可以通过数值试验获取最佳的最大并发数。

如果与完成端口关联的正在运行的线程因为其它原因进入等待状态,例如,调用了SuspendThread函数,系统会允许因调用GetQueuedCompletionStatus而等待运行的线程处理完成封包。当之前进入等待的线程又开始运行时,可能有一个短暂的时间实际运行的线程数大于最大并发数。但是系统会通过禁止唤醒其它等待线程而快速减小这个实际并发数。这就是为什么应用程序要将线程池线程数设置的比完成端口最大并发数大的原因。

3 支持函数

下面的函数可用于开始使用I/O完成端口的I/O操作。必须向函数传递OVERLAPPED结构体实例且在此之前必须将相关的文件句柄和完成端口关联:

  • ConnectNamedPipe
  • DeviceIoControl
  • LockFileEx
  • ReadDirectoryChangesW
  • ReadFile
  • TransactNamedPipe
  • WaitCommEvent
  • WriteFile
  • WSASendMsg
  • WSASendTo
  • WSARecvFrom
  • WSARecvMsg
  • WSARecv

4 APIs

CreateIoCompletionPort

创建一个I/O完成端口并将其和指定的文件句柄关联,或仅仅是创建一个完成端口。
在I/O完成端口上关联一个打开的文件句柄将允许进程接收该文件句柄上的异步I/O操作的完成通知。

这里文件句柄是一个系统抽象的名词,其代表一个重叠I/O端而不是磁盘上的一个文件。任何支持重叠I/O的系统对象,如网络端点、TCP socket、命名管道或mail slots都可当做文件句柄。

Syntax

HANDLE WINAPI CreateIoCompletionPort(
    _In_ HANDLE FileHandle,
    _In_opt_ HANDLE ExistingCompletionPort,
    _In_ ULONG_PTR CompletionKey,
    _In_ DWORD NumberOfConcurrentThreads
);

Parameters
FileHandle
一个打开的文件句柄或者是INVALID_HANDLE_VALUE
该句柄必须是支持重叠I/O的对象。
如果指定了文件句柄,其必须以重叠I/O模式打开。例如,必须以FILE_FLAG_OVERLAPPED标识调用CreateFile函数以获得一个文件句柄。
如果指定了INVALID_HANDLE_VALUE,函数将只是创建一个新的完成端口,这种情况下,ExistingCompletionPort必须是NULLCompletionKey会被忽略。

ExistingCompletionPort
一个已存在的I/O完成端口句柄或者是NULL。
如果指定了一个已存在的完成端口,函数会将其和参数FileHandle指定的文件句柄关联。如果函数执行成功返回该完成端口。
如果该参数为NULL,函数将创建一个新的I/O完成端口。如果指定了有效的文件句柄(FileHandle),则新创建的完成端口会和其关联,否则只是新建一个完成端口。函数返回该新建的完成端口。

CompletionKey
包含于每个I/O完成封包中的用户自定义的pre-handle。

NumberOfConcurrentThreads
对每个I/O完成端口,操作系统允许的最大线程数以同时处理I/O完成封包。如果ExistingCompletionPort参数不为NULL,该参数会被忽略。
如果该参数为0,系统将允许和系统处理器个数一样的线程数同时运行。

Return value
函数执行成功必然返回一个I/O完成端口。

  • 如果ExistingCompletionPortNULL,返回一个新的完成端口。
  • 如果ExistingCompletionPort为一个有效的完成端口,则返回这个完成端口。
  • 如果FileHandle是一个有效的文件句柄,该文件句柄将会和返回的完成端口关联。
  • 如果函数失败,返回NULL,可通过GetLastError函数获取扩展错误码。

Remarks
I/O完成端口和创建它的进程关联,其它进程不可见,但是同一进程内的线程之间可共享。
文件句柄仅可和一个完成端口关联,一旦完成关联,直到该文件句柄关闭该关联将一直维持。
可多次调用CreateIoCompletionPort函数将多个文件句柄关联到一个完成端口上。
使用CompletionKey参数帮助应用程序跟踪究竟是哪个重叠IO已经完成。这个参数并没有参与CreateIoCompletionPort的内部功能控制,其只是绑定到文件句柄上。对于每个文件句柄来说这个CompletionKey必须是唯一的,且其在整个内部处理期间都会伴随文件句柄。当完成封包到来时,可通过GetQueuedCompletionStatus函数获取这个CompletionKeyCompletionKey也可用于PostQueuedCompletionStatus函数以入队用户自定义完成封包。

当文件句柄和某IO完成端口关联后,其不可再用于ReadFileEx函数和WriteFileEx函数,因为这些函数有它们自己的异步IO机制。

最好不要以句柄继承或调用DuplicateHandle函数的方式共享已经与IO完成端口关联的文件句柄。使用这种多重句柄执行操作时也会产生完成通知,还是小心为妙。

IO完成端口句柄和与其关联的文件句柄我们称之为IO完成端口引用(reference to the I/O completion port),当没有引用时必须释放IO完成端口。所有这些句柄必须正确地关闭以释放IO完成端口及其关联的系统资源。当满足上述条件时,可调用CloseHandle关闭IO完成端口。

GetQueuedCompletionStatus

尝试从指定的IO完成端口上出队一个IO完成封包。如果队列中没有完成封包,函数将等待完成端口上某个未决IO操作完成。

如果需要一次出队多个IO完成封包,使用GetQueuedCompletionStatusEx函数。

Syntax

BOOL WINAPI GetQueuedCompletionStatus(
    _In_ HANDLE CompletionPort,
    _Out_ LPDWORD lpNumberOfBytes,
    _Out_ PULONG_PTR lpCompletionKey,
    _Out_ LPOVERLAPPED *lpOverlapped,
    _In_ DWORD dwMilliseconds
);

Parameters
CompletionPort
lpNumberOfBytes
用于保存已完成的IO操作在其执行期间传输的字节总数。
lpCompletonKey
当某文件句柄上的IO操作完成时,用于保存与该文件句柄关联的completion key的值。
lpOverlapped
用于保存某OVERLAPPED结构体的地址,其在IO操作开始时被指定。

即使已将文件句柄和完成端口关联且指定了有效的OVERLAPPED结构,应用程序也可以阻止完成通知。为此,必须在OVERLAPPED结构的hEvent成员中保存一个有效的事件句柄并设置其最低位:

    Overlapped.hEvent = CreateEvent(NULL, TRUE, FALSE, NULL);
    Overlapped.hEvent = (HANDLE) ((DWORD_PTR) Overlapped.hEvent | 1);
    ...

另外,在关闭这个事件句柄时不要忘了将最低位清掉:

    CloseHandle((HANDLE) ((DWORD_PTR) Overlapped.hEvent & ~1));

dwMilliseconds
调用者愿意在完成端口上等待完成封包的毫秒数。如果在指定的时间内没有完成封包出现,函数将返回FALSE同时设置lpOverlappedNULL

如果为INFINITE,函数将阻塞执行。

Return value
这个函数将线程和指定的完成端口关联。一个线程只能和一个完成端口关联。

当调用GetQueuedCompletionStatus时如果与之关联的完成端口已经关闭,函数将失败并返回FALSE,且lpOverlappedNULL,同时GetLastError返回ERROR_ABANDONED_WAIT_0扩展错误码。

如果GetQueuedCompletionStatus函数执行成功,将从完成端口上出队一个完成封包(对应一个成功的IO操作),并将其信息存储到lpNumberOfBytes, lpCompletionKeylpOverlapped参数中;如果执行失败,这些参数可能包含以下特定的值:

  • 如果lpOverlappedNULL,函数没有从完成端口上出队一个完成封包,这种情况下,函数不会在lpNumberOfBytes, lpCompletionKey中存储信息,它们的值是不确定的。
  • 如果lpOverlapped不为NULL,函数从完成端口上出队一个完成封包,但该完成封包对应一个失败的IO操作,函数会将该失败的IO操作的信息存储到lpNumberOfBytes, lpCompletionKeylpOverlapped中,可通过GetLastError获取扩展错误码。

PostQueuedCompletionStatus

向完成端口提交一个IO完成封包。

Syntax

BOOL WINAPI PostQueuedCompletionStatus(
    _In_ HANDLE CompletionPort,
    _In_ DWORD dwNubmerOfBytesTransferred,
    _In_ ULONG_PTR dwCompletionKey,
    _In_opt_ LPOVERLAPPED lpOverlapped
);

Parameters
CompletionPort

dwNumberOfBytesTransferred
dwCompletonKey
lpOverlapped
上述3个参数指定当调用GetQueuedCompletionStatus时对应参数带回的值。

Return value
函数执行成功返回非零值,否则返回0.

Remarks
提交的完成封包完全满足GetQueuedCompletonStatus的要求。系统不会使用这个封包也不会验证其正确性。尤其是,lpOverlapped参数不必是指向OVERLAPPED结构体的指针。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,189评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,577评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,857评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,703评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,705评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,620评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,995评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,656评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,898评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,639评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,720评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,395评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,982评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,953评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,195评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,907评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,472评论 2 342

推荐阅读更多精彩内容

  • 非原创文章,网络收集,如遇原作者,请私聊会标明出处! 1--11 tcp协议中三次握手和四次挥手建立TCP需要三次...
    Juinjonn阅读 2,154评论 0 28
  • ORA-00001: 违反唯一约束条件 (.) 错误说明:当在唯一索引所对应的列上键入重复值时,会触发此异常。 O...
    我想起个好名字阅读 5,160评论 0 9
  • 前言:在之前的面试中,每每问到关于Java I/O 方面的东西都感觉自己吃了大亏..所以这里抢救一下..来深入的了...
    我没有三颗心脏阅读 2,481评论 0 21
  • 一、温故而知新 1. 内存不够怎么办 内存简单分配策略的问题地址空间不隔离内存使用效率低程序运行的地址不确定 关于...
    SeanCST阅读 7,774评论 0 27
  • 记得高考前语文作文训练时,刘老师强调题目不能太抽象。今天下笔写文时,还是找了这么土里土气的题目,来纪念那段青...
    西楼听雨客阅读 408评论 0 1