DPDK学习1.2 -- 最佳实践

DPDK使用的,用以解决应对高性能数据包处理的技术:

1. 轮询 -- 可以避免上下文切换的开销

2. 用户态驱动 -- 规避了不必要的内存拷贝,又避免了系统调用

    一个间接的影响在于,用户态驱动不受限于内核现有的数据格式和行为定义。对mbuf 头格式的 重定义、对网卡DMA 操作[1]的重新优化可以获得更好的性能。而用户态驱动也便于快速地迭代优化,甚至对不同场景进行不同的优化组合。

3. 亲和性与独占 -- DPDK工作在用户态,线程的调度仍然依赖内核。

    利用线程的CPU 亲和绑定的方式,特定任务可以被指定只在某个核上工作。好处是可避免线程在不同核间频繁切换,核间线程切换容易导致因 cache miss 和 cache write back 造成的大量性能损失。如果更进一步地限定某些核不参与Linux 系统调度,就可能使线程独占该核,保证更多cache hit 的 同时,也避免了同一个核内的多任务切换开销。

4. 降低访存开销 -- 网络数据包处理是一种典型的I/O 密集型(I/O bound)工作负载

    无论是 CPU 指令还是DMA,对于内存子系统(Cache+DRAM)都会访问频繁。利用一些已知的高效方法来减少访存的开销能够有效地提升性能。比如利用内存大页能有效降低TLB miss, 比如利用内存多通道的交错访问[2]能有效提高内存访问的有效带宽,再比如利用对于内存非对称性的感知可以避免额外的访存延迟。而cache 更是几乎所有优化的核心地带。

5. 软件调优 -- 

    这里其实指代的是一系列调优实践,比如结构的cache line对齐,比如数据在多核间访问避免跨cache line共享,比如适时地预取数据,再如多元数据批量操作。这些具体的优化策略散布在DPDK 各个角落。

6. 利用IA新硬件技术

拿 Intel® DDIO 技术来讲,这个 cache 子系统对DMA 访存的硬件创新直接助推了性能跨越式的增长。有效利用SIMD(Single Instruction Multiple Data)并结合超标量技 术(Superscalar)对数据层面或者对指令层面进行深度并行化,在性能的进一步提升上也行之 有效。另外一些指令(比如cmpxchg),本身就是lockless 数据结构的基石,而crc32 指令对 与 4 Byte Key 的哈希计算也是改善明显。

7. 充分挖掘网卡的潜能 -- 

    经过 DPDK I/O 加速的数据包通过 PCIe 网卡进入系统内存,PCIe 外设到系统内存之间的带宽利用效率、数据传送方式(coalesce 操作)等都是直接影响I/O 性能的因素。在现代网卡中,往往还支持一些分流(如RSS,FDIR 等)和卸载(如Chksum, TSO 等)功能。DPDK 充分利用这些硬件加速特性,帮助应用更好地获得直接的性能提升。

8. DPDK I/O虚拟化



[1]DMA操作:DMA(Direct Memory Access,直接内存存取) 是所有现代电脑的重要特色,它允许不同速度的硬件装置来沟通,而不需要依赖于 CPU 的大量中断负载。DMA技术的出现,使得外围设备可以通过DMA控制器直接访问内存,与此同时,CPU可以继续执行程序.那么DMA控制器与CPU怎样分时使用内存呢?通常采用以下三种方法:(1)停止CPU访内存;(2)周期挪用;(3)DMA与CPU交替访问内存.

[2]交错内存:内存交错技术(DRAM Bank Interleave)是威盛(VIA)芯片组用来提升内存性能的一种技术,能提供更多的传输管道与更高的内存频宽,使内存在同一时间内能同时进行多个写/读的操作,从而有效地提高系统性能。内存交错运行模式主要有2路交错(2-Bank Interleave)和4路交错(4-Bank Interleave)两种。出于保证系统稳定的考虑,很多基于VIA芯片组的主板在默认情况下关闭了内存交错模式或默认最多以2路方式来运行。进行内存性能的优化时,可在BIOS中通过简单设置将其打开激活。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容