Smart Greybox Fuzzing 阅读笔记

摘要

对于处理复杂文件格式的应用,CGF 随机变异并不能产生有效的文件。本文介绍了 smart grebox fuzzing(SGF),利用种子文件的高级结构化表示来生成新文件。与位级别变异相比,创新地定义了虚拟文件结构上的变异操作。本文引入了一种新的基于有效性的能量调度策略,使SGF能够花费更多的时间生成更有可能通过程序解析阶段的文件,这可能会暴露处理逻辑中更深层次的漏洞。

Introduction

CGF 的一个很重要的局限就是缺乏输入结构感知。变异是 bit-level 的,但是很多应用处理高度结构化的输入,如图片、音频等,所以不太可能影响文件结构的变化。有效文件 bit-level 的突变可能产生无效文件,从而在程序解析时就被拒绝。

为了解决这个问题,AFL 使用 dictionary,VUZZER 通过动态污点分析和控制流分析来推断输入数据的位置和类型。但是都不能从文件里面增删一个完整的trunk。

和 CGF 相比,一些 smart blackbox fuzzers 尽管输入结构感知,并且可以利用文件格式模型来构造新的有效问卷,但是灰盒的覆盖率反馈是需要的,否则效果甚至不如 AFL。

本文提出了 SGF,在虚拟文件结构上进行变异,根据种子的有效性来进行能量调度,这样可以尽可能生成有效文件通过解析阶段。

贡献:使得灰盒模糊测试输入格式感知。

SMART GREYBOX FUZZING

Virtual Struction

SGF 的有效性来源于变异操作的设计。

  • 操作需要充分利用从种子输入中提取出的结构信息
  • 操作需要统一,以支持所有 chunk-based 文件格式(如 MP3,PNG 等)
  • 所有操作需要是轻量级的,以保持灰盒模糊测试的效率

所有的输入文件可以被表示为一棵树,内部节点称为 chunks,叶子节点称为 attributes

为了构建虚拟结构,需要文件格式规范和一个解析器。

Smart Mutation Operators

基于虚拟结构,有三种变异操作:

  • smart deletion

    对种子文件 s,任意删除一个 chunk c

  • smart addition

    将种子文件 s_2 中的任一 chunk c_2 加到种子文件 s_1 的 chunk c_1 后面,其中要满足 c_1c_2 的父节点类型相同。

  • smart splicing

    种子文件 s_1 任一 chunk c_1,种子文件 s_2 任一 chunk c_2,其中 c_1c_2 类型相同,用 c_2 替换 c_1

挑战:

  • 保持结构完整

    bit-level 突变操作很难保证生成输入结构的完整性,主要通过结构化突变操作来解决。但是,结构化突变操作不保证结构完整性,严格强制结构的完整性并不总是可取,而要通过解析的有效性是必要的。

  • 保持语义完整

    任何变异的模糊测试的第二个关键挑战是数据字段间的隐式约束。修改一个字段的字节可能需要智能修改另一个字段的字节,如校验和。SGF 可能通过几种方式解决这个问题,首先,在插入的片段中维护这些约束,其次,一些约束,如校验和,可以时候修复(如,使用 Peach fixups)

Region-based Smart Mutation

Stacking Mutations

为了生成有趣的测试输入,同时使用 structural(high level) 和 bit-level(low level) 的突变操作是有意义的。

Fragment- and Region-based Mutation

AFLSMART 使用规范将文件分解为片段,片段是文件解析树中的子树。AFLSMART 使用 Peach Cracker 组件中的解析表为每个 chunk 和 attribute 派生 start index、end index 和 type。

Deferred Parsing

如果 SGF 为每个种子构建虚拟结构,效率会大大降低。本文通过概率 p 来构建虚拟结构,p 取决于发现新路径的时间,t 为上次发现新路径到现在的时间,s 为当前的种子输入(虚拟结构还未被创建)
prob_{virtual}(s)=min(\frac{t}{\epsilon}, 1)
如果 t 大于阈值 \epsilon,概率就为 100%。

启发:AFL 可能会生成许多无效输入,重复通过几个短路径(通常是无效文件被拒绝),如果生成更多此类无效输入,那么很难发现新路径,t 就会增加,超过阈值 \epsilon 后允许构建虚拟结构。如果可以遍历新路径,t 保持较小,我们不会产生创建虚拟结构的开销。因此,Deferred Parsing 允许 AFLSMART 在不牺牲 AFL 效率的情况下实现输入格式感知。

Validity-based Power Schedule

种子 s 的能量调度 p_v(s)
p_v(s)=\left\{ \begin{aligned} 2p(s) && if \space v(s)\ge 50\% \space and \space p(s)\le \frac{U}{2} \\ p(s) && if \space v(s)< 50\% \\ U && otherwise \end{aligned} \right.
p(s) 是之前的能量调度(如 AFL),U 是可以被 AFL 分配的最多能量。

FILE FORMAT SPECIFICATION

对于高度结构化的复杂文件格式,手工构建是耗时且容易出错的。

insights:

  • Chunk inheritance

    很多 chunks 有一个通用的结构,所以我们首先建模一个通用的 chunk,包含所有的 chunk 共享的 attribute,然后再根据每个 chunk 进行修改。

  • Specification completeness

    SGF 支持 chunk level 的变异操作,所以不需要指定 chunk 里面的所有 attribute。

  • Relaxed constraints

    chunk 里面可能包含很多约束,如 identifier 必须为一个常数,chunk size 和实际长度要一致。本文使用 Choice 来放松约束,在 Choice 里面的 chunk 可以任意出现,在不阻止解析文件的同时,发现更多边界条件。

  • Reusability

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容