实时音视频平台基于Windows的抓屏技术

众所周知,屏幕共享是实时音视频互动中十分重要的一项功能,能够帮助参会者访问另一台计算机或桌面的内容,从而实现文档、图片、多媒体等的实时共享。而在实现屏幕共享的过程中,我们就不得不来聊一聊抓屏技术。看看唐桥科技音视频PaaS平台是如何根据抓屏技术特性来实现最优的抓屏效率和最佳的用户体验。

Windows系统上有很多抓屏技术,不同的抓屏技术又局限于Windows系统版本,没有一种通用的抓屏技术可以高效的抓取屏幕图像,其中主要的原因是操作系统的显示驱动模型在从XDDM向WDDDM转变,应用层的API也在从GDI向D3D转变。本文重点关注SCC如何集成各种抓屏技术以兼容所有Windows系统。

01 显示器驱动程序模型

Windows 显示驱动程序模型要求图形硬件供应商提供配对的用户模式显示驱动程序和内核模式显示驱动程序。

windows 2000 显示器驱动程序模型 (XDDM)。XDDM 是为 Windows 2000 到 Windows Vista 和 Windows 7 提供的显示/图形驱动程序体系结构。

从上图可以看出,其核心模块是GDI。在XDDM下我们可以采用GDI技术抓屏。

WDDM 是从 Windows Vista 开始提供的显示/图形驱动程序体系结构

从上图可以看出其核心模块是D3D,同时还兼容了GDI。那么在WDDM下我们可以采用基于D3D的一些抓屏技术。

02 抓屏技术

GDI

我们知道桌面也是一个窗口,也有一个窗口句柄,那么就可以得到桌面的设备上下文DC,从DC上就可以拷贝出桌面图像数据了。

代码

那么GDI抓屏技术有什么优点和缺点呢?

优点:从XDDM到WDDM的架构设计上都是支持GDI,

所以GDI抓屏适用Windows2000及以后平台。

缺点:效率低、最大帧率小于20帧,CPU消耗高,vista之后就不支持过滤窗口。

DXGI

Windows8以后微软引入了一套新的接口,叫“Desktop Duplication API”,应用程序,可以通过这套API访问桌面数据。而由于Desktop Duplication API是通过Microsoft DirectX Graphics Infrastructure (DXGI)来提供桌面图像的,速度非常快。由于是通过GPU,所以cpu占用率很低,性能很高。

代码

那么DXGI抓屏技术有什么优点和缺点呢?

优点:效率高、最大帧率可达80帧,CPU消耗低。

缺点:不支持win7及以下Windows版本,不支持过滤某个窗口。

Magnification API

这组API是微软Vista之后开放给我们开发放大镜程序的,它里面提供了一个API让我们拦截到显示的内容,但在win8以后需要通过hook d3d接口来获得显示内容。

代码

下面介绍一下win8及以上系统如何通过hook获得抓屏数据。

Hook

Hook技术被广泛应用于安全的多个领域,比如杀毒软件的主动防御功能,涉及到对一些敏感API的监控,就需要对这些API进行Hook;窃取密码的木马病毒,为了接收键盘的输入,需要Hook键盘消息;甚至是Windows系统及一些应用程序,在打补丁时也需要用到Hook技术。接下来,我们就来学习Hook技术的原理。

下图很简单易懂地诠释了Hook的机制,在notepad.exe和kernel32.dll之间挂上一个“钩子”,把它们要使用的CreateFile()函数替换掉,换成MyCreateFile()函数,实现我们想要的自定义功能。

Hook分类如下图所示:

我们使用了HotFix Hook,下面简单介绍一下技术原理和实现方式。

API起始代码有如下两个明显的相似点:

[1]API代码以“MOV EDI,EDI”指令开始。

[2]API代码上方有5个NOP指令

MOV EDI,EDI用于将EDI的值再次复制给EDI,这没有什么实际意义。也就是说,API起始代码的MOV指令(2个字节)与其上方的5个NOP指令(5个字节)合起来共7个字节的指令没有任何意义。所以我们就可以通过修改这7个字节来实现Hook操作。

代码

Magnification API抓屏技术又有什么优点和缺点呢?

优点:支持过滤某个窗口,CPU消耗低。

缺点:效率低,最大帧率20帧左右。

其他抓屏技术

GetWindowDC

在Win7/Win8系统的DWM打开的情况下抓屏,即使窗口被覆盖, 它也可以正确抓取到被覆盖窗口下的内容,WebRTC正是用这种方式来Share Application的。但是它的主要问题是有些窗口抓到的内容不包含非客户区,有些窗口比如任务栏的Thumbnail窗口会抓不到内容。

DirectX

每个DirectX程序都包含一个被我们称作缓冲的内存区域,其中保存了和该程序有关的显存内容,这在程序中被称作后台缓冲(Back Buffer),有些程序有不止一个的后台缓冲。还有一个缓冲,在默认情况下每个程序都可以访问-前台缓冲。前台缓冲保存了和桌面相关的显存内容,实质上就是屏幕图像。我们的程序通过访问前台缓冲就可以捕捉到当前屏幕的内容。但是它的主要问题是DirectX 的迭代更新,兼容性不佳。

Windows Media API

Windows Media 9.0 支持用Windows Media Encoder 9 API来抓屏。它有一个编码器叫Windows Media Video 9 Screen codec,特别为抓屏优化过。Windows Media Encoder API提供了一个IWMEncoder2接口可以用来高效地捕捉屏幕图像。但是它的主要问题是用户机器需要安装Windows Media Encoder 9。

Mirror driver

应该是Win8之前最高效的抓屏方法, 也是微软推荐的远程桌面共享方案,它通过创建虚拟镜像驱动, 直接获取最终屏幕变化数据。但是它的主要问题是涉及到驱动安装, 技术难度大, 系统权限要求也高。

03 音视频平台抓屏技术策略选择

首先我们通过一张表格直观了解一下各个抓屏技术的优缺点。

我们的择优顺序是过滤窗口,高帧率,低CPU消耗。

根据上面的择优思路,就形成了一套探测策略,用思维导图来了解一下。

可以看到有几个关键节点的判断:

1. 判断运行平台的Windows系统版本

2. 判断是否能支持D3D运行环境

3. 判断是否支持DXGI运行环境

4. 判断是否开启Aero特效

这些判断保障了我们能选择出最优的抓屏方案。

04 总结

通过本文,我们了解到GDI, DXGI, Magnification AP, Hook D3D等抓屏技术,以及我们的探测策略。

在屏幕共享和程序共享中,唐桥科技的音视频PaaS平台将根据抓屏技术特性来实现最优的抓屏效率和最佳的用户体验。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,271评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,275评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,151评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,550评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,553评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,559评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,924评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,580评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,826评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,578评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,661评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,363评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,940评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,926评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,156评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,872评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,391评论 2 342

推荐阅读更多精彩内容