移动应用测试方法与思路

文章内容来源于《软件测试52讲》

移动端应用可以细分为三大类:Web App、Native App 和 Hybrid App

一、Web App(移动端的 Web 浏览器)

也就是用H5开发的app,依附的操作系统是iOS和Android

Web App 采用的技术主要是,传统的 HTML、JavaScript、CSS 等 Web 技术栈,当然现在 HTML5 也得到了广泛的应用。另外,Web App 所访问的页面内容都是放在服务器端的,本质上就是 Web 网页,所以天生就是跨平台的。

其本质就是 Web 浏览器的测试,所有 GUI 自动化测试的方法和技术,比如数据驱动、页面对象模型、业务流程封装等,都适用于 Web App 的测试

如果Web 页面是基于自适应网页设计(即符合 Responsive Web 设计的规范),而且你的测试框架如果支持 Responsive Page,那么原则上你之前开发的运行在 PC Web 端的 GUI 自动化测试用例,不做任何修改就可以直接在移动端的浏览器上直接执行,当然运行的前提是你的移动端浏览器必须支持 Web Driver。

其中,自适应网页设计(Responsive Web Design)是指,同一个网页能够自动识别屏幕分辨率、并做出相应调整的网页设计技术。
比如,下图所示的例子就是同一个网页在不同分辨率下的不同展示效果。

自适应网页设计实例.png

二、Native App (移动端的原生应用)

对于 Android 是 apk,对于 iOS 就是 ipa。
Native App 是一种基于手机操作系统(iOS 和 Android),并使用原生程序编写运行的第三方应用程序。

Native App 的开发,Android 使用的语言通常是 Java,iOS 使用的语言是 Objective-C。
通常来说,Native App 可以提供比较好的用户体验以及性能,而且可以方便地操作手机本地资源。

对 Native App 的测试,虽然不同的平台会使用不同的自动化测试方案(比如,iOS 一般采用 XCUITest Driver,而 Android 一般采用 UiAutomator2 或者 Espresso 等),但是数据驱动、页面对象以及业务流程封装的思想依旧适用,完全可以把这些方法应用到测试用例设计中。

三、Hybrid App

俗称:混血应用,介于 Web App 和 Native App 两者之间的一种 App 形式。

Hybrid App 利用了 Web App 和 Native App 的优点,通过一个原生实现的 Native Container 展示 HTML5 的页面。更通俗的讲法可以归结为,在原生移动应用中嵌入了 Webview,然后通过该 Webview 来访问网页。

Hybrid App 具有维护更新简单,用户体验优异以及较好的跨平台特性,是目前主流的移动应用开发模式。

三类移动应用的架构原理.png

对 Hybrid App 的测试,情况会稍微复杂一点,对 Native Container 的测试,可能需要用到 XCUITest 或者 UiAutomator2 这样的原生测试框架,而对 Container 中 HTML5 的测试,基本和传统的网页测试没什么区别,所以原本基于 GUI 的测试思想和方法都能继续适用。

唯一需要注意的是,Native Container 和 Webview 分别属于两个不同的上下文(Context)
1、Native Container 默认的 Context 为“NATIVE APP"
2、Webview 默认的 Context 为“WEBVIEW_+ 被测进程名称”。

所以,当需要操作 Webview 中的网页元素时,需要先切换到 Webview 的 Context 下

四、移动应用专项测试的思路和方法

对于移动应用,顺利完成全部业务功能测试往往是不够的。
如果关注点只是业务功能测试,那么,当移动应用被大量用户安装和使用时,就会暴露出很多之前完全没有预料到的问题。比如:
1、流量使用过多
2、耗电量过大
3、在某些设备终端上出现崩溃或者闪退的现象
4、多个移动应用相互切换后,行为异常
5、在某些设备终端上无法顺利安装或卸载
6、弱网络环境下,无法正常使用
7、Android 环境下,经常出现 ANR(Application Not Responding)
8、......等等

4.1 交叉事件测试

交叉事件测试也叫中断测试,是指 App 执行过程中,有其他事件或者应用中断当前应用执行的测试。

比如,App 在前台运行过程中,突然有电话打进来,或者收到短信,再或者是系统闹钟等情况。所以,在 App 测试时,就需要把这些常见的中断情况考虑在内,并进行相关的测试。

注:此类测试目前基本还都是采用手工测试的方式,并且都是在真机上进行,不会使用模拟器。
1、采用手工测试的原因是,此类测试往往场景多,而且很多事件很难通过自动化的方式来模拟,比如呼入电话、接收短信等,这些因素都会造成自动化测试的成本过高,得不偿失,所以工程实践中,交叉事件测试往往全是基于手工的测试。
2、之所以采用真机,是因为很多问题只会在真机上才能重现,采用模拟器测试没有意义。

需要覆盖的场景主要包括:
1、多个 App 同时在后台运行,并交替切换至前台是否影响正常功能
2、要求相同系统资源的多个 App 前后台交替切换是否影响正常功能
比如两个 App 都需要播放音乐,那么两者在交替切换的过程中,播放音乐功能是否正常
3、App 运行时接听电话
4、App 运行时接收信息
5、App 运行时提示系统升级
6、App 运行时发生系统闹钟事件
7、App 运行时进入低电量模式
8、App 运行时第三方安全软件弹出告警
9、App 运行时发生网络切换
比如,由 Wifi 切换到移动 4G 网络,或者从 4G 网络切换到 3G 网络等;
10、......还有很多

这些需要覆盖的场景,也是我们今后测试的测试用例集,每一场景都是一个测试用例的集合。

交叉事件测试,不管是移动端还是 PC 端,都是非常关键的,毕竟用户环境是千奇百怪的,而且并不是所有用户都是按设计好的流程去操作,这个地方很考验测试人员的从用户角度考虑问题的思想。

4.2 兼容性测试

确保 App 在各种终端设备、各种操作系统版本、各种屏幕分辨率、各种网络环境下,功能的正确性。

常见的往往需要覆盖以下的测试场景:
1、不同操作系统的兼容性,包括主流的 Andoird 和 iOS 版本
2、主流的设备分辨率下的兼容性
3、主流移动终端机型的兼容性
4、同一操作系统中,不同语言设置时的兼容性
5、不同网络连接下的兼容性,比如 Wifi、GPRS、EDGE、CDMA200 等
6、在单一设备上,与主流热门 App 的兼容性,比如微信、抖音、淘宝等;

兼容性测试,通常都需要在各种真机上执行相同或者类似的测试用例,所以往往采用自动化测试的手段, 同时,由于需要覆盖大量的真实设备,除了大公司会基于 Appium + Selenium Grid + OpenSTF 去搭建自己的移动设备私有云平台外,其他公司一般都会使用第三方的移动设备云测平台完成兼容性测试。

4.3 流量测试

由于 App 经常需要在移动互联网环境下运行,而移动互联网通常按照实际使用流量计费,所以如果你的 App 耗费的流量过多,那么一定不会很受欢迎。

通常需要覆盖以下几个方面的内容:
1、App 执行业务操作引起的流量
2、App 在后台运行时的消耗流量
3、App 安装完成后首次启动耗费的流量
4、App 安装包本身的大小
5、App 内购买或者升级需要的流量

流量测试,往往借助于 Android 和 iOS 自带的工具进行流量统计,也可以利用 tcpdump、Wireshark 和 Fiddler 等网络分析工具。

Android 系统:网络流量信息通常存储在 /proc/net/dev 目录下,也可以直接利用 ADB 工具获取实时的流量信息。另外,推荐一款 Android 的轻量级性能监控小工具 Emmagee,类似于 Windows 系统性能监视器,能够实时显示 App 运行过程中 CPU、内存和流量等信息。

iOS 系统:可以使用 Xcode 自带的性能分析工具集中的 Network Activity,分析具体的流量使用情况。

但是,流量测试的最终目的,并不是得到 App 的流量数据,而是要想办法减少 App 产生的流量。虽然,减少 App 消耗的流量不是测试工程师的工作,但了解一些常用的方法,也将有助于你的测试日常工作:
1、启用数据压缩,尤其是图片
2、使用优化的数据格式,比如同样信息量的 JSON 文件就要比 XML 文件小
3、遇到既需要加密又需要压缩的场景,一定是先压缩再加密
4、减少单次 GUI 操作触发的后台调用数量
5、每次回传数据尽可能只包括必要的数据
6、启用客户端的缓存机制
7、......

4.4 耗电量测试

在目前的生态环境下,能提供类似服务或者功能的 App 往往有很多,如果在功能类似的情况下,你的 App 特别耗电、让设备发热比较严重,那么你的用户一定会卸载你的 App 而改用其他 App。
最典型的就是地图等导航类的应用,对耗电量特别敏感。

通常从三个方面来考量:
1、App 运行但没有执行业务操作时的耗电量
2、App 运行且密集执行业务操作时的耗电量
3、App 后台运行的耗电量

耗电量检测既有基于硬件的方法,也有基于软件的方法。
Android 和 iOS 都有各自自己的方法:

  • Android 通过 adb 命令“adb shell dumpsys battery”来获取应用的耗电量信息;
  • iOS 通过 Apple 的官方工具 Sysdiagnose 来收集耗电量信息,然后,可以进一步通过 Instrument 工具链中的 Energy Diagnostics 进行耗电量分析。

推荐:Google推出的history batterian工具很好分析耗电情况

4.5 弱网测试

与传统桌面应用不同,移动应用的网络环境比较多样,而且经常出现需要在不同网络之间切换的场景,即使是在同一网络环境下,也会出现网络连接状态时好时坏的情况,比如时高时低的延迟、经常丢包、频繁断线,在乘坐地铁、穿越隧道,和地下车库的场景下经常会发生。

移动应用的测试需要保证在复杂网络环境下的质量。具体的做法就是:在测试阶段,模拟这些网络环境,在 App 发布前尽可能多地发现并修复问题。

推荐一款非常棒的开源移动网络测试工具:Facebook 的 Augmented Traffic Control(ATC)。

ATC 最好用的地方在于,能够在移动终端设备上通过 Web 界面随时切换不同的网络环境,同时多个移动终端设备可以连接到同一个 Wifi,各自模拟不同的网络环境,相互之间不会有任何影响。也就是说,只要搭建一套 ATC 就能满足你所有的网络模拟需求。

4.6 边界测试

边界测试是指,移动 App 在一些临界状态下的行为功能的验证测试,基本思路是需要找出各种潜在的临界场景,并对每一类临界场景做验证和测试。

主要的场景有:
1、系统内存占用大于 90% 的场景
2、系统存储占用大于 95% 的场景
3、飞行模式来回切换的场景
4、App 不具有某些系统访问权限的场景,比如 App 由于隐私设置不能访问相册或者通讯录等
5、长时间使用 App,系统资源是否有异常,比如内存泄漏、过多的链接数等
6、出现 ANR 的场景
7、操作系统时间早于或者晚于标准时间的场景
8、时区切换的场景

总结

从业务功能测试的角度看,移动应用的测试用例设计和传统 PC 端的 GUI 自动化测试策略比较类似,只是测试框架不同,数据驱动、页面对象模型和业务流程封装依旧适用;

各种专项测试是移动应用的测试重点,也有别于传统 GUI 测试。专项测试包括:交叉事件测试、兼容性测试、流量测试、耗电量测试、弱网络测试和边界测试。

延伸:
问:耗电量测试,流量测试,以及app性能测试,怎么界定数据是否正常呢,比如说流量消耗是到哪个值觉得有优化空间,内存CPU到哪个值不正常需要优化

答:其实并没有明确的标准,主要基于一些历史统计数据,我们主要的做法是和现有版本,以及同类app做比较。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,098评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,213评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,960评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,519评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,512评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,533评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,914评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,574评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,804评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,563评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,644评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,350评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,933评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,908评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,146评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,847评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,361评论 2 342

推荐阅读更多精彩内容