本文章转载于搜狗测试
背景
小编所在的项目迭代速度快,对于版本是否上线,是由产品根据当前版本的需求及质量情况而定。但是版本的质量如何衡量呢?作为测试人员,首要任务就是质量保证并反馈质量情况,如果质量标准不能合理衡量,可能会给产品、开发带来质量上的误解,对于用户的体验及产品的留存率都有影响。
今天小编从功能、稳定性、性能、质量风险、内部体验这几方面谈谈如何评价一款产品的质量好坏以及产品的上线标准。
功能正确性
1、需求实现
本版本所有需求都已经实现
2、测试任务
本版本所有测试任务都已经执行完毕
3、缺陷(Bug)修复率
bug修复情况要达标,具体的,特级bug(主路径问题及严重崩溃问题)需要修改完毕,剩余各个优先级的bug要有相应的解决率标准值。下面是搜狗手机浏览器上线标准示例,具体标准值确定需要由历史版本数据评估而出。
稳定性
稳定评测可以从三方面进行,自动化评测、线上灰度崩溃、与上一版本数据对比。
自动化评测
(1)随机浏览自动化评测结果无新增的未知的Crash发生;
(2)随机浏览自动化评测中所有已知Crash能够用修复的均已修复。
线上灰度崩溃
(1)线上主进程Crash全部修复;
(2)线上子进程所有已知Crash均已修复;
(3)线上子进程没有新增的密集的崩溃。
与上一版本数据对比
对上一版本稳定性对比,不差于上一版本。
性能
性能方面与产品的特征有较大关系,以下是搜狗手机浏览器的示例,测试人员可以根据自身产品特点制定自己特有的性能指标。
1、页面加载性能
Wifi页面加载速度与上一版本相比,不能下降。
2G3G页面加载速度与上一版本相比,不能下降。
2、冷启动时间评测
冷启动时间与上一版相比,不能增加。
向竞品看齐,与竞品的差距情况公示。
3、主观性能感知
高端机不能有非常卡的情况,有点卡的情况也应该控制数量
高中低端机均不能有较线上版明显的卡顿内容
质量风险
1、 三方对bug,进行一一核对,避免发生严重问题未修改而上线的风险。
2、 三方进行bug核对,牺牲质量成本上线,需要做风险公示。
内部体验
1、 测试体验结果
目标是本版本体验结果不差于上一版本,具体评价标准:
(1)测试组内部安排体验评测,没有发现体验上严重影响用户的问题。
(2)公司内部同事没有反馈体验上严重影响用户的问题。
2、 内侧体验结果
目标是本版本内侧体验结果不差于上一版本,具体评价标准:
内测组安排体验评测,没有发现稳定重现的严重影响用户体验的问题。