自己在日常测试中,会搭建UI自动化测试框架来进行web应用的回归测试,在这过程中遇到了许多问题,如测试脚本和执行机不分离,串行测试效率低下,环境搭建麻烦等问题。在这个过程中,自己也在网上看一些前辈的搭建教程,学习他们的经验,一点点清晰了一个较为完善的UI自动化测试框架的搭建,尤其是最近学习了利用docker来搭建UI自动化测试环境,简直为自己打开了新世界的大门,所以也在这里分享下,供刚踏入测试行业的童鞋们借鉴。
需求背景
日常测试中会遇到对web应用进行UI自动化的测试场景,一般常用的工具是使用Selenium,一套简单的UI自动化架构如下:
上图即为简单搭建的一套UI自动化测试架构,但存在如下缺点:
(1)串行执行测试用例:即同一时刻只启动一个进程去启动一个浏览器进行测试,有时工作中需要进行浏览器的兼容性测试,这样的话只能等一个进程结束后,再开启另一个进程开始另一个浏览器的测试,效率很低。
(2) 一台机器只能安装一个版本的浏览器:有时兼容性测试不仅要测试不同浏览器的情况,还要测试同一浏览器不同版本的情况,通常一台机器只能安装1个版本的chrome或firefox,这样就没办法测试不同版本的兼容性情况了。
(3)测试脚本与浏览器部署在同一台机器,试想,一台机器既跑测试脚本,又开启进程启动浏览器进行测试,严重消耗机器硬件资源。
为了解决(1)的问题,可以考虑用多线程并发的方式执行测试用例,如下图
为了解决(2)和(3)的问题,可以在并发框架的基础上,采用SeleniumGrid这一分布式测试工具,实现测试脚本和测试执行节点的分离,即用远程机作为SeleniumNode,在其上安装不同版本的不同浏览器,这样在本机运行测试脚本后,测试脚本会向SeleniumGrid发起测试请求,SeleniumGrid会寻找当前处于空闲状态的节点,并在其上执行测试。整体架构如下:
至此,这种并发分布式测试框架基本上就可以满足我们的日常测试需求了,但仍然存在缺点:
(1) 执行节点机配置麻烦:通常常用的方式就是为每个执行节点配一台虚拟机,然后在每台执行节点机上都要重新配置一遍测试环境,比如要安装浏览器、selenium驱动浏览器的驱动文件,selenium-server jar包。最重要的一点是,测试资源很紧张,没有那么多虚拟机供我们使用。
为了解决(1)的问题,网上有前辈们提出了用docker容器来制作执行节点,有关docker的具体作用,大家可以自己去搜,简单来说就是以前我们需要一台测试执行节点,需要搭建一台虚拟机,然后在其上进行环境配置,如果再需要一台测试执行节点,又要重复上述的过程。一是搭建一台虚拟机周期较长,虚拟机启动时间较长,且虚拟机资源依赖于硬件配置,二是每台虚拟机都要重新配置。而利用docker可以解决上述问题,其具有以下优点:
(1)docker镜像不并包含linux内核,多个docker镜像共用宿主机的linux内核,即相当于我们只要有一个linux内核虚拟机就可以了,可以减少对硬件资源的依赖。
(2)一个docker镜像可以运行很多docker容器,每个docker容器之间都是物理隔离的。通俗易懂的说,我们配置好了一套虚拟机环境,称之为容器,然后就可以用这个容器““复制”出N个相同的环境出来,不需要你再重新配置了,很方便。
具体来说,以前我们需要10个chrome浏览器同时进行web测试,按照以前的方法,我们会搭建10台虚拟机,然后分别在每台虚拟机上安装chrome浏览器,再进行selenium的相关配置。但现在利用docker,我们可以制作一个镜像,这个镜像里运行linux环境,安装有chrome浏览器和selenium的相关配置,然后我们利用这个镜像“复制”出10个容器就可以了,这10个容器就是以前的10台虚拟机,并不需要你再重复安装重复配置了,很节省人力和时间。
(3)docker镜像仓库里会有其他人已经制作好的相关镜像,不需要我们自己制作,或者我们把其他人的镜像拿来,改下某些配置变为我们自己想要的镜像就ok了,像selniumhub,和已经安装好chrome或者firefox的selenium-node的镜像,都已经有人制作好了,我们只需要拿来用,或者稍微改下参数就可以了。
至此,我们可以利用docker的容器来作为UI自动化测试的执行节点,取代之前的虚拟机。
框架搭建
基于以上介绍,整体的测试框架如下:
框架分为3个部分,多线程并发测试框架采用Python编写,调用robot framework执行测试用例,并将测试请求发送给docker容器中运行的SeleniumHub,SeleniumHub寻找处于空闲状态的SeleniumNode执行节点进行web测试,测试结束后,在部署测试脚本的主机上生成各线程运行后的测试报告,再调用robot framework的rebot命令合并测试报告,生成最后的汇总测试报告发布。
本人在自己的工作电脑(win7 64bit)上搭建了上述框架,下面详细介绍搭建步骤。
测试环境搭建
1、安装docker
(1) win7用户,进入Docker Toolbox的下载网页,选择windows版本下载。win10用户进入docker官网下载Docker For Windows安装。
整个安装过程非常简单,安装完成后,可以在桌面得到如下的三个图标:
(2) 设置环境变量
安装完成后,建议先配置一个环境变量MACHINE_STORAGE_PATH,来自定义虚拟机保存的位置,因为之后下载的镜像越来越多,都是放在虚拟机的虚拟磁盘文件中,虚拟磁盘文件会越来越大,放在默认的C盘用户目录下可能会在以后造成一些麻烦,参考下图:
(3) 开始使用
点击Docker Quickstart Terminal图标,从而打开一个Docker Toolbox terminal,若报如下图信息,则去https://github.com/boot2docker/boot2docker/releases下载对应版本的boot2docker.iso放到MACHINE_STORAGE_PATH/cache下,再重新打开Docker Quickstart Terminal。
再次打开terminal后,terminal会自动进行一些设置,需要点时间,全部完成后,出现如下结果表示docker安装ok了:
另外,我们可以记下docker宿主机的IP 192.168.99.100,可以用xshell来ssh登录docker宿主机方便操作,账号和密码是docker/tcuser:
2、下载或制作相关镜像
docker pull selenium/hub,它会自动从镜像源中下载别人制作好的最新的selenium/hub镜像,可以通过docker images看到下载好的selenium/hub镜像
对于seleniumnode镜像,兼容性测试时,需要我们覆盖更多版本的浏览器,所以,可以选择自己制作Dockerfile来生成自己想要的浏览器版本的镜像。在当前目录下新建Dockerfile文件,输入以下内容:
#一般建议直接用debug版,以firefox为例
FROM selenium/node-firefox-debug
#指定新构建firefox版本
ARG FIREFOX_VERSION=54.0.1
#删除已存在firefox浏览器
RUN a=$(find /opt/ -name "firefox"|cut -d/ -f 3)&&sudo rm -rf /opt/$a&&sudo rm -rf /usr/bin/firefox
#下载指定版本的浏览器
RUN sudo apt-get update -qqy \
&& sudo rm -rf /var/lib/apt/lists/* /var/cache/apt/* \
&& sudo wget --no-verbose -O /tmp/firefox.tar.bz2 http://ftp.mozilla.org/pub/firefox/releases/$FIREFOX_VERSION/linux-x86_64/en-US/firefox-$FIREFOX_VERSION.tar.bz2 \
&& sudo tar -C /opt -xjf /tmp/firefox.tar.bz2 \
&& sudo rm /tmp/firefox.tar.bz2 \
&& sudo mv /opt/firefox /opt/firefox-$FIREFOX_VERSION \
&& sudo ln -fs /opt/firefox-$FIREFOX_VERSION/firefox /usr/bin/firefox
# 改变node的启动参数
ENV NODE_MAX_INSTANCES 10
ENV NODE_MAX_SESSION 10
# 配置中文
RUN sudo locale-gen zh_CN.UTF-8 &&\
sudo DEBIAN_FRONTEND=noninteractive dpkg-reconfigure locales
RUN sudo locale-gen zh_CN.UTF-8
ENV LANG zh_CN.UTF-8
ENV LANGUAGE zh_CN:zh
ENV LC_ALL zh_CN.UTF-8
#安装基本字体
RUN sudo apt-get -qqy --no-install-recommends install \
fonts-ipafont-gothic \
xfonts-100dpi \
xfonts-75dpi \
xfonts-cyrillic \
xfonts-scalable
#安装文泉驿微米黑字体
RUN sudo apt-get -qqy install ttf-wqy-microhei \
&& sudo ln /etc/fonts/conf.d/65-wqy-microhei.conf /etc/fonts/conf.d/69-language-selector-zh-cn.conf
然后通过如下命令来构建镜像,其中selenium/vnc-node-firefox-debug是自己起的镜像名,后面的.表示Dockerfile所在的目录为当前目录:
docker build -t selenium/vnc-node-firefox-debug .
用同样的方法可以生成chrome浏览器的镜像,生成后的镜像如下图:
3、启动容器
(1)启动selenium/hub容器
docker run -p 5555:4444 -d --name 'selenium_hub' selenium/hub
run:通过镜像启动一个容器
-p:端口映射,5555是容器宿主机(运行docker的主机)的端口,4444是我们容器(运行selenium_hub虚拟机)的端口。我们把容器的4444端口映射给docker主机的5555端口,就可以通过docker主机的5555端口来访问selenium_hub容器了。
(2)启动selenium/node容器
docker run -P -d --link selenium_hub:hub selenium/vnc-node-firefox-debug
docker run -P -d --link selenium_hub:hub selenium/vnc-node-chrome-debug
-P:随机生成映射端口号,上文中的-p是指定特定的端口号,这里node并不需要知道容器内部的端口号,所以随机映射即可。
--link:指定selenium-node容器依赖容器selenium_hub。
容器启动完后,可通过docker ps查看启动的容器:
在浏览器中查看selenium容器是否正常启动,http://192.168.99.100:5555/grid/console
多线程并发测试框架搭建
采用Python编写多线程并发程序,robot framework执行测试用例。
(1)测试用例
在robot framework中,将测试用例打上标签tag,来区分要测试的不同版本的不同浏览器,remote_url为selenium_hub容器的地址,已将该容器的4444端口映射到docker宿主机的5555端口,所以这里直接通过宿主机的5555端口访问hub容器。
(2)多线程并发框架
多线程并发框架采用Python编写,程序目录如下:
各文件代码如下:
utils.py:
multiThreadings.py
callRobot.py
run.py
脚本run.py接收两个参数,第1个参数为要执行的robot测试套件,第2个参数为要执行的robot用例的标签,各标签之间以逗号分隔,有多少个标签,就启动多少个线程来调用robot的pybot命令执行打上相应标签的测试用例。
运行
这里开启2个node节点,一个chrome,一个firefox。cmd下执行脚本,robot测试套件名为TestSuite.txt,执行标签为chromeNode1,firefoxNode1的测试用例:
python run.py TestSuite.txt selenium_node=chromeNode1,firefoxNode1
docker宿主机下,执行docker logs -f selenium_hub,可以查看hub容器的执行日志:
通过vnc viwer可视化查看node容器内浏览器的运行情况:
最终用rebot命令合并各线程生成的测试报告,合并后的报告如下:
至此,基于docker的selenium并发web应用UI自动化测试框架搭建完成。之后,自己会再探究将docker容器的创建,启动和停止自动化,实现测试环境的自动化搭建。