测试左移和测试右移模型
对软件产品而言,传统的质量模式通过测试左移和测试右移被赋予更多的内涵,也承担起更多的职责。
■ 测试左移:测试左移,本质上是借助工具和测试手段更早地发现问题和预防问题。
- 需求:对需求、架构和设计模型的测试;
- 开发:着重增加对单元、组件和服务层的测试;
- 持续测试:自动化测试。
■ 测试右移:对测试同学来说,版本上线后需要持续关注线上监控和预警,及时发现问题并跟进解决,将影响范围降到最低。
- 灰度发布:新版本线上测试;
- 监控:合理的性能监测、数据监控和预警机制;
- 用户反馈:线上问题处理、跟踪机制。
测试左移如何落地?
1. 测试任务跟踪
测试任务跟踪,不仅仅只是跟踪测试本身的工作,还需要介入到需求、技术方案、编码的全过程。只有前序每一步都跟踪到位,才能尽量避免测试过程中的不可控因素,从而保证产品质量。
测试同学的任务其实是不好度量和跟踪的,但是MeterSphere开源持续测试平台为我们解决了这个痛点。测试计划、测试用例、执行情况等都可以在MeterSphere平台上直观地看到,做到了“让数据为质量说话”。
2. 建立代码分支管理规范
开发同学在编码过程中,经常会因为环境不够用、或者代码被覆盖等问题而烦恼。对于敏捷开发模式的团队,需求多、分支多是常态,怎样让开发测试有序地协同工作,规范分支管理流程是必要的。
3. Sonar代码质量检测
Sonar是可视化的代码质量检查平台,支持的语言包括PHP、Java、Python、C#等,包含项目、问题、代码规则、质量配置、质量阀和配置五个模块。
以下是项目执行情况的概览,每个项目名称代表一个项目,项目检查的结果简单呈现在项目首页概览中,包含Bug数量、漏洞数量、不规范、单元覆盖率、代码重复度等维度。
我们通常会将Sonar发现的问题以Bug的方式提交给开发团队,要求致命、严重级别的Bug必须修改,并跟踪解决进度。在实际的运用过程中,也会根据项目实际情况调整质量阀门,以避免误报等情况出现。
4. 持续测试:基于Metersphere平台实现接口自动化
接口测试提前接入,通过YApi管理接口文档,开发同学在需求评审后即进入技术设计与接口设计阶段,测试同学则根据接口文档进行Mock测试。
基于MeterSphere开源持续测试平台,我们实现了测试工作的自动化。提测后自动化测试接口通过率,提前发现问题,有效提升测试效率。
MeterSphere持续测试平台采用开源可扩展框架,实现了测试跟踪、接口自动化、性能自动化的全覆盖,特别适合创业团队。从测试团队的角度看,MeterSphere平台既能切实地提升产品质量和测试效率,又解决了自研自动化框架人力不足的痛点。
同时,MeterSphere支持与Jenkins的集成,每次有新的代码提交后,平台自动触发环境部署和接口自动化Job执行,并发送邮件通知,实现了主流程功能的回归测试,提升测试效率。
测试右移如何落地?
1. 灰度发布
使用灰度发布方式,新版本上线后先更新部分服务器,测试人员先进行验收通过后,再全量发布。这样一来,尽可能地避免了测试和正式环境配置不一致、数据库更新不及时等不确定因素引起的问题。
2. 服务监控
对于测试人员来说,服务上线后仍然需要关注服务的运行情况,以便在出现系统问题时能够快速做出反应,将影响降至最低。在这一环节,我们引入了Zabbix系统检测工具,实时监控系统硬件资源使用情况。同时设置报警通知,将异常情况第一时间通知给相关负责人。
Zabbix通过调用ODBC来获取数据库的数据,以及数据库状态等信息;通过IPMI Agent 监控硬件设备,例如Dell或者HP服务器的主板温度、CPU电压、盖子是不是被打开等;通过JMX Agent监控Java JVM,例如Tomcat;通过追踪模拟鼠标在Web网站上的点击操作,来检查Web网站的功能和响应时间。
3. 用户反馈
“用户就是上帝”。任何产品的成功与否,都取决于用户。为此,我们建立了完善的用户反馈处理机制:对于用户反馈的问题,第一时间进行修复上线;针对用户提出的建议,结合实际情况对产品进行打磨和优化。
专项测试
■ 安全
保证邮箱数据的安全性,是产品研发的一个重要环节。数据面临的安全威胁来自于多个方面,如何有效地保护数据的保密性、完整性、可用性和真实性,邮箱团队一直在不断地升级和优化。这部分的工作主要涉及系统安全加固、数据库加密、全链路传输加密、反作弊策略、反黑策略、反入侵策略、安全管理、反商业泄密等。
■ 性能
1. 接口层面
根据用户量预期,制定系统性能要求,再构造数据借助JMeter对系统进行持续压测,测试系统的极限处理能力,以及最佳处理能力。
同时,将部分主要流程性脚本通过MeterSphere开源持续测试平台建立自动化性能测试任务,每次版本升级后自动执行稳定性测试,大大提升了测试效率,也能在早期发现问题并解决问题,进一步提升产品质量。
2. Web页面
从资源加载时间、页面渲染、接口调用逻辑多方面分析Web页面性能。这这方面,通过http://www.webpagetest.org工具,测试首页资源加载、接口响应时长、页面渲染时间等数据记录页面性能。
从不限于以下不同维度的测试数据分析页面性能,并给出合理的改进措施:
- 多次测试取平均值
- 是否有缓存数据
- SSL握手时间
- 接口响应时间
- 接口调用合理性(并行、串行、重复请求)
- 资源优化
- 弱网
MeterSphere使用体会
对于创业者来说,时间少任务重是常态,反复地手工测试让人精疲力竭,要着手去写自动化代码,又需要投入大量的人力,让人应接不暇。我们团队引入MeterSphere工具之后产生了非常好的效果。
现在来总结一下MeterSphere持续测试平台的优点:
- 它规范了测试用例,测试计划可追溯,任务执行情况一目了然,团队合作变得高效;
- 接口测试上手成本低,将接口用例与部署平台结合,每次有新代码部署后,都自动执行自动化脚本,在保证质量的同时提升了效率;
- 性能测试提供图形化可视界面,且保留历史数据,方便追溯,性能结果一目了然;
- 开源!开源!开源!
MeterSphere项目还在持续不断优化和改进,如果能增加以下些功能就更好啦:
- 增加UI自动化模块;
- 增加性能测试数据的对比功能,方便稳定性测试数据的对比;
- 场景支持在接口中调用,方便用例的组合测试,减少写重复接口。
对于测试团队来说,保证产品质量,测试左移和测试右移都是非常重要的突破方向。我们也将在此基础上不断地完善和优化,全方位提升研发测试效能。