在正式开始讲解之前,先讲一下什么是“好的”测试用例,这个“好”又应该体现在哪些方面。这两个问题看似简单实则难以回答。你可能会说:“发现软件缺陷可能性大的测试用例就是好用例。”然而,我会反问你:“你打算用什么方法来量化测试用例发现缺陷的可能性?”
类似地,你可能还会说:“发现至今未被发现的软件缺陷的测试用例就是好用例。”那么我想问你的是:“如何评估是否还存在未被发现的缺陷?如果软件中根本就没有错误呢?”其实,这是定义“好的”测试用例的思路错了。比如,一个人吃烧饼,连吃 5 个不饱,吃完第 6 个终于饱了。早知道吃了第 6 个就会饱,何必吃前面 5 个呢?他吃的 6 个烧饼其实是一个整体,一起吃下去才会饱,无法从 6 个烧饼中找到吃一个就能饱的“好”烧饼。测试用例其实也是同样的道理,“好的”测试用例一定是一个完备的集合,它能够覆盖所有等价类以及各种边界值,而与能否发现缺陷无关。
这里举一个“池塘捕鱼”的例子,以帮你更好地理解什么是“好的”测试用例。如果把被测试软件看作一个池塘,软件缺陷是池塘中的鱼,建立测试用例集的过程就像是在编织一张渔网。“好的”测试用例集就是一张能够覆盖整个池塘的大渔网,只要池塘里有鱼,这个大渔网就一定能把鱼给捞上来。如果渔网本身是完整的且合格的,但是捞不到鱼,就证明池塘中没有鱼,而渔网的好坏与池塘中是否有鱼无关。
“好的”测试用例具备的特征
通常来说,一个“好的”测试用例必须具备以下 3 个特征。
整体完备性:“好的”测试用例一定是一个完备的整体,是有效测试用例组成的集合,能够完全覆盖测试需求。
等价类划分的准确性:指的是对于每个等价类都能保证只要其中一个输入测试通过,其他输入也一定测试通过。
等价类集合的完备性:需要保证所有可能的边界值和边界条件都已经正确识别。做到了以上 3 点,就可以说测试是充分且完备的,即做到了完整的测试需求覆盖。
常用测试用例的设计方法
明白了“好的”测试用例的内涵和外延后,下面我们讲一下,为了能够设计出“好的”测试用例,通常都要使用哪些设计方法。
从理论层面来讲,设计测试用例的方法有很多,如等价类划分方法、边界值分析方法、错误推测方法、因果图方法、判定表驱动分析方法、正交实验设计方法、功能图分析方法、场景设计方法、形式化方法、扩展有限状态机方法等,但是从软件企业实际的工程实践来讲,真正具有实用价值并且最常用的一般是前 3 种方法。
当然,对于那些与人的生命安全直接或间接相关的软件,比如飞行控制、轨道交通的列车控制、医疗检测相关的软件或者系统,由于需要达到严格的百分百的测试覆盖率,会采用更多的测试用例设计方法。但对于大多数的软件测试而言,综合使用等价类划分方法、边界值分析方法和错误推测方法这 3 种方法就基本够用了。接下来,结合实际的例子,解释一下这 3 种方法的核心概念以及在使用时需要注意的问题。
1.等价类划分方法
从前面的讲述中我们已经知道了,等价类中任意一个输入数据对于揭露程序中潜在错误都具有同等效果,后续我们只要从每个等价类中任意选取一个值进行测试,就可以用少量具有代表性的测试输入取得较好的测试覆盖结果。
现在,这里给出一个具体的例子。学生信息系统中有一个“考试成绩”的输入项,成绩的取值范围是 0~100 的整数,考试成绩及格的分数线是 60。为了测试这个输入项,显然,不可能用 0~100 的每一个数去测试。通过需求描述可以知道,输入 0~59 的任意整数,以及输入60~100 的任意整数,去验证输入框的潜在缺陷是等价的,因此可以在 0~59 和 60~100 两个区间各随机抽取一个整数来进行验证,这样的设计就构成了所谓的“有效等价类”。但不要觉得进行到这里,就已经完成了等价类划分的工作,因为等价类划分方法的另一个关键点是要找出所有“无效等价类”。显然,如果输入的成绩是负数,或者是大于 100 的数,就构成了“无效等价类”。
在全面考虑了无效等价类后,最终设计的测试用例如下。
有效等价类 1:0~59 的任意整数。
有效等价类 2:59~100 的任意整数。
无效等价类 1:小于 0 的负数。
无效等价类 2:大于 100 的整数。Z
无效等价类 3:0~100 的任何浮点数。
无效等价类 4:其他任意非数字字符。
2.边界值分析方法
边界值分析方法是对等价类划分方法的补充。我们从工程实践中可以发现,大量的程序错误发生在输入/输出的边界值上,所以需要对边界值进行重点测试,通常选取正好等于、刚刚大于或刚刚小于边界的值作为测试数据。
我们继续看学生信息系统中“考试成绩”的例子,选取的边界值数据应该包括:?1、0、 1、59、60、61、99、100、101。 3.错误推测方法错误推测方法是指基于对被测试软件系统设计的理解、过往经验以及个人直觉,推测出软件可能存在的缺陷,从而有针对性地设计测试用例的方法。这种方法强调的是对被测试软件的需求理解以及设计实现的细节把握,当然,还包括个人的能力和经验。
错误推测方法和目前非常流行的“探索式测试方法”的基本思想与理念是不谋而合的,这类方法在目前的敏捷开发模式下的投入产出比很高,因此被广泛应用,并且成为发现软件缺陷的主要方法。但是,这种方法的缺点也显而易见,那就是难以系统化,并且过度依赖个人能力和经验。
如,Web 界面的 GUI 功能测试,需要考虑浏览器在有缓存和没有缓存下的表现;Web服务的 API 测试,需要考虑被测 API 所依赖的第三方 API 出错情况下的处理逻辑;对于代码级的单元测试,需要考虑被测函数的输入参数为空情况下的内部处理逻辑等。由此可见,这些测试用例的设计都基于从业者曾经遇到的问题进行错误推测,也和个人能力和经验有关。在软件企业的具体实践中,为了降低对个人能力的依赖,通常会建立常见缺陷知识库,在测试设计的过程中,会使用缺陷知识库作为检查表(checklist),帮助优化、补充测试用例的设计。
对于中小企业,可能最初的方法就是建立一个简单的 Wiki 页面,在测试工程师完成测试用例的最初设计后,对这个 Wiki 页面先做一轮自检,如果在后续测试中发现了新的关注点,就会继续完善这个 Wiki 页面。对于测试基础架构比较成熟的中大型软件企业,通常会以该缺陷知识库作为数据驱动测试的输入来自动生成部分的测试数据,这部分内容会在本书后续的章节中详细介绍。
“好的”测试用例的设计方法
掌握了最基本的 3 种设计测试用例的方法,就相当于拿到了打仗所需要的枪支和弹药,接下来要做的就是在实战中用这些武器打个大胜仗了。在真实的工程实践中,不同的软件项目在研发生命周期的各个阶段都会有不同的测试类型。比如,传统软件的开发阶段通常会有单元测试,软件模块集成阶段会有代码级集成测试,打包部署后会有面向终端用户的 GUI 测试。再比如,电商网站的测试会分为服务器端基于 API的测试、中间件测试、前端 GUI 测试等。对于每一种不同的测试类型,设计出“好的”测试用例的方法可能会有很大的差异,有些可能采用黑盒方法,有些可能采用白盒方法,有些还会采用灰盒方法(例如,微服务架构中的测试),所以很难有一套放之四海而皆准的“套路”。这里仅以最常见、最容易理解的面向终端用户的 GUI 测试为例,讲解如何才能设计一个“好的”测试用例。
在面向终端用户的 GUI 测试中,最核心的测试点就是验证软件对用户需求的满足程度,这就要求测试工程师对被测软件的需求有深入的理解。在我看来,深入理解被测软件用户需求的最好方法是,测试工程师在软件需求分析和设计阶段就开始介入,因为这个阶段是理解和掌握软件的原始业务用户需求的最好时机。只有真正理解了原始业务需求,才有可能从业务需求的角度去设计针对性明确、从终端用户使用场景考虑的端到端的测试用例集。在这个阶段,测试用例设计的主要目的是验证各个业务需求是否满足,主要采用黑盒的测试方法。
在设计具体的测试用例时,首先需要搞清楚每一个业务需求所对应的多个软件功能点,然后分析出每个软件功能点对应的多个测试需求点,最后针对每个测试需求点设计测试用例。你可能觉得这个测试用例设计过程有点绕,为了说明这个设计过程,这里还以“用户登录”功能的测试用例设计为例,画一张图来帮你理清这些概念之间的映射关系。
图中的业务需求到软件功能需求、软件功能需求到测试需求,以及测试需求到测试用例的映射关系,在非互联网软件企业的实践中,通常会使用需求追踪管理工具(如 ALM、Doors、JIRA、Test Link 等)来管理,并以此来衡量测试用例对业务需求、软件功能需求的覆盖率。
具体到测试用例本身的设计,有两个关键点需要特别注意。
(1)从软件功能需求出发,全面地、无遗漏地识别出测试需求是至关重要的,这将直接关系到测试用例的测试覆盖率。比如,如果没有识别出用户登录功能的安全性测试需求,那么后续设计的测试用例就完全不会涉及安全性,最终造成重要测试遗漏。
(2)对于识别出的每个测试需求点,需要综合运用等价类划分方法、边界值分析方法和错误推测方法来全面地设计测试用例。这里需要注意的是,要综合运用这 3 种方法,并针对每个测试需求点的具体情况,进行灵活选择。以“用户登录”的功能性测试需求为例,首先应该对“用户名”和“密码”这两个输入项分别进行等价类划分,列出对应的有效等价类和无效等价类。对于无效等价类的识别,可以采用错误猜测法(比如,用户名包含特殊字符等)。然后基于两者可能的组合,设计出第一批测试用例。等价类划分完后,需要补充“用户名”和“密码”这两个输入项的边界值的测试用例,比如,用户名为空(NULL)、用户名长度刚刚大于允许长度、用户名包含非英文字符串等。
测试用例设计的其他经验
本节给出 3 个独创的测试用例设计“秘诀”,以帮读者设计出“好的”测试用例集。
(1)只有深入理解被测试软件的架构,才能设计出有的放矢的测试用例集,去发现系统边界以及系统集成上的潜在缺陷。作为测试工程师,切忌把整个被测系统看作一个大黑盒,必须对内部的架构有清楚的认识,比如,数据库连接方式、数据库的读写分离、消息中间件 Kafka的配置、缓存系统的层级分布、第三方系统的集成等。
(2)必须深入理解被测软件的设计与实现细节,深入理解软件内部的处理逻辑。单单根据测试需求点设计的测试用例,只能覆盖“表面”的一层,往往会覆盖不到内部的处理流程、分支处理,而没有覆盖到的部分就可能出现测试遗漏。在具体实践中,测试人员可以通过代码覆盖率指标找出可能的测试遗漏点。同时,切忌以开发代码的实现为依据设计测试用例。因为开发代码实现的错误会导致测试用例也出错,所以应该根据原始需求设计测试用例。
(3)需要引入需求覆盖率和代码覆盖率来衡量测试执行的完备性,并以此为依据来找出遗漏的测试点。
作为测试人员,需要注意以下几点:
(1)需要明白,“好的”测试用例一定是一个完备的集合,它能够覆盖所有等价类以及各种边界值,而能否发现软件缺陷并不是衡量测试用例好坏的标准。
(2)设计测试用例的方法有很多种,但综合运用等价类划分方法、边界值分析方法和错误推测方法,可以满足绝大多数软件测试用例设计的需求。
(3)在设计时,“好的”测试用例需要从软件功能需求出发,全面地、无遗漏地识别出测试需求。
(4)如果想设计一个“好的”测试用例,必须要深入理解被测软件的架构设计,深入理解软件内部的处理逻辑。