API全场景零码测试机器人，华为云发布ATGen in CodeArts TestPlan

阅读原文时间：2023年08月15日阅读：4

摘要：华为云ATGen现开放对外邀测，欢迎预约。

众所周知，软件服务及组件之间的交互主要依赖大量的API接口。

以华为云300多个商用云服务为例，平均每个服务含500+接口，接口总数高达10万+，接口调用上下文业务场景超乎想像的错综复杂。

如何保障API测试场景尽量完备、不遗漏、不引起严重现网问题？这是当前人们遇到的经典难题，而其中常见的瓶颈主要如下：

当前接口测试设计依赖人员经验，测试数据构造手段单一，难以反应现网真实应用数据分布场景；
面对成千上万的API接口，可构成上万甚至十几万的操作路径，E2E场景测试编排工作量巨大；
现有的API接口测试生成工具，基本采用Fuzz测试+基于代码覆盖目标引导的SBST，或基于现网数据的单接口回放，不感知接口业务上下文，对于多接口功能交互场景，生成有效性较差且效率低。

那么，华为云是如何破解这些问题的呢？

ATGen (APITestGenerator) 是一种基于上下文感知（Context-aware）的API场景级零代码自主测试生成服务，实现应用API场景级测试全自动设计、生成、执行和判定，整个过程无需编写一行代码。

传统的测试设计和执行交互模式，需要人工理解设计文档、编排测试方案、测试自动化开发，这要求参与者熟知产品或服务业务及接口文档，熟练掌握测试技术、测试自动化框架、测试自动化代码编写。

如今，在自主设计、自主生成、自主执行、自主判定的AI算法加持下，API场景级测试的人机交互模式已发生了巨大的转变。

在测试过程中，机器自主解析文档和数据，自动生成API场景级操作依赖ODG（OperationDependencyGraph）图，测试人员只需做适量修订，机器便可自主探索遍历ODG图执行，并同步完成结果的判定和报告的生成，测试人员只需按类批量确认结果。

华为云ATGen基于正向API接口定义文档，自动挖掘API测试上下文操作依赖图（ODG），探索遍历ODG自主生成API测试序列，实时构造并下发API测试请求，判定API测试响应结果，动态修正ODG图，优化下一轮生成。

支持基于Rest API接口定义Yaml文档零码全自动智能测试生成；
感知Rest API 接口调用上下文：解析接口定义Yaml文档，挖掘API接口间出参与入参的上下文传参依赖，以及CRUD增删改查依赖，生成接口操作序列依赖图ODG；
自主探索遍历和修正ODG：探索遍历ODG批量生成测试序列，自动下发执行，依据响应反馈动态修正ODG图；
13种接口测试数据生成方法：支持接口上下文自动传参、复用字典取值、enum值、example值、example变异值、边界值、中间值、随机值等13种测试数据生成方法；
自动挖掘生成测试判定点：基于接口定义和状态码生成显性测试判定点；
测试结果聚类和批量高效确认：支持按照业务返回码、相似子序列，参数生成类型对测试结果分层聚类，便于测试人员按类别批量确认失败，并一键提单；

*具体技术细节可参考发表在ICSE, ASE的顶会论文【1，2】。

快速构建接口和功能质量防护网：对于新成立的产品服务团队，或无专职测试人员的全功能团队，可实现少人参与或无人参与的零代码全自动接口全场景级测试，快速构建起接口级和功能场景级测试基础质量防护网；
低成本、高覆盖：对于有专职测试人员、测试专家、成熟度较高的测试团队，可以极大提升测试设计效率, 低成本实现更高的测试场景覆盖率和缺陷拦截率；
流水线质量门禁加固：可与现有流水线集成，加固现有冒烟测试门禁，进一步拦截业务逻辑深度缺陷；
面向接口的全场景全属性测试无码化：可以在API正常场景测试基础上实现异常场景（可靠性测试）和并发场景（性能压力模型）的全自动化生成，完全替代现有接口fuzz测试，实现接口全场景测试零代码。