【性能测试】基础知识篇-并发用户、RPS、TPS的解读

本文介绍并发用户、RPS、TPS的基本概念以及三者之间的关系。

术语定义

并发用户：在性能测试工具中，一般称为虚拟用户（Virtual User，简称VU），指的是现实系统中操作业务的用户。
说明并发用户与注册用户、在线用户不同。注册用户一般指的是数据库中存在的用户。在线用户只是“挂”在系统上，对服务器不产生压力。但并发用户一定会对服务器产生压力。
TPS：Transaction Per Second，每秒事务数，是衡量系统性能的一个非常重要的指标。
说明系统每秒处理事务数越多证明您的机器性能越好。
RPS：Request Per Second，每秒请求数。RPS模式适合用于容量规划和作为限流管控的参考依据。
RT：Response Time，响应时间，指的是业务从客户端发起到客户端接收的时间。
在性能测试中，通常有两种施压模式：并发模式和RPS模式。传统方式是使用并发用户数来衡量系统的性能（站在客户端视角）。此方法一般适用于一些网页站点的压测（例如H5页面）；而RPS（Requests per second）模式主要是为了方便直接衡量系统的吞吐能力TPS（Transaction Per Second，每秒事务数）而设计的（站在服务端视角），按照被压测端需要达到TPS等量设置相应的RPS，应用场景主要是一些动态的接口API，例如登录、提交订单等等。
QPS Queries Per Second 是每秒查询率 ,是一台服务器每秒能够响应的查询次数，是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准, 即每秒的响应请求数，也即是最大吞吐能力。

RPS与QPS有什么区别：
RPS（Requests Per Second）和QPS（Queries Per Second）是两个常用的性能指标，用于衡量系统的处理能力和吞吐量。
RPS通常用于衡量Web应用程序或API的性能，表示每秒钟能够处理的请求数量。例如，如果一个Web应用程序能够处理每秒钟100个请求，那么它的RPS就是100。
QPS通常用于衡量数据库系统的性能，表示每秒钟能够处理的查询数量。例如，如果一个数据库系统能够处理每秒钟100个查询，那么它的QPS就是100。
因此，RPS和QPS的主要区别在于它们衡量的是不同类型的操作。RPS衡量的是Web应用程序或API的请求处理能力，而QPS衡量的是数据库系统的查询处理能力。

VU和TPS换算

公式描述：TPS=VU/RT，（RT单位：秒）。

举例说明：假如1个虚拟用户在1秒内完成1笔事务，那么TPS明显就是1。如果某笔业务响应时间是1 ms，那么1个虚拟用户在1s内能完成1000笔事务，TPS就是1000了；如果某笔业务响应时间是1s，那么1个虚拟用户在1s内只能完成1笔事务，要想达到1000 TPS，就需要1000个虚拟用户。因此可以说1个虚拟用户可以产生1000 TPS，1000个虚拟用户也可以产生1000 TPS，无非是看响应时间快慢。

如何获取VU和TPS

VU获取方式：

已有系统：可选取高峰时刻，在一定时间内使用系统的人数，这些人数可认为是在线用户数，并发用户数可以取10%，例如在半个小时内，使用系统的用户数为10万，那么取10%（即1万）作为并发用户数基本就够了。

新系统：没有历史数据作参考，建议通过业务部门进行评估。

TPS获取方式：

已有系统：可选取高峰时刻，在一定时间内（如3分钟10分钟），获取系统总业务量，计算单位时间（秒）内完成的笔数，乘以25倍作为峰值的TPS，例如峰值3分钟内处理订单18万笔，平均TPS是1000，峰值TPS可以是2000~5000。

新系统：没有历史数据作参考，建议通过业务部门进行评估。

如何评价系统的性能

针对服务器端的性能，以TPS为主来衡量系统的性能，并发用户数为辅来衡量系统的性能，如果必须要用并发用户数来衡量的话，需要一个前提，那就是交易在多长时间内完成，因为在系统负载不高的情况下，将思考时间（思考时间的值等于交易响应时间）加到串联链路中，并发用户数基本可以增加一倍，因此用并发用户数来衡量系统的性能没太大的意义。同样的，如果系统间的吞吐能力差别很大，那么同样的并发下TPS差距也会很大。

性能测试策略

做性能测试需要一套标准化流程及测试策略。在做负载测试的时候，传统方式一般都是按照梯度施压的方式去加用户数，避免在没有预估的情况下，一次加几万个用户，导致交易失败率非常高，响应时间非常长，已经超过了使用者忍受范围内；较为适合互联网分布式架构的方。最佳实践是用TPS模式（吞吐量模式）+设置起始和目标最大量级，然后根据系统表现灵活的手工实时调速，效率更高，服务端吞吐能力的衡量一步到位。