合金电阻,赛普欢迎您!

QPS,TPS,RT,并发,吞吐量理解和性能优化深入思考

首页 > 资讯
吞吐量在了解qps,tps,rt和并发数量之前,我们应该首先弄清楚系统吞吐量的含义。一般而言,系统吞吐量是指系统的压力和负载能力。
一秒钟内可以维持的最大用户访问量。系统的吞吐量通常由qps(tps)和并发数决定。
每个系统都有这两个值的相对限制。只要一项达到最大值,系统的吞吐量就不会提高。
每秒QPSQueries(每秒查询数量)是每秒可以响应的查询数量。请注意,此处的查询是指用户向服务器发送请求以成功响应的次数。
简单理解可以认为是query = request request。 qps =每秒TPSTransactions的缩写,即每秒处理的事务数。
事务是指客户端向服务器发送请求,服务器响应的过程。客户端在发送请求时开始计时,在从服务器收到响应后结束计时,以便计算使用的时间和完成的事务数。
对于单个接口,TPS可以认为等同于QPS。例如,访问页面/index.html是TPS,访问/index.html页面可能会请求三台服务器,例如css,js和index接口。
产生了3个QPS。 tps =每秒事务数RTResponse Time的缩写,简称为系统从输入到输出的时间间隔。
广义上讲,它表示客户端发起请求与服务器接收请求并响应所有数据之间的时间差。一般取平均响应时间。
并发简而言之,系统可以同时处理的请求/事务的数量。计算方法QPS =并发数量/ RT或并发数量= QPS * RT举个栗子:假设公司的员工想要每天从上午9点到上午10点在一小时内上厕所。
该公司拥有3600名员工。平均而言,每个员工都会上厕所。
上厕所的时间是10分钟,我们来计算一下。 QPS& nbsp; & nbsp; = 3600 /(60 * 60)& nbsp; 1RT& nbsp; & nbsp; & nbsp; = 10 * 60& nbsp; & nbsp; & nbsp; & nbsp; & nbsp; & nbsp; 600秒并发= 1 * 600& nbsp; & nbsp; & nbsp; & nbsp; & nbsp; 600意味着如果您想要获得最佳的下蹲体验,公司需要600个坑来满足员工的需求,否则您将不得不排队等候上厕所。
性能思考基于QPS =并发/ RT公式。假设我们现在处于单线程方案中,则QPS公式应如下所示:QPS = 1 / RT,实际上RT应该= CPU时间+ CPU等待时间,如果将线程数增加到2,则QPS = 2 /(CPU时间+ CPU等待时间),这是否意味着我们可以通过简单地增加线程数来提高QPS?最佳线程数的计算。
假设CPU时间为49毫秒,CPU等待时间为200毫秒,则QPS = 1000ms / 249ms = 4.01,其中200ms的等待时间可以认为CPU一直在等待并且什么也没做。从理论上讲,200ms是可以的。
接受200 /49≈4个请求。如果不考虑上下文切换和其他开销,则可以认为线程总数=(200 + 49)/ 49 = 5。
如果考虑CPU多核和利用率问题,我们可以粗略地认为:最佳线程数= RT / CPU时间* CPU内核数* CPU利用率,则最大QPS公式可推导为:最大QPS =最佳线程数*单线程QPS =(RT / CPU时间* CPU内核数* CPU利用率)*(1 / RT)= CPU内核数* CPU利用率/ CPU时间那么这是否意味着我们可以无限期地增加QPS随着我们不断增加CPU核心数量。 Amdahl定律1967年提出的AmdahlG.M.Amdahl根据Amdahl定律,给出了并行处理可扩展性的模型,指出使用并行处理的速度由并行处理的可并行化部分决定​​。
问题。我们可以简单地将其理解为程序在理论上可以通过其他计算资源获得的加速度值。
Par是并行计算的比例,p是并行处理节点的数量。假设您想从望京去顺义。
开车需要3个小时。尽管现在有3辆车,但您不能在1小时内到达那里。
这里没有并行性,所有Par = 0%,p = 3,并且加速比仍然等于1,这不会提高速度。古斯塔夫森定律古斯塔夫森定律也称为比例加速。
他解释了处理器数量,串行比率和加速之间的关系,但重点是阿姆达尔定律。角度是不同的。
根据阿姆达尔定律和QPS c。
cache
打开客服菜单