QPS和TPS

QPS和TPS

起男 198 2023-08-07

QPS和TPS

  • QPS(queries per seccond):每秒查询率,是一台服务器每秒能够响应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准,即每秒的响应请求数,也即是最大吞吐能力。软件兼容性
  • TPS(transactions per second):一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数

优化

QPS(TPS) = 并发数/平均响应时间

  • 增加并发数
    • 增加接口处理并发的线程数
    • 增加数据库连接数
    • 后端服务尽量无状态
    • 调用链路上各个服务尽量不要单点
    • rpc调研尽量使用线程池
  • 减少平均响应时间
    • 使用缓存
    • 请求尽量越前结束越好
    • 流量削峰
    • 减少调研链路
    • 优化程序
    • 减少网络开销,适当使用长链接
    • 优化数据库,建立索引