找回密码
 加入怎通
查看: 467|回复: 0

从发现到优化,解决性能问题通用思路(发现就是硬道理)

[复制链接]
我来看看 发表于 2023-04-09 00:47:04 | 显示全部楼层 |阅读模式
. [/ K# ?& i( b, R" c

原标题:从发现到优化,解决性能问题通用思路一、文章概述技术系统有一个发展过程,在业务初期主要是实现业务功能和目标,由于数据和访问量都不大,所以性能问题并不作为首要考虑但是随着业务发展,随着数据和访问量增大甚至激增,造成例如首页五秒钟才能展示等问题,这种不佳体验会造成用户流失,此时性能就是必须面对之问题。

" f0 Q* `3 c. A8 E. U2 \ B" Z

我们把技术系统分为早期、中期、后期三个阶段:早期:主要实现业务需求,性能非重点考虑中期:性能问题注解显现,影响业务发展后期:技术迭代性能与业务必须同时考虑如何发现性能问题,并且最终如何解决性能问题就是本文讨论之要点。

: ~6 k4 d) u/ ~* G2 d

二、什么是性能我们可以从四个维度介绍什么是性能:两个维度定义性能:速度慢压力大两个维度描述性能:定性:直观感受定量:指标分析三、发现性能问题1、定性 + 速度一个页面需要长时间打开,一个列表很慢才能加载完成,一个接口访问导致超时异常,这些显而易见之问题可以归为此类。

4 h" J0 `- I3 V0 u* w6 e/ C

2、定量 + 速度1)速度指标一个公司有7200名员工,每天上班打卡时间是早上8点到8点30分,每次打卡时间系统执行时长5秒,那么RT、QPS、并发量分别是多少?RT表示响应时间,问题已经包含答案:RT = 5秒

9 V9 \. B @2 g, O7 N

QPS表示每秒访问量,假设行为平均分布:QPS = 7200 / (30 * 60) = 4并发量表示系统同时处理请求数:并发量 = QPS x RT = 4 x 5 = 20根据上述实例引出公式:并发量 = QPS x RT

T% ^! u2 d0 O9 I0 t8 v( m

2)QPS VS TPSQPS(Queries Per Second):每秒查询量TPS(Transactions Per Second):每秒事务数需要注意此事务并不是指数据库事务,而是包括以下三个阶段:

% p/ k1 l% Y6 q! u. i

接收请求处理业务返回结果QPS = N * TPS (N>=1)N=1表示接口有一个事务:public class OrderService {public Order queryOrderById(String orderId) {

# \* U7 J( S9 `

return orderMapper.selectById(orderId);}}N>1表示接口有多个事务:public class OrderService {public void updateOrder(Order order) {

2 T* W7 D: @( _8 M) p

// transaction1orderMapper.update(order);// transaction2sendOrderUpdateMessage(order);}}3)发现问题①打印日志public class FastTestService {

% r0 b% v4 ?& o5 t

public void test01() {long start = System.currentTimeMillis();biz1();biz2();long costTime = System.currentTimeMillis() - start;

+ k- s4 s6 Y0 ~2 A

System.out.println("costTime=" + costTime);}private void biz1() {try {System.out.println("biz1");Thread.sleep(500L);

/ C ]5 p7 D# O1 S

} catch (Exception ex) {log.error("error", ex);}}private void biz2() {try {System.out.println("biz2");

: N' q; q5 q, R; N, V, t

Thread.sleep(1000L);} catch (Exception ex) {log.error("error", ex);}}}②StopWatchimport org.springframework.util.StopWatch;

4 X$ f* |, H7 `2 `/ h+ {+ Z$ M

import org.springframework.util.StopWatch.TaskInfo;public class FastTestService {public void test02() {

5 |- W& T U8 `7 ]5 R' |/ J5 b. j

StopWatch sw = new StopWatch("testWatch");sw.start("biz1");biz1();sw.stop();sw.start("biz2");biz2();sw.stop();

& o" ^& [; g7 N9 }6 o3 U. |" ~; i

// 简单输出耗时System.out.println("costTime=" + sw.getTotalTimeMillis());System.out.println();// 输出任务信息TaskInfo[] taskInfos = sw.getTaskInfo();

/ c( v9 D6 J3 I8 G* m) U

for (TaskInfo task : taskInfos) {System.out.println("taskInfo=" + JSON.toJSONString(task));}System.out.println();

- A- z' h/ o8 ]3 [+ C( F

// 格式化任务信息System.out.println(sw.prettyPrint());}}输出结果:costTime=1526taskInfo={"taskName":"biz1","timeMillis":510,"timeNanos":510811200,"timeSeconds":0.5108112}

/ n3 O$ F* b6 Y2 J

taskInfo={"taskName":"biz2","timeMillis":1015,"timeNanos":1015439700,"timeSeconds":1.0154397}StopWatch testWatch: running time = 1526250900 ns

! r: J# c! N7 Z* q: ~0 C

---------------------------------------------ns % Task name---------------------------------------------

2 [+ w7 d! i5 P) F! f1 w2 L% N+ ?# r

510811200 033% biz11015439700 067% biz2③traceArthas是阿里开源Java诊断工具:Arthas是一款线上监控诊断产品,通过全局视角实时查看应用 load、内存、gc、线程的状态信息,并能在不修改应用代码的情况下,对业务问题进行诊断,包括查看方法调用的出入参、异常,监测方法执行耗时,类加载信息等,大大提升线上问题排查效率

6 u" k3 s' v- Y( Y

Arthas trace命令监控链路每个节点耗时:https://arthas.aliyun.com/doc/trace.html我们通过实例说明,首先编写并运行代码:package java.front.optimize;

1 P2 L% v' F! l$ B. N9 L

public class FastTestService {public static void main(String[] args) {FastTestService service = new FastTestService();

& ]& n; Z. }& H3 B" [! q

while (true) {service.test03();}}public void test03() {biz1();biz2();}private void biz1() {try {System.out.println("biz1");

. u2 [( z- b, `' t+ C

Thread.sleep(500L);} catch (Exception ex) {log.error("error", ex);}}private void biz2() {try {System.out.println("biz2");

% j. E0 K! ] h O

Thread.sleep(1000L);} catch (Exception ex) {log.error("error", ex);}}}第一步进入arthas控制台:$ java -jar arthas-boot.jar

" A0 }* F' [+ k8 Q/ n

[INFO] arthas-boot version: 3.6.2[INFO] Found existing java process, please choose one and input the serial number of the process, eg : 1. Then hit ENTER

4 C1 h2 N2 A* C" i8 Y

* [1]: 14121[2]: 20196 java.front.optimize.FastTestService第二步输入监控进程号并回车第三步trace命令监控相应方法:trace java.front.optimize.FastTestService test03

- L0 @- k2 }( g; L- h+ F

第四步查看链路耗时:`---[1518.7362ms] java.front.optimize.FastTestService:test03()+---[33.66% 511.2817ms ] java.front.optimize.FastTestService:biz1() #54

9 y$ P) O6 v: u8 r1 |5 B

`---[66.32% 1007.2962ms ] java.front.optimize.FastTestService:biz2() #553、定性 + 压力系统压力大也会表现出速度慢之特征,但是这种慢不仅仅是需要几秒后才能打开网页,而是网页一直处于加载状态最终白屏。

6 A/ Y, u. v: v6 V

4、定量 + 压力服务器常见压力指标如下:内存CPU磁盘网络服务端开发比较容易引发内存和CPU问题,所以我们重点关注1)发现CPU问题首先编写一段造成CPU飙高之代码并运行:public class FastTestService {。

& H$ ]* ~1 t# s( U3 z+ U

public static void main(String[] args) {FastTestService service = new FastTestService();while (true) {

& o, w$ w+ j/ T J' K' n k1 N

service.test();}}public void test() {biz();}private void biz() {System.out.println("biz");}}①dashboard + thread

+ e: ]0 d5 l1 r3 L

dashboard查看当前系统实时面板,发现线程ID=1 CPU占用非常高(这个ID不可以与jstack nativeID相对应):$ dashboardID NAME GROUP PRIORI STATE %CPU DELTA TIME TIME INTERRU DAEMON

! I+ Q1 h* n# F1 R, p" G. _

1 main main 5 RUNNA 96.06 4.812 2:41.2 false falsethread查看最忙前N个线程:$ thread -n 1"main" Id=1 deltaTime=203ms time=1714000ms RUNNABLE

7 S1 w/ r- A7 u

at app//java.front.optimize.FastTestService.biz(FastTestService.java:83)at app//java.front.optimize.FastTestService.test(FastTestService.java:61)

+ X+ m, ]2 Y3 a, `( G: L: U

at app//java.front.optimize.FastTestService.main(FastTestService.java:17)2)发现内存问题①free$ free -htotal used free shared buff/cache available

8 A2 t; E) {# T+ _7 e2 r

Mem: 10G 5.5G 3.1G 28M 1.4G 4.4GSwap: 2.0G 435M 1.6Gtotal服务器总内存used已使用内存free未被任何应用使用空闲内存shared被共享物理内存

7 q4 E3 V" o3 J% U- b' U' h

cacheIO设备读缓存(Page Cache)buffIO设备写缓存(Buffer Cache)available可以被程序应用之内存②memoryArthas memory命令查看JVM内存信息:https://arthas.aliyun.com/doc/heapdump.html

, Y6 a% @7 q+ ?4 M8 c- [* q! a9 W

查看JVM内存信息(官方实例)$ memoryMemory used total max usageheap 32M 256M 4096M 0.79%g1_eden_space 11M 68M -1 16.18%

8 d$ [3 Q/ O9 Y3 v

g1_old_gen 17M 184M 4096M 0.43%g1_survivor_space 4M 4M -1 100.00%nonheap 35M 39M -1 89.55%codeheap_non-nmethods 1M 2M 5M 20.53%

* Y% @9 K7 y) E" \5 i; a' ?

metaspace 26M 27M -1 96.88%codeheap_profiled_nmethods 4M 4M 117M 3.57%compressed_class_space 2M 3M 1024M 0.29%

2 \5 ~4 F" e' [

codeheap_non-profiled_nmethods 685K 2496K 120032K 0.57%mapped 0K 0K - 0.00%direct 48M 48M - 100.00%③jmap

8 x8 z# M9 y; |# H) U. N* R

查看JAVA程序进程号jps -l查看实时内存占用jhsdb jmap --heap --pid 20196导出快照文件jmap -dump:format=b,file=/home/tmp/my-dump.hprof 20196

( E- T0 M8 Z8 r7 `) s

内存溢出自动导出堆快照-XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath==/home/tmp/my-dump.hprof④heapdumpArthas heapdump命令支持导出堆快照:

' f: v& I; k( u+ k3 v

https://arthas.aliyun.com/doc/heapdump.htmldump至指定文件heapdump /home/tmp/my-dump.hprofdump live对象至指定文件heapdump --live /home/tmp/my-dump.hprof

; B, U6 j8 B6 H; G- q

dump至临时文件heapdump⑤垃圾回收jstat可以查看垃圾回收情况,观察程序是否频繁GC或者GC用时是否过长:jstat -gcutil 每秒查看垃圾回收情况

3 ~+ x( \ n/ j

$ jstat -gcutil 20196 1000S0 S1 E O M CCS YGC YGCT FGC FGCT CGC CGCT GCT0.00 0.00 57.69 0.00 - - 0 0.000 0 0.000 0 0.000 0.000

5 g" E. h/ V+ b: Q' j6 D0 I, x

0.00 0.00 57.69 0.00 - - 0 0.000 0 0.000 0 0.000 0.0000.00 0.00 57.69 0.00 - - 0 0.000 0 0.000 0 0.000 0.000

: ]) N# x9 K) T( l

各参数说明如下:S0:新生代中Survivor 0区占已使用空间比例S1:新生代中Survivor 1区占已使用空间比例E:新生代占已使用空间比例O:老年代占已使用空间比例P:永久带占已使用空间比例YGC:应用程序启动至今,发生Young GC次数

( v$ e- D( @3 U' u" c

YGCT:应用程序启动至今,Young GC所用时间(秒)FGC:应用程序启动至今,发生Full GC次数FGCT:应用程序启动至今,Full GC所用时间(秒)GCT:应用程序启动至今,所用垃圾回收总时间(秒)

8 l3 w# Y5 A6 [2 X

3)综合发现问题①压力测试进行系统压测可以主动暴露系统问题,评估系统容量,简单常用参数如下:常用工具:JMeter阶梯发压:线程数10、20、30递增至瓶颈持续时间:持续1分钟,Ramp-Up=0TPS:Throughput

5 h/ I& x7 G1 x- ^

响应时间:重点关注95Line②监控系统监控系统可以更加友好展示相关指标,如果公司具有一定技术实力可以自研,否则可以选择使用业界通用方案四、优化性能问题1、四个方法减少请求空间换时间任务并行化任务异步化。

5 Q8 E! \% O( o4 y

2、五个层面代理层前端层服务层缓存层数据层3、优化说明一说到性能优化不难想到例如加索引、加缓存等方案,这也许是正确的,但是这样思考可能会造成遗漏,因为这只是缓存层和数据层的方案如果可以将无效流量在最外层拒绝,那么这是对系统更好地好保护。

! ] u& O" p7 M% }( k! _, x

四个方法可以应用在每一个层面,我们不妨举一些例子:1)减少请求 + 前端层在秒杀场景中设置前置验证码2)减少请求 + 服务层多次RPC是否可以转换为一次批量RPC3)空间换时间 + 服务层引入缓存4)空间换时间 + 缓存层

. \- D' f/ n" D0 e% P0 i* {/ i

引入多级缓存5)空间换时间 + 数据层新增索引6)任务并行化 + 服务层如果多个调用互不依赖,使用Future并行化7)任务异步化 + 服务层如果无需等待返回结果,可以异步执行五、文章总结第一本文讨论了系统早期、中期、后期如何看待性能问题,第二讨论了什么是性能,第三讨论了如果发现性能问题,第四讨论了如何优化性能问题,希望本文对大家有所帮助。

) ^, z+ S1 J1 U; D

作者丨IT徐胖子来源丨公众号:JAVA前线(ID:www_xpz)dbaplus社群欢迎广大技术人员投稿,投稿邮箱:editor@dbaplus.cn活动推荐第八届DAMS-中国数据智能管理峰会将于2023年3月31日在上海举办

2 \" \$ \& W8 u' t, P

,与大家一起探索大数据与云原生强强联合的方式、挖掘由此激发的软件发展和技术进步报名链接:https://www.bagevent.com/event/8100960?bag_track=SH演讲嘉宾所在单位:。

( q# D2 C: {' S2 `( y

阿里、腾讯、京东、美团、华为云、字节、蚂蚁、网易、新浪、携程、哔哩哔哩、小红书、vivo、快狗打车、货拉拉、工商银行、建设银行、中国银行、平安银行、光大银行、汇丰银行、微众银行、复旦大学等产学研界技术领跑单位。

5 m' A( P8 e5 V! S( {/ Y% L8 [

演讲议题聚焦:大数据&数据资产管理:数据治理丨存算分离丨云原生OLAP丨湖仓一体丨智能分析数据库:云原生分布式丨时间序列丨服务自治丨中间件丨跨云多活运维:AIOps丨故障分析丨性能优化丨离在线混部丨高可用建设

7 _; L, p" y+ c3 m/ j3 P

金融科技:规模化监控丨实时数仓丨分布式改造丨国产化替代丨数字化转型丨混沌工程返回搜狐,查看更多责任编辑:

6 M0 x# k3 E4 l7 _* o" \ / C7 U7 H; t+ D. |0 b , A/ J/ M+ n# h# l 2 \* n% }! z p7 I; X% e 3 b- {6 J! I8 e# U

暂时无法加载帖子列表

回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-9-30 17:42 , Processed in 0.053960 second(s), 24 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表