首页>>后端>>Golang->一文教会你如何进行Golang服务优化

一文教会你如何进行Golang服务优化

时间:2023-11-30 本站 点击:0

1、概述

嗨喽,大家好呀!我是简凡,一位游走于各互联网大厂间的新时代农民工。对于C端在线业务,服务的稳定性和吞吐量常常是评估一个系统的重要指标,所以本文将从以下4点进行展开,逐步讲解golang中如何进行性能优化。

为什么要做性能优化

性能优化基础

优化思路

常见的优化场景

2、性能优化的目的(Why?)

我们常常在以下时候考虑到性能优化:

日常优化系统:

接口相应时间优化,以满足对上游的SLA

CPU优化,保证在线业务cpu idl处于一个较高水平,降低业务量突增对系统稳定性带来的冲击

内存优化,减少内存占用,释放多余的服务器资源

解决线上业务问题:

接口相应超时

CPU利用率飙升

3、性能优化基础(What?)

3.1 性能优化指标

在Golang服务中,我们常常从以下4点触发去做服务的优化:

CPU profile:报告程序的 CPU 使用情况,按照一定频率去采集应用程序在 CPU 和寄存器上面的数据

Memory Profile(Heap Profile):报告程序的内存使用情况

Block Profiling:报告 goroutines 不在运行状态的情况,可以用来分析和查找死锁等性能瓶颈

Goroutine Profiling:报告 goroutines 的使用情况,有哪些 goroutine,它们的调用关系是怎样的

4. 性能分析过程(How?)

4.1 如何获取性能快照

golang中有两种类型的应用,工具性应用和服务型应用,工具性型应用的main函数仅一段时间,我们本地跑单元测试的性能测试其实原理就是应用的这种。服务型应用为长期存活的后端应用,例如RPC服务,HTTP服务,我们后端系统通常都是服务型应用。

4.1.1 工具型应用获取CPU快照

测试Demo如下,这里用了一个快排的例子,应用执行结束后,就会生成一个文件,保存了我们的 CPU profiling 数据。得到采样数据之后,使用go tool pprof工具进行 CPU 性能分析。

packagemainimport("math/rand""os""runtime/pprof""time")funcgenerate(nint)[]int{rand.Seed(time.Now().UnixNano())nums:=make([]int,0)fori:=0;i<n;i++{nums=append(nums,rand.Int())}returnnums}funcbubbleSort(nums[]int){fori:=0;i<len(nums);i++{forj:=1;j<len(nums)-i;j++{ifnums[j]<nums[j-1]{nums[j],nums[j-1]=nums[j-1],nums[j]}}}}funcmain(){pprof.StartCPUProfile(os.Stdout)deferpprof.StopCPUProfile()n:=10fori:=0;i<5;i++{nums:=generate(n)bubbleSort(nums)n*=10}}

这里使用的runtime/pprof这个分析工具,需要指定快照打印的位置,这里打印到标准输出了。可以会与程序中的打印冲突。我们可以自己实现写到文件中,这里可以用另一个开源工具替代github.com/pkg/profile,它会生成一个日志快照文件到临时目录。

packagemainimport("math/rand""github.com/pkg/profile""time")funcgenerate(nint)[]int{rand.Seed(time.Now().UnixNano())nums:=make([]int,0)fori:=0;i<n;i++{nums=append(nums,rand.Int())}returnnums}funcbubbleSort(nums[]int){fori:=0;i<len(nums);i++{forj:=1;j<len(nums)-i;j++{ifnums[j]<nums[j-1]{nums[j],nums[j-1]=nums[j-1],nums[j]}}}}funcmain(){deferprofile.Start(profile.MemProfile,profile.MemProfileRate(1)).Stop()n:=10fori:=0;i<5;i++{nums:=generate(n)bubbleSort(nums)n*=10}}

4.1.1 服务型应用CPU分析

如果你的应用程序是一直运行的,比如 web 应用,那么可以使用net/http/pprof库,它能够在提供 HTTP 服务进行分析。这样你的 HTTP 服务都会多出/debug/pprof endpoint,访问它会得到类似下面的内容:

packagemainimport("net/http"_"net/http/pprof")funcmain(){http.ListenAndServe("0.0.0.0:8000",nil)}

现在数据已经可以采集了,那如何获取快照呢?我们上一步的操作,在后台起了一个http server服务,我们直接点击ui中的链接就可以拿到内存快照了,例如点击profile,我们就可以拿到一个30s的CPU快照,是一个*.pb.gz类型的二进制文件,可用于我们后面的分析。

/debug/pprof/profile:访问这个链接会自动进行 CPU profiling,持续 30s,并生成一个文件供下载

/debug/pprof/heap: Memory Profiling 的路径,访问这个链接会得到一个内存 Profiling 结果的文件

/debug/pprof/block:block Profiling 的路径

/debug/pprof/goroutines:运行的 goroutines 列表,以及调用关系

4.2 go tool分析性能快照

不管是工具型应用还是服务型应用,我们使用相应的 pprof 库获取数据之后,下一步的都要对这些数据进行分析,我们可以使用go tool pprof命令行工具。 go tool pprof最简单的使用方式为:

gotoolpprof[binary][source]

其中:

binary 是应用的二进制文件,用来解析各种符号;例如:go tool pprof -http=:9999 /Users/xxxx/pprof/pprof.samples.cpu.001.pb.gz

source 表示 profile 数据的来源,可以是本地的文件,也可以是 http 地址。此方式会在命令窗口中按照交互模式例如:go tool pprof http://127.0.0.1:8000/debug/pprof/profile

注意事项: 获取的 Profiling 数据是动态的,要想获得有效的数据,请保证应用处于较大的负载(比如正在生成中运行的服务,或者通过其他压测工具模拟访问压力)。否则如果应用处于空闲状态,得到的结果可能没有任何意义。

可以增加些参数来获取更多信息,例如:

#我们想获取70s的内存快照,可以增加-seconds参数:gotoolpprof-seconds70http://127.0.0.1:8912/debug/pprof/profile#指定http接口,可以在ui上看到内存快照,参见本文4.2.2gotoolpprof-http=0.0.0.0:8234http://127.0.0.1:8912/debug/pprof/profile

4.2.1 直连服务分析

go tool + 线上服务http接口地址的方式:

gotoolpprofhttp://127.0.0.1:8000/debug/pprof/profile

执行上面的代码会进入交互界面如下:

runtime_pprof$gotoolpprofcpu.pprofType:cpuTime:Jun28,2019at11:28am(CST)Duration:20.13s,Totalsamples=1.91mins(568.60%)Enteringinteractivemode(type"help"forcommands,"o"foroptions)(pprof)

我们可以在交互界面输入top3来查看程序中占用 CPU 前 3 位的函数:

(pprof)top3Showingnodesaccountingfor100.37s,87.68%of114.47stotalDropped17nodes(cum<=0.57s)Showingtop3nodesoutof4flatflat%sum%cumcum%42.52s37.15%37.15%91.73s80.13%runtime.selectnbrecv35.21s30.76%67.90%39.49s34.50%runtime.chanrecv22.64s19.78%87.68%114.37s99.91%main.logicCode

其中:

flat:当前函数占用 CPU 的耗时

flat:: 当前函数占用 CPU 的耗时百分比

sun%:函数占用 CPU 的耗时累计百分比

cum:当前函数加上调用当前函数的函数占用 CPU 的总耗时

cum%:当前函数加上调用当前函数的函数占用 CPU 的总耗时百分比

最后一列:函数名称

在大多数的情况下,我们可以通过分析这五列得出一个应用程序的运行情况,并对程序进行优化。 我们还可以使用list 函数名命令查看具体的函数分析,例如执行list logicCode查看我们编写的函数的详细分析。

(pprof)listlogicCodeTotal:1.91minsROUTINE================main.logicCodein.../runtime_pprof/main.go22.64s1.91mins(flat,cum)99.91%ofTotal..12:funclogicCode(){..13:varcchanint..14:for{..15:select{..16:casev:=<-c:22.64s1.91mins17:fmt.Printf("recvfromchan,value:%v\n",v)..18:default:..19:..20:}..21:}..22:}

通过分析发现大部分 CPU 资源被 17 行占用,我们分析出 select 语句中的 default 没有内容会导致上面的case v:=<-c:一直执行。我们在 default 分支添加一行time.Sleep(time.Second)即可。

4.2.2 快照文件+图形化工具

这种快照文件的方式好处是更加直观,可以通过图形化界面来分析: 想要查看图形化的界面首先需要安装 graphviz 图形化工具。Mac:brew install graphviz 接下来,可以用 go tool pprof 分析这份数据

gotoolpprof-http=:9999cpu.pprof

访问 localhost:9999,可以看到这样的页面:

当然我们还可以选择VIEW,然后看火焰图:

至此,我们就成功的获取了每个函数占用的CPU时间了,下面就可以对占用较长的函数(平顶山部分)进行优化了。

5、常见性能优化手段

5.1 使用高效的性能包

5.1.1 Json解析

我们将Json数据存放到Redis时,取出时需要将其解析为Struct,但go官方自带的库性能较差,所以常常出现瓶颈,可选择github.com/json-iterator 替换标准库的 encoding/json(该库主要的优化手段详见:http://jsoniter.com/benchmark.html#optimization-used)。 json-iterator 宣传的性能如下图:

5.1.2 深拷贝

还有时我们需要在项目中使用到深拷贝的场景,可以参考这篇文章,深拷贝性能对比:https://www.yuque.com/jinsesihuanian/gpwou5/xg20gn。

5.2 空间换时间

对于常见的Json解析问题,Redis大key问题,我们可以进行多级缓存,将Redis中的大key数据缓存到内存中,这里别忘了考虑带来的缓存一致性问题。

对于一些map,slice,尽量在初始化时指定大小,减少内存的重新分配

5.3 字符串拼接

字符串的拼接优先考虑bytes.Buffer。由于string类型是一个不可变类型,但拼接会创建新的string。GO中字符串拼接常见有如下几种方式,对性能要求很高的服务尽量使用bytes.Buffer进行字符串拼接

string + 操作 :导致多次对象的分配与值拷贝

fmt.Sprintf :会动态解析参数,效率好不哪去

strings.Join :内部是[]byte的append

bytes.Buffer :可以预先分配大小,减少对象分配与拷贝

使用strconv包替代fmt.Sprintf的格式化方式,性能比对见:https://www.cnblogs.com/yumuxu/p/4077234.html

5.4 异步处理

既然选用了Golang,自然要用到它简单易用的并发机制啦,我们可以把一些不影响主流程的操作完全可以异步化,例如发送邮件、写日志等。可以把一些业务场景并行处理,例如你要一次性读取多个文件。

6、总结

代码层面的优化,是 us 级别的,而针对业务对存储进行优化,可以做到 ms 级别的,所以优化越靠近应用层效果越好。对于代码层面,优化的步骤是:

利用压测工具模拟场景所需的真实流量。压测工具推荐使用 https://github.com/wg/wrk 或 https://github.com/adjust/go-wrk

pprof 等工具查看服务的 CPU、MEM 耗时

锁定平顶山逻辑,看优化可能性:异步处理,空间换时间,使用高性能包 等

局部优化完写 benchmark 工具查看优化效果

整体优化完回到步骤一,重新进行 压测+pprof 看效果,看耗时能否满足要求,如果无法满足需求,那就换存储吧~?

后续我会给大家出一篇关于Golang服务的代码开发建议,我们下期见,Peace?

我是简凡,一个励志用最简单的语言,描述最复杂问题的新时代农民工。求点赞,求关注,如果你对此篇文章有什么疑惑,欢迎在我的微信公众号中留言,我还可以为你提供以下帮助:

帮助建立自己的知识体系

互联网真实高并发场景实战讲解

不定期分享Golang、Java相关业内的经典场景实践 我的博客:https://besthpt.github.io/

微信公众号:"简凡丶"


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:/Golang/4595.html