困難で複雑な病気に遭遇すると、モニタリング プラグインでは対処できない場合があります。一目ですぐに使用できるようになります。 問題の根本を発見します。現時点では、問題の根本原因をさらに分析するためにサーバーにログインする必要があります。次に、問題を分析するには、ある程度の技術的経験の蓄積が必要であり、問題によっては、問題を特定するために非常に広範囲の領域が関与する必要があります。したがって、問題を分析し、落とし穴に足を踏み入れることは、成長と自己改善のための素晴らしい練習になります。優れた分析ツールのセットがあれば、半分の労力で 2 倍の結果が得られ、全員が問題を迅速に特定できるようになり、全員がより詳細な作業を行う時間を大幅に節約できます。
この記事この記事では主に、さまざまな問題位置付けツールを紹介し、事例に基づいて問題を分析します。
アプリケーションについては、通常、カーネル CPU スケジューラの機能とパフォーマンスに焦点を当てます。
スレッド状態分析は主にスレッド時間がどこで使用されているかを分析し、スレッド状態の分類は一般に次のように分類されます。
CPU 上:実行中の時間は、通常、ユーザー モードの時間 user とシステム モードの時間 sys に分割されます。
off-CPU: CPU の次のラウンドを待機するか、I/O、ロック、ページ変更などを待機します。そのステータスは次のように細分化できます。実行可能ファイル、匿名ページング、スリープ、ロック、アイドル、その他の状態。
//查看系统cpu使用情况top //查看所有cpu核信息mpstat -P ALL 1 //查看cpu使用情况以及平均负载vmstat 1 //进程cpu的统计信息pidstat -u 1 -p pid //跟踪进程内部函数级cpu使用情况 perf top -p pid -e cpu-clock
牛逼啊!接私活必备的 N 个开源项目!赶快收藏
说明:
free,vmstat,top,pidstat,pmap只能统计内存信息以及进程的内存使用情况。
valgrind 可以分析内存泄漏问题。
dtrace 动态跟踪。需要对内核函数有很深入的了解,通过D语言编写脚本完成跟踪。
//查看系统内存使用情况free -m//虚拟内存统计信息vmstat 1//查看系统内存情况top//1s采集周期,获取内存的统计信息pidstat -p pid -r 1//查看进程的内存映像信息pmap -d pid//检测程序内存问题valgrind --tool=memcheck --leak-check=full --log-file=./log.txt ./程序名
在理解磁盘IO之前,同样我们需要理解一些概念,例如:
//查看系统io信息iotop//统计io详细信息iostat -d -x -k 1 10//查看进程级io的信息pidstat -d 1 -p pid//查看系统IO的请求,比如可以在发现系统IO异常时,可以使用该命令进行调查,就能指定到底是什么原因导致的IO异常perf record -e block:block_rq_issue -ag^Cperf report
//显示网络统计信息netstat -s//显示当前UDP连接状况netstat -nu//显示UDP端口号的使用情况netstat -apu//统计机器中网络连接各个状态个数netstat -a | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'//显示TCP连接ss -t -a//显示sockets摘要信息ss -s//显示所有udp socketsss -u -a//tcp,etcp状态sar -n TCP,ETCP 1//查看网络IOsar -n DEV 1//抓包以包为单位进行输出tcpdump -i eth1 host 192.168.1.1 and port 80 //抓包以流为单位显示数据内容tcpflow -cp host 192.168.1.1
//查看负载情况uptimetopvmstat//统计系统调用耗时情况strace -c -p pid//跟踪指定的系统操作例如epoll_waitstrace -T -e epoll_wait -p pid//查看内核日志信息dmesg
常见的火焰图类型有 On-CPU、Off-CPU、Memory、Hot/Cold、Differential等等。
//安装systemtap,默认系统已安装yum install systemtap systemtap-runtime//内核调试库必须跟内核版本对应,例如:uname -r 2.6.18-308.el5kernel-debuginfo-2.6.18-308.el5.x86_64.rpmkernel-devel-2.6.18-308.el5.x86_64.rpmkernel-debuginfo-common-2.6.18-308.el5.x86_64.rpm//安装内核调试库debuginfo-install --enablerepo=debuginfo search kerneldebuginfo-install --enablerepo=debuginfo search glibc
git clone https://github.com/lidaohang/quick_location.gitcd quick_location
cpu占用过高,或者使用率提不上来,你能快速定位到代码的哪块有问题吗?
一般的做法可能就是通过日志等方式去确定问题。现在我们有了火焰图,能够非常清晰的发现哪个函数占用cpu过高,或者过低导致的问题。另外,搜索公众号Linux就该这样学后台回复“猴子”,获取一份惊喜礼包。
//on-CPU usersh ngx_on_cpu_u.sh pid//进入结果目录 cd ngx_on_cpu_u//on-CPU kernelsh ngx_on_cpu_k.sh pid//进入结果目录 cd ngx_on_cpu_k//开一个临时端口 8088 python -m SimpleHTTPServer 8088//打开浏览器输入地址127.0.0.1:8088/pid.svg
DEMO:
#include <stdio.h>#include <stdlib.h> void foo3(){ } void foo2(){ int i; for(i=0 ; i < 10; i++) foo3();} void foo1(){ int i; for(i = 0; i< 1000; i++) foo3();} int main(void){ int i; for( i =0; i< 1000000000; i++) { foo1(); foo2(); }}
DEMO火焰图:
cpu过低,利用率不高。等待下一轮CPU,或者等待I/O、锁、换页等等,其状态可以细分为可执行、匿名换页、睡眠、锁、空闲等状态。
使用方式:
// off-CPU usersh ngx_off_cpu_u.sh pid//进入结果目录cd ngx_off_cpu_u//off-CPU kernelsh ngx_off_cpu_k.sh pid//进入结果目录cd ngx_off_cpu_k//开一个临时端口8088python -m SimpleHTTPServer 8088//打开浏览器输入地址127.0.0.1:8088/pid.svg
官网DEMO:
如果线上程序出现了内存泄漏,并且只在特定的场景才会出现。这个时候我们怎么办呢?有什么好的方式和工具能快速的发现代码的问题呢?同样内存级别火焰图帮你快速分析问题的根源。
使用方式:
sh ngx_on_memory.sh pid//进入结果目录cd ngx_on_memory//开一个临时端口8088python -m SimpleHTTPServer 8088//打开浏览器输入地址127.0.0.1:8088/pid.svg
官网DEMO:
你能快速定位CPU性能回退的问题么?如果你的工作环境非常复杂且变化快速,那么使用现有的工具是来定位这类问题是很具有挑战性的。当你花掉数周时间把根因找到时,代码已经又变更了好几轮,新的性能问题又冒了出来。主要可以用到每次构建中,每次上线做对比看,如果损失严重可以立马解决修复。
通过抓取了两张普通的火焰图,然后进行对比,并对差异部分进行标色:红色表示上升,蓝色表示下降。差分火焰图是以当前(“修改后”)的profile文件作为基准,形状和大小都保持不变。因此你通过色彩的差异就能够很直观的找到差异部分,且可以看出为什么会有这样的差异。
使用方式:
cd quick_location//抓取代码修改前的profile 1文件perf record -F 99 -p pid -g -- sleep 30perf script > out.stacks1//抓取代码修改后的profile 2文件perf record -F 99 -p pid -g -- sleep 30perf script > out.stacks2//生成差分火焰图:./FlameGraph/stackcollapse-perf.pl ../out.stacks1 > out.folded1./FlameGraph/stackcollapse-perf.pl ../out.stacks2 > out.folded2./FlameGraph/difffolded.pl out.folded1 out.folded2 | ./FlameGraph/flamegraph.pl > diff2.svg
DEMO:
//test.c#include <stdio.h>#include <stdlib.h> void foo3(){ } void foo2(){ int i; for(i=0 ; i < 10; i++) foo3();} void foo1(){ int i; for(i = 0; i< 1000; i++) foo3();} int main(void){ int i; for( i =0; i< 1000000000; i++) { foo1(); foo2(); }} //test1.c#include <stdio.h>#include <stdlib.h> void foo3(){ } void foo2(){ int i; for(i=0 ; i < 10; i++) foo3();} void foo1(){ int i; for(i = 0; i< 1000; i++) foo3();} void add(){ int i; for(i = 0; i< 10000; i++) foo3();} int main(void){ int i; for( i =0; i< 1000000000; i++) { foo1(); foo2(); add(); }}
DEMO红蓝差分火焰图:
a) nginx リクエスト トラフィックの分析:
結論:
上の図から、トラフィックは急激に増加したのではなく、減少していることがわかります。これは急激な増加とは何の関係もありません。リクエストトラフィック中。
###b) #nginx 応答時間の分析
結論:
上の図から、nginx の応答時間の増加は nginx 自体、またはバックエンドのアップストリームの応答時間に関連している可能性があることがわかります。
#c) ##nginx アップストリーム応答時間の分析
##結論:
上記の図から、nginx のアップストリーム応答時間が増加していることがわかります。現在、バックエンドのアップストリーム応答時間が nginx を抑制し、nginx に異常なリクエストが発生している可能性があると推測されています。渋滞。
a) **トップからシステム インジケーターを観察します
トップ
#結論:
#nginx ワーカーの CPU が比較的高いことがわかりますb)
##nginx プロセスの内部 CPU 状況を分析する
perf top -p pid<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;">结论:</span></p>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;">发现主要开销在free,malloc,json解析上面</span></p>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;">10.4 火焰图分析cpu<br style="outline: 0px;">a) <em style="outline: 0px;">**</em>生成用户态cpu火焰图</span></p>
<section class="code-snippet__fix code-snippet__js"><pre class="brush:php;toolbar:false;">//on-CPU usersh ngx_on_cpu_u.sh pid//进入结果目录cd ngx_on_cpu_u//开一个临时端口8088python -m SimpleHTTPServer 8088//打开浏览器输入地址127.0.0.1:8088/pid.svg</pre></section><p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);text-align: center;margin-bottom: 1.2em !important;'><img src="https://img.php.cn/upload/article/001/275/013/773360b92e15f55feee12c3ea49ff2be-14.jpg" alt="Linuxの運用とメンテナンスのトラブルシューティングのアイデア、この記事で十分です~" ></p>
<p style='margin-bottom: 0px;outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);'><span style="outline: 0px;color: rgb(68, 68, 68);font-size: 15px;"><strong style="outline: 0px;">结论:</strong></span></p>
<p style='margin-bottom: 0px;outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);'><span style="outline: 0px;font-size: 15px;color: rgb(68, 68, 68);">发现代码里面有频繁的解析json操作,并且发现这个json库性能不高,占用cpu挺高。</span></p>
<h3 style='margin-top: 1.3em;margin-bottom: 1em;outline: 0px;font-weight: bold;font-size: 1.3em;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);'><span style="outline: 0px;color: rgb(68, 68, 68);">10.5 案例总结</span></h3>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;color: rgb(68, 68, 68);"><strong style="outline: 0px;">a) </strong>分析请求流量异常,得出nginx upstream后端机器响应时间拉长</span></p>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;color: rgb(68, 68, 68);"><strong style="outline: 0px;">b) </strong>nginx プロセスの高 CPU を分析した結果、nginx の内部モジュール コードには時間のかかる json 解析、メモリ割り当て、リサイクル操作が含まれていると結論づけられました</span></p> <h4 style='margin-top: 1.3em;margin-bottom: 1em;outline: 0px;font-weight: bold;font-size: 1.2em;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);'><span style="outline: 0px;color: rgb(68, 68, 68);">10.5 .1 詳細な分析</span></h4>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;color: rgb(68, 68, 68);">上記 2 点の分析の結論に基づいて、さらに詳細な分析を行っていきます。 </span></p>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;color: rgb(68, 68, 68);">バックエンドのアップストリーム応答が長くなり、最大で nginx の処理能力に影響を与える可能性があります。ただし、CPU オペレーションを過剰に消費する nginx 内部モジュールに影響を与える可能性は低いです。そして、当時多くの CPU を占有していたモジュールは、要求された場合にのみ実行されました。アップストリーム バックエンドが nginx を抑制し、それによってこの時間のかかる CPU 操作がトリガーされる可能性は低いです。 </span></p>
<h3 style='margin-top: 1.3em;margin-bottom: 1em;outline: 0px;font-weight: bold;font-size: 1.3em;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);'><span style="outline: 0px;color: rgb(68, 68, 68);">10.5.2 解決策</span></h3>
<p style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);margin-bottom: 1.2em !important;'><span style="outline: 0px;font-size: 15px;color: rgb(68, 68, 68);">この種の問題が発生した場合、既知の明確な問題を解決することを優先します。それがCPUの性能が高い場合の問題です。解決策は、CPU を過剰に消費するモジュールをダウングレードして閉じてから観察することです。モジュールをダウングレードしてシャットダウンした後、CPU が低下し、nginx リクエストのトラフィックが正常になりました。上り時間が長くなる理由は、上りバックエンドサービスから呼び出されるインターフェースがループとなり、再度nginxに戻る可能性があるためです。 </span></p>
<h2 style='margin-top: 1.3em;margin-bottom: 1em;outline: 0px;font-weight: bold;font-size: 1.4em;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);border-bottom: 1px solid rgb(238, 238, 238);'>11.参考資料</h2>
<ul class="list-paddingleft-1" style='outline: 0px;caret-color: rgb(34, 34, 34);color: rgb(34, 34, 34);letter-spacing: 0.544px;white-space: normal;text-size-adjust: auto;width: 577.417px;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;background-color: rgb(255, 255, 255);'>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"><span style="outline: 0px;">http://www.brendangregg.com/index.html</span></p></li>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"> <span style="outline: 0px;">http://www.brendangregg.com/FlameGraphs/cpuflamegraphs.html</span></p></li>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"><span style="outline: 0px;">http://www.brendangregg.com/FlameGraphs/memoryflamegraphs。 html</span></p></li>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"><span style="outline: 0px;">http://www.brendangregg.com/FlameGraphs/offcpuflamegraphs.html</span></p></li>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"><span style="outline: 0px;"> ##http://www.brendangregg.com/blog/2014-11-09/fferential-flame-graphs.html</span></p></li>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"><span style="outline: 0px;">https://github .com/openresty/openresty-systemtap-toolkit</span></p></li>
<li style="outline: 0px;font-size: 15px;"><p style="outline: 0px;"><span style="outline: 0px;">https://github.com/brendangregg/FlameGraph</span></p></li>
<li style="outline: 0px;font-size: 15px;"><section style="margin-bottom: 10px;outline: 0px;"><span style="outline: 0px;">https://www.slideshare.net/brendangregg/blazing-performance-with-flame-graphs</span></section></li>
</ul>
<p style="display: none;"><mp-style-type data-value="10000"></mp-style-type> </p>##
以上がLinuxの運用とメンテナンスのトラブルシューティングのアイデア、この記事で十分です~の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。