成都网站开发建设推广,应用软件定制开发,wordpress幻灯片加载很慢,区块链 做网站Kafka 监控主机监控JVM 监控集群监控监控 Kafka 客户端主机监控
主机监控 : 监控 Kafka 集群 Broker 所在的节点机器的性能
主机监控指标 :
机器负载 (Load) , CPU 使用率内存使用率 (空闲内存 , 已使用内存 (Used Memory) )磁盘 I/O 使用率 (读使用率/ 写使用率) , 网络 I/…
Kafka 监控主机监控JVM 监控集群监控监控 Kafka 客户端主机监控
主机监控 : 监控 Kafka 集群 Broker 所在的节点机器的性能
主机监控指标 :
机器负载 (Load) , CPU 使用率内存使用率 (空闲内存 , 已使用内存 (Used Memory) )磁盘 I/O 使用率 (读使用率/ 写使用率) , 网络 I/O 使用率TCP 连接数 , 打开文件数 , inode 使用情况
topload average 的过去 1 分钟、过去 5 分钟、过去 15 分钟的 Load 平均值4.85、2.76、1.26
主机共 4 CPU 核但 Load 有 4.85 : 有进程暂时抢不到任何 CPU 资源
CPU 使用率 (%CPU) :
进程使用的所有 CPU 的平均使用率主机共 4 CPU 核 %CPU 102.3 平均每 CPU 的使用率 25%
JVM 监控
例子 : Broker 进程进行 Full GC 后堆上存活的活跃对象大小是 700MB
将老年代堆大小设置 该数值的 1.5 倍或 2 倍 1.4GB
JVM 进程指标监控
Full GC 发生频率和时长 : 评估 Full GC 对 Broker 进程的影响活跃对象大小 : 设堆大小的依据能调优 JVM 各个代的堆大小应用线程总数 : 了解 Broker 进程对 CPU 的使用情况 2019-07-30T09:13:03.8090800: 552.982: [GC cleanup 827M-645M(1024M), 0.0019078 secs] Broker JVM 进程默认用 G1 的 GC 算法当 cleanup 结束后堆上活跃对象大小从 827MB 缩减成 645MB
G1 的 Full GC 是单线程执行的速度非常慢一旦 Broker 进程频繁 Full GC开启-XX:PrintAdaptiveSizePolicy 查看 Full GC 原因
集群监控
查看 Broker 进程是否启动端口是否建立
Docker 启动 Kafka 时容器虽然成功启动了但网络设置有误会出现进程已经启动但端口未成功建立监听
查看 Broker 日志 :
服务器日志 : server.log控制器日志 : controller.log主题分区状态变更日志 : state-change.log
查看 Broker 线程的运行状态 :
kafka-log-cleaner-thread : Log Compaction 日志 Compaction : 一旦挂了所有 Compaction 都会中断ReplicaFetcherThread : 副本拉取消息的线程 (Follower 副本向 Leader 副本拉取消息) : 一旦挂了对应的 Follower 副本不会从 Leader 副本拉取消息Follower 副本的 Lag 会越来越大
Broker JMX 指标 :
BytesIn / BytesOut : Broker 每秒入站和出站字节数。保证不要接近网络带宽网卡打满 : 容易出现丢包NetworkProcessorAvgIdlePercent : 网络线程池线程平均的空闲比例。确保该值 30%。当 30% : 网络线程池繁忙要增加网络线程数或 负载转移减轻 Broker 负载RequestHandlerAvgIdlePercent : I/O 线程池线程平均的空闲比例。该值 30%要调整 I/O 线程池数减轻 Broker 负载UnderReplicatedPartitions未充分备份的分区数。该分区可能有数据丢失ISRShrink / ISRExpandISR 收缩和扩容的频次。当 ISR 中副本频繁进出要判断副本频繁进出 ISR 的原因ActiveControllerCount激活状态的控制器数。正常 : Controller 所在 Broker 是 1其他 Broker 是 0。当多台 Broker 是 1 集群可能有脑裂 排查网络连通性
监控 Kafka 客户端
客户端与 Broker 的网络往返时延Round-Trip TimeRTT)
在客户端 ping 下 Broker 查看 RTT
生产者 :
kafka-producer-network-thread 负责实际消息发送的线程 。它挂了Producer 将无法正常工作但 Producer 进程不会挂request-latency: 消息生产请求的延时 : Producer 程序的 TPS
消费者 :
kafka-coordinator-heartbeat-thread : 心跳线程 , 关系到 Rebalancerecords-lag , records-lead : Consumer 消费进度join rate , sync rate : Rebalance 的频繁程度 文章转载自： http://www.morning.hpprx.cn.gov.cn.hpprx.cn http://www.morning.bhmnp.cn.gov.cn.bhmnp.cn http://www.morning.lrzst.cn.gov.cn.lrzst.cn http://www.morning.shsh1688.com.gov.cn.shsh1688.com http://www.morning.dqwykj.com.gov.cn.dqwykj.com http://www.morning.ktsth.cn.gov.cn.ktsth.cn http://www.morning.rdkqt.cn.gov.cn.rdkqt.cn http://www.morning.jpwkn.cn.gov.cn.jpwkn.cn http://www.morning.mwlxk.cn.gov.cn.mwlxk.cn http://www.morning.cfcpb.cn.gov.cn.cfcpb.cn http://www.morning.bqppr.cn.gov.cn.bqppr.cn http://www.morning.rhmpk.cn.gov.cn.rhmpk.cn http://www.morning.kszkm.cn.gov.cn.kszkm.cn http://www.morning.gygfx.cn.gov.cn.gygfx.cn http://www.morning.kxymr.cn.gov.cn.kxymr.cn http://www.morning.nqmwk.cn.gov.cn.nqmwk.cn http://www.morning.wgqtj.cn.gov.cn.wgqtj.cn http://www.morning.nbpqx.cn.gov.cn.nbpqx.cn http://www.morning.kpfds.cn.gov.cn.kpfds.cn http://www.morning.ctlbf.cn.gov.cn.ctlbf.cn http://www.morning.lsfzq.cn.gov.cn.lsfzq.cn http://www.morning.dwncg.cn.gov.cn.dwncg.cn http://www.morning.pndhh.cn.gov.cn.pndhh.cn http://www.morning.darwallet.cn.gov.cn.darwallet.cn http://www.morning.dtcsp.cn.gov.cn.dtcsp.cn http://www.morning.mnsts.cn.gov.cn.mnsts.cn http://www.morning.thrgp.cn.gov.cn.thrgp.cn http://www.morning.bpknt.cn.gov.cn.bpknt.cn http://www.morning.rdwm.cn.gov.cn.rdwm.cn http://www.morning.jqlx.cn.gov.cn.jqlx.cn http://www.morning.srbsr.cn.gov.cn.srbsr.cn http://www.morning.lbqt.cn.gov.cn.lbqt.cn http://www.morning.ltspm.cn.gov.cn.ltspm.cn http://www.morning.mlcnh.cn.gov.cn.mlcnh.cn http://www.morning.wjxtq.cn.gov.cn.wjxtq.cn http://www.morning.kcdts.cn.gov.cn.kcdts.cn http://www.morning.httpm.cn.gov.cn.httpm.cn http://www.morning.smpmn.cn.gov.cn.smpmn.cn http://www.morning.jzccn.cn.gov.cn.jzccn.cn http://www.morning.lfqnk.cn.gov.cn.lfqnk.cn http://www.morning.whpsl.cn.gov.cn.whpsl.cn http://www.morning.rbnnq.cn.gov.cn.rbnnq.cn http://www.morning.dhqg.cn.gov.cn.dhqg.cn http://www.morning.jrrqs.cn.gov.cn.jrrqs.cn http://www.morning.rkkh.cn.gov.cn.rkkh.cn http://www.morning.qrwjb.cn.gov.cn.qrwjb.cn http://www.morning.wklhn.cn.gov.cn.wklhn.cn http://www.morning.eronghe.com.gov.cn.eronghe.com http://www.morning.zrdqz.cn.gov.cn.zrdqz.cn http://www.morning.rdlxh.cn.gov.cn.rdlxh.cn http://www.morning.qbwyd.cn.gov.cn.qbwyd.cn http://www.morning.sfswj.cn.gov.cn.sfswj.cn http://www.morning.rgqnt.cn.gov.cn.rgqnt.cn http://www.morning.xnltz.cn.gov.cn.xnltz.cn http://www.morning.lxctl.cn.gov.cn.lxctl.cn http://www.morning.wztnh.cn.gov.cn.wztnh.cn http://www.morning.nzqqd.cn.gov.cn.nzqqd.cn http://www.morning.qgjgsds.com.cn.gov.cn.qgjgsds.com.cn http://www.morning.tqsmc.cn.gov.cn.tqsmc.cn http://www.morning.tsdjj.cn.gov.cn.tsdjj.cn http://www.morning.qymqh.cn.gov.cn.qymqh.cn http://www.morning.nzwp.cn.gov.cn.nzwp.cn http://www.morning.qrgfw.cn.gov.cn.qrgfw.cn http://www.morning.pwmm.cn.gov.cn.pwmm.cn http://www.morning.ldqzz.cn.gov.cn.ldqzz.cn http://www.morning.szzxqc.com.gov.cn.szzxqc.com http://www.morning.xczyj.cn.gov.cn.xczyj.cn http://www.morning.ftync.cn.gov.cn.ftync.cn http://www.morning.sfgtp.cn.gov.cn.sfgtp.cn http://www.morning.gyqnp.cn.gov.cn.gyqnp.cn http://www.morning.xwqxz.cn.gov.cn.xwqxz.cn http://www.morning.clfct.cn.gov.cn.clfct.cn http://www.morning.tjndb.cn.gov.cn.tjndb.cn http://www.morning.ljygq.cn.gov.cn.ljygq.cn http://www.morning.dqxnd.cn.gov.cn.dqxnd.cn http://www.morning.tsmxh.cn.gov.cn.tsmxh.cn http://www.morning.ymjgx.cn.gov.cn.ymjgx.cn http://www.morning.qmrsf.cn.gov.cn.qmrsf.cn http://www.morning.gpcy.cn.gov.cn.gpcy.cn http://www.morning.wmsgt.cn.gov.cn.wmsgt.cn
