优秀的编程知识分享平台

网站首页 > 技术文章 正文

业务系统的Prometheus实践(业务系统数据)

nanyue 2024-09-05 18:06:31 技术文章 4 ℃

什么是 Prometheus

Prometheus(普罗米修斯)是古希腊的一个神明,名字的意思是「先见之明」。从它的名字可以看出,Prometheus 是做「先见之明」的监控告警用途。

官网描述为From metrics to insight,用指标洞察系统。

Prometheus 其实就是一个数据监控解决方案,它能帮你简单快速地搭建起一套可视化的监控系统。

例如研发比较关注机器的 CPU、内存、硬盘,产品和运营比较关注运营层面的指标,例如新增用户数,日活等,都可以通过 Prometheus 和 grafana 简单,直观化展示。

例如下图 JVM 的监控。


业务实践

背景

公司某个业务需要 n 个评审专家对同一批 n 张业务报表批量签字。3 方签字接口只有支持单个报表签字,所以需要 n*n 次,单次签字逻辑复杂,流程较长,所有后台用线程池做了异步化。

签字作为业务的核心节点,不能有故障。所以怎么监控线程池的关键指标,实现动态调整参数,当任务数量过多告警,是一个需要解决的痛点。

我们通过 Prometheus 自定义线程池的指标,grafana 展示,apollo 动态调整线程池的变量,实现弹性扩展。

实践

线程池参数动态更新

通过接入 apollo 配置,当检测到线程池的配置变化时,重新设置:

  1. 核心线程数
  2. 最大线程数
  3. 修改线程空闲时间
@Component
public class ApolloRefreshConfig {
    @Resource
    private RefreshScope refreshScope;
    @Resource
    private ApplicationContext applicationContext;
   @Resource
   private ThreadPoolExecutor executorService;
  
    @ApolloConfigChangeListener
    public void onChange(ConfigChangeEvent changeEvent) {
        applicationContext.publishEvent(new EnvironmentChangeEvent(changeEvent.changedKeys()));
        refreshScope.refreshAll();
        // 刷新变量
        asyncRequestTaskConfigChange(changeEvent.changedKeys());
    }

    private void asyncRequestTaskConfigChange(Set<String> changedKeys) {
        //apollo 变更的是线程池变量
        if (changedKeys.contains(EvaluationProcessAsyncRequestTaskConfig.ASYNC_REQUEST_TASK_CHANGE_FLAG_KEY)) {
            // 核心线程数
            Integer corePoolSizeOld = executorService.getCorePoolSize();
            if (!corePoolSize.equals(corePoolSizeOld)) {
                executorService.setCorePoolSize(corePoolSize);
            }
            // 最大线程数
            Integer maximumPoolSizeOld = executorService.getMaximumPoolSize();
            if (!maximumPoolSize.equals(maximumPoolSizeOld)) {
                executorService.setMaximumPoolSize(maximumPoolSize);
            }
            // 修改线程空闲时间
            Long keepAliveTimeOld = executorService.getKeepAliveTime(TimeUnit.MINUTES);
            if (!keepAliveTime.equals(keepAliveTimeOld)) {
                executorService.setKeepAliveTime(keepAliveTime, TimeUnit.MINUTES);
            }
        }
    }
}

线程池指标上报

在 springboot 版本 2.X 版本以后,使用 Prometheus 进行监控,只需引入 Spring Boot Actuator 相关的 jar,就可以简单集成,然后我们就可以自定义业务指标,上报 Prometheus 了

<dependency>
    <groupId>cn.gov.zcy.boot</groupId>
    <artifactId>spring-boot-starter-actuator</artifactId>
</dependency

Prometheus 中的核心类 io.micrometer.core.instrument.MeterRegistry 中可以定制各种业务指标,也有封装的例如计数类 Counter,这里引用一个 Gauge 只定义的指标

@Component
public class MonitorFactory {

    @Resource
    private MeterRegistry meterRegistry;

    @Resource
    private ThreadPoolExecutor threadPoolExecutor;


    private ThreadPoolSizeMonitor threadPoolSizeMonitor = new ThreadPoolSizeMonitor(threadPoolExecutor);

 
    class ThreadPoolSizeMonitor implements ToDoubleFunction {
        private ThreadPoolExecutor executor;
    //计数
        private AtomicDouble monitor = new AtomicDouble(0);

        public Object getMonitor() {
            return monitor;
        }

        public ThreadPoolSizeMonitor(ThreadPoolExecutor executor) {
            this.executor = executor;
        }

        @Override
        public double applyAsDouble(Object o) {
            monitor.set(executor.getPoolSize());
            return monitor.get();
        }
    }

    //上报指标,初始化时注册指标
    @PostConstruct
    public void monitorThreadPool() {
        // 当前存活线程数
        Gauge.builder("ReportBatchSignPool_poolSizeMonitor", threadPoolSizeMonitor.getMonitor(), threadPoolSizeMonitor).register(meterRegistry);
        // 当前活跃(忙碌)线程数
        // 核心存活线程数
        // 提交的任务数
        // 执行完毕的任务数
        // 任务队列积压监控
    }

    //1 分钟更新一次指标数据
    @Scheduled(cron = "0 0/1 * * * ?")
    public void publishWatcher() {
        threadPoolSizeMonitor.applyAsDouble(null);
    }

}

Prometheus 指标展示

用 Prometheus quering 语句查询出具体数值 最后一列展示向量结果 16,查询语法如下

https://prometheus.io/docs/prometheus/latest/querying/basics/


grafana 可视化展示


告警配置

grafana 配置告警,配置具体的通知信息,触发规则,告警的通知渠道 参考官方文档

https://grafana.com/docs/grafana/latest/alerting/



通知到叮叮告警群

总结

本文介绍了研发人员通过配置 Prometheus 自定义的业务指标,实现监控告警完整链路的大致的流程。大家也可以定制化除了系统指标(例如 CPU、JVM、IO 等)外,梳理出自己系统的核心业务,添加告警,增强系统的稳定性,做到未雨绸缪,防患于未然。

参考文献

Prometheus 官方文档(https://prometheus.io/docs/introduction/overview/)
grafana 告警 文档(https://grafana.com/docs/grafana/latest/alerting/)


作者:后青

来源:微信公众号:政采云技术

出处:https://mp.weixin.qq.com/s/dNWkBR30LZ_HSs_9lj6qFw

最近发表
标签列表