基于Promethues与Grafana的Greenplum分布式数据库监控的实现

网友投稿 925 2023-04-07

基于Promethues与Grafana的Greenplum分布式数据库监控的实现

基于Promethues与Grafana的Greenplum分布式数据库监控的实现

一、前言

Greenplum是面向数据仓库应用的分布式关系型MPP数据库，基于***开发，跟***的兼容性非常好，大部分***客户端工具及***应用都能运行在Greenplum平台上。GPCC是Greenplum数据库官方商业版的数据库监控软件，对于只能用得起开源的用户来说，只能考虑其他的监控方案了。本文里介绍一种基于Promethues与Grafana的Greenplum分布式数据库监控的实现方案。

二、Promethues与Grafana简介

2.1、Prometheus简介

Prometheus是由SoundCloud开发的开源监控报警系统和时序列数据库(TSDB)，使用Go语言开发。Prometheus目前在开源社区相当活跃。Prometheus性能也足够支撑上万台规模的集群。其架构图如下：

Prometheus Server， 负责从 Exporter 拉取和存储监控数据，并提供一套灵活的查询语言（PromQL）供用户使用。Exporter， 负责收集目标对象（host, container…）的性能数据，并通过 HTTP 接口供 Prometheus Server 获取。可视化组件，监控数据的可视化展现对于监控方案至关重要。以前 Prometheus 自己开发了一套工具，不过后来废弃了，因为开源社区出现了更为优秀的产品 Grafana。Grafana 能够与 Prometheus 无缝集成，提供完美的数据展示能力。Alertmanager，用户可以定义基于监控数据的告警规则，规则会触发告警。一旦 Alermanager 收到告警，会通过预定义的方式发出告警通知。支持的方式包括 Email、PagerDuty、Webhook 等.

2.2、Grafana简介

Grafana是一个跨平台的开源的度量分析和可视化工具，可以通过将采集的数据查询然后可视化的展示，并及时通知。它主要有以下六大特点：

1、展示方式：快速灵活的客户端图表，面板插件有许多不同方式的可视化指标和日志，官方库中具有丰富的仪表盘插件，比如热图、折线图、图表等多种展示方式；2、数据源：Graphite，InfluxDB，OpenTSDB，Prometheus，Elasticsearch，CloudWatch和KairosDB等；3、通知提醒：以可视方式定义最重要指标的警报规则，Grafana将不断计算并发送通知，在数据达到阈值时通过Slack、PagerDuty等获得通知；4、混合展示：在同一图表中混合使用不同的数据源，可以基于每个查询指定数据源，甚至自定义数据源；5、注释：使用来自不同数据源的丰富事件注释图表，将鼠标悬停在事件上会显示完整的事件元数据和标记；6、过滤器：Ad-hoc过滤器允许动态创建新的键/值过滤器，这些过滤器会自动应用于使用该数据源的所有查询

三、Greenplum监控的实现

Greenplum的监控可类似于***来实现，但又存在差异，不同点在于：

要实现一个Greenplum的Exporter指标采集器；使用Grafana绘制一个可视化状态图；基于Prometheus配置报警规则（本文此部分略）；

3.1、Greenplum的Exporter指标采集器

这里类比***数据库的Exporter实现方法，实现了一个Greenplum的Exporter，项目地址为：

在greenplum_expoter里主要扩展了实现了客户连接信息、账号连接信息、Segment存储信息、集群节点同步状态、数据库锁监控等相关指标，具体指标如下：

No.指标名称类型标签组指标描述数据源获取方法
1greenplum_cluster_stateGauge

version;

master(master主机名)；

standby(standby主机名)

gp 可达状态 ?：1→ 可用;0→ 不可用

SELECT count(*) from gp_dist_random('gp_id');

select version();

SELECT hostname from p_segment_configuration

where content=-1 and role='p';

2greenplum_cluster_uptimeGauge-启动持续的时间select extract(epoch from now() - pg_postmaster_start_time());
3greenplum_cluster_syncGauge-Master同步Standby状态? 1→ 正常;0→ 异常

SELECT count(*) from pg_stat_replication

where state='streaming'

4greenplum_cluster_max_connectionsGauge-最大连接个数

show max_connections;

show superuser_reserved_connections;

5greenplum_cluster_total_connectionsGauge-当前连接个数

select count(*) total, count(*) filter(where current_query='') idle,

count(*) filter(where current_query<>'') active, count(*) filter(where current_query<>'' and not waiting) running, count(*) filter(where current_query<>'' and waiting) waiting from pg_stat_activity where procpid <> pg_backend_pid();

6greenplum_cluster_idle_connectionsGauge-idle连接数同上
7greenplum_cluster_active_connectionsGauge-active query同上
8greenplum_cluster_running_connectionsGauge-query executing同上
9greenplum_cluster_waiting_connectionsGauge-query waiting execute同上
10greenplum_node_segment_statusGauge

hostname; address; dbid; content;

preferred_role; port; replication_port

segment的状态status: 1(U)→ up; 0(D)→ downselect * from gp_segment_configuration;
11greenplum_node_segment_roleGauge

hostname; address; dbid; content;

preferred_role; port; replication_port

segment的role角色: 1(P)→ primary; 2(M)→ mirror同上
12greenplum_node_segment_modeGauge

hostname; address; dbid; content;

preferred_role; port; replication_port

segment的mode：1(S)→ Synced; 2(R)→ Resyncing; 3(C)→ Change Tracking; 4(N)→ Not Syncing同上
13greenplum_node_segment_disk_free_mb_sizeGaugehostnamesegment主机磁盘空间剩余大小（MB)SELECT dfhostname as segment_hostname,sum(dfspace)/count(dfspace)/(1024*1024) as segment_disk_free_gb from gp_toolkit.gp_disk_free GROUP BY dfhostname
14greenplum_cluster_total_connections_per_clientGaugeclient每个客户端的total连接数select usename, count() total, count() filter(where current_query='') idle, count(*) filter(where current_query<>'') active from pg_stat_activity group by 1;
15greenplum_cluster_idle_connections_per_clientGaugeclient每个客户端的idle连接数同上
16greenplum_cluster_active_connections_per_clientGaugeclient每个客户端的active连接数同上
17greenplum_cluster_total_online_user_countGauge-在线账号数同上
18greenplum_cluster_total_client_countGauge-当前所有连接的客户端个数同上
19greenplum_cluster_total_connections_per_userGaugeusename每个账号的total连接数select client_addr, count() total, count() filter(where current_query='') idle, count(*) filter(where current_query<>'') active from pg_stat_activity group by 1;
20greenplum_cluster_idle_connections_per_userGaugeusename每个账号的idle连接数同上
21greenplum_cluster_active_connections_per_userGaugeusename每个账号的active连接数同上
22greenplum_cluster_config_last_load_time_secondsGauge-系统配置加载时间SELECT pg_conf_load_time()
23greenplum_node_database_name_mb_sizeGaugedbname每个数据库占用的存储空间大小SELECT dfhostname as segment_hostname,sum(dfspace)/count(dfspace)/(1024*1024) as segment_disk_free_gb from gp_toolkit.gp_disk_free GROUP BY dfhostname
24greenplum_node_database_table_total_countGaugedbname每个数据库内表的总数量SELECT count(*) as total from information_schema.tables where table_schema not in ('gp_toolkit','information_schema','pg_catalog');
25greenplum_exporter_total_scrapedCounter---
26greenplum_exporter_total_errorCounter---
27greenplum_exporter_scrape_duration_secondGauge---
28greenplum_server_users_name_listGauge-用户总数SELECT usename from pg_catalog.pg_user;
29greenplum_server_users_total_countGauge-用户明细同上
30greenplum_server_locks_table_detailGauge

pid;datname;usename;

locktype;mode;

application_name;state;

lock_satus;query

锁信息SELECT * from pg_locks
31greenplum_server_database_hit_cache_percent_rateGauge-缓存命中率select sum(blks_hit)/(sum(blks_read)+sum(blks_hit))*100 from pg_stat_database;
32greenplum_server_database_transition_commit_percent_rateGauge-事务提交

3.2、使用Grafana绘制一个可视化状态图

根据以上监测指标，即可使用Grafana配置图像了，具体内容请见：

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。

标签：分布式数据库 数据库 数据库监控 数据仓库
上一篇:MySql 查询数据库中所有表名以及对比分布式库中字段和表的不同
下一篇:全球部署的分布式数据库 YugabyteDB，了解一下？
相关文章