推荐的监控和维护任务
这一节推荐用来确保Greenplum数据库集群高可用性及性能稳定的监控和维护活动。
下面小节中的表格对Greenplum系统管理员可以定期执行来确保系统所有组件操作最优的活动给出了建议。监控活动帮助用户尽早检测和诊断问题。维护活动帮助用户保持系统最新并且避免性能退化(例如由于膨胀的系统表或者逐渐缩小的空闲磁盘空间导致的性能退化)。
并非需要在每个集群中都实现所有这些建议,请使用推荐的频繁和重要性作为指导来根据实际服务需求实现监控和维护。
上级主题: 管理一个Greenplum系统
数据库状态监控活动
表 1. 数据库状态监控活动
活动 | 过程 | 纠正措施 |
---|---|---|
列出当前状态为down的Segment。如果有任何行被返回,就会生成一个警告或者告警。推荐频率:每5到10分钟 重要度: IMPORTANT | 在postgres 数据库中运行下例查询: SELECT * FROM gp_segment_configuration WHERE status <> 'u'; |
如果该查询返回任何行,按照这些步骤来纠正问题:1. 验证宕机的Segment所在的主机是有响应的。 2. 如果主机没有问题,检查宕机的Segment的主Segment和镜像Segment的pg_log文件,以便发现Segment宕机的根因。 3. 如果没有找到意料之外的错误,运行gprecoverseg 工具将那些Segment重新上线。 |
检查当前处于改变跟踪模式的Segment。如果任何行被返回,应该生成一个警告或者告警。推荐频率:每5到10分钟 重要度: IMPORTANT | 在postgres 数据库中执行下列查询: SELECT * FROM gp_segment_configuration WHERE mode = 'c'; |
如果该查询返回任何行,按这些步骤来纠正问题:1. 验证宕机的Segment所在的主机是有响应的。 2. 如果主机没有问题,检查宕机的Segment的主Segment和镜像Segment的pg_log文件,以便发现Segment宕机的根因。 3. 如果没有找到意料之外的错误,运行gprecoverseg 工具将那些Segment重新上线。 |
检查当前在重新同步的Segment。如果有行被返回,应该生成一个警告或者告警。推荐频率:每5到10分钟 重要度: IMPORTANT | 在postgres 数据库中执行下列查询: SELECT * FROM gp_segment_configuration WHERE mode = 'r'; |
当这个查询返回行时,它表示那些Segment正在被重新同步。如果状态没有从'r'变成's',那么在受影响的Segment的主Segment和镜像Segment的pg_log文件中检查错误。 |
检查没有以其最优角色运转的Segment。如果找到任何Segment,该集群可能不平衡。如果任何行被返回,应该生成一个警告或者告警。推荐频率:每5到10分钟 重要度: IMPORTANT | 在postgres 数据库中执行下列查询: SELECT * FROM gp_segment_configuration WHERE preferred_role <> role; |
当Segment没有运行在其首选角色中时,每台主机上可能不是都有均匀数据量的主Segment,这表示处理是倾斜的。等待一个可能的窗口并且重启数据库将Segment带回到它们的首选角色。 |
运行一个分布式查询来测试它运行在所有Segment上。对每个主Segment都应返回一行。 推荐频率:每5到10分钟 重要度: CRITICAL | 在postgres 数据库中执行下列查询: SELECT gp_segment_id, count(*) FROM gp_dist_random('pg_class') GROUP BY 1; |
如果这个查询失败,就说明该集群中存在分派到某些Segment的问题。这是一种少见的事件。检查无法被分派的主机确保没有硬件或者网络问题。 |
在一个Greenplum数据库 4.2或者更早的集群上测试Master镜像的状态。如果值是"Not Synchronized",则抛出一个告警或者警告。推荐频率:每5到10分钟 重要度: IMPORTANT | 在postgres 数据库中执行下列查询: SELECT summary_state FROM gp_master_mirroring; |
在来自Master和后备Master的pg_log中检查错误。如果没有意料之外的错误并且机器是启动的,运行gpinitstandby 工具将后备Master带回到线上。在GPDB 4.2及更早的版本上,这要求一次数据库重启。 |
在Greenplum数据库上测试Master镜像的状态。如果该值不是"STREAMING",则抛出一个告警或者警告。推荐频率:每5到10分钟 重要度: IMPORTANT | 运行下列psql 命令: psql dbname -c 'SELECT procpid, state FROM pg_stat_replication;' |
从来自Master和后备Master的pg_log文件中检查错误。如果没有意料之外的错误并且机器是启动的,运行gpinitstandby 工具将后备Master带回到线上。 |
执行一次基本检查看看Master是否启动且工作。推荐频率:每5到10分钟 重要度: CRITICAL | 在postgres 数据库中运行下列查询: SELECT count(*) FROM gp_segment_configuration; |
如果这个查询失败,则活动Master可能宕机。多尝试几次,然后手工检查活动Master。如果活动Master确实已经宕机,重新引导或者重启活动Master以确保没有进程留在活动Master上,然后触发后备Master的激活。 |
数据库告警日志监控
表 2. 数据库告警日志监控
活动 | 过程 | 纠正措施 |
---|---|---|
从系统中检查FATAL和ERROR日志消息。推荐频率:每15分钟 重要度: WARNING 这项活动和接下来的一项是监控log_alert_history表中消息的两种方法。只需要设置其中一种即可。 | 在gpperfmon 数据库中运行下列查询: SELECT * FROM log_alert_history WHERE logseverity in ('FATAL', 'ERROR') AND logtime > (now() - interval '15 minutes'); |
向DBA发送一个告警让他(她)分析该告警。可能想要对该查询增加额外的过滤条件忽略掉兴趣度不高的特定消息。 |
设置服务器配置参数来发送 SNMP 或者 email告警。推荐频率:N/A。告警由系统生成。 重要度: WARNING 这项活动和上一项是监控log_alert_history表中消息的两种方法。只需要设置其中一种即可。 | 启用服务器配置参数以通过 SNMP 或者 email发送告警: gp_email_smtp_server gp_email_smtp_userid gp_email_smtp_password or gp_snmp_monitor_address gp_snmp_community * gp_snmp_use_inform_or_trap |
DBA基于告警的性质采取行动。 |
硬件和操作系统监控
表 3. 硬件和操作系统监控活动
活动 | 过程 | 纠正措施 |
---|---|---|
底层平台检查需要进行的维护或者硬件问题。推荐频率:实时(如果可能),或者每15分钟 重要度: CRITICAL | 为硬件和OS错误设置SNMP或其他系统检查。 | 如果需要,从Greenplum集群移除一台机器以解决硬件及OS问题,然后把它加回到集群中并且运行gprecoverseg 。 |
检查卷上用于Greenplum数据库数据存储和OS的磁盘空间使用。 推荐频率:每5到30分钟 重要度: CRITICAL | 设置一个磁盘空间检查。 设置一个阈值,当一个磁盘达到一个容量的百分数时抛出一个告警。推荐阈值是75%用满。 不推荐运行容量接近100%的系统。 | 通过移除一些数据或者文件释放系统上的空间。 |
检查网络接口上的错误或者丢包。推荐频率:每小时 重要度: IMPORTANT | 设置一个网络接口检查。 | 与网络和OS团队一起解决问题。 |
检查RAID错误或者RAID性能退化。 推荐频率:每5分钟 重要度: CRITICAL | 设置一个RAID检查。 | 尽快替换失效的磁盘。 与系统管理团队一起尽快解决其他RAID或者控制器错误。 |
运行Greenplum的gpcheck 工具来测试集群的配置中编写有当前的推荐。推荐频率:在创建集群时或者向集群中增加新机器时 重要度: IMPORTANT |
运行gpcheck 。 |
与系统管理团队一起根据gpcheck 工具做出的推荐更新配置。 |
检查足够的I/O带宽和I/O倾斜。推荐频率:创建集群时或者怀疑有硬件问题时。 | 运行Greenplum的gpcheckperf 工具。 |
如果数据传输率与下列不相似,则集群可能存在不足: 2 GB每秒的磁盘读 1 GB每秒的磁盘写 * 10 GB每秒的网络读写 如果传输率低于预期,请向数据架构师咨询性能预期。 如果集群上的机器显示出一种不均匀的性能画像,与系统管理团队一起修复有错误的机器。 |
目录监控
表 4. 目录监控活动
活动 | 过程 | 纠正措施 |
---|---|---|
运行目录一致性检查以确保集群中每台主机上的目录都是一致的并且处于好的状态。推荐频率:每周 重要度: IMPORTANT | 在每个数据库中运行Greenplum的gpcheckcat 工具: gpcheckcat -O |
对任何检测到的问题运行修复脚本。 |
运行一个长期的表目录检查。推荐频率:每月 重要度: CRITICAL | 在一次停机时间,在系统中没有用户时,在每个数据库中运行Greenplum的gpcheckcat 工具: gpcheckcat -R persistent |
对任何检测到的问题运行修复脚本。 |
检查没有相应pg_attribute 项的pg_class 项。推荐频率:每月 重要度: IMPORTANT |
在一次停机时间,在系统中没有用户时,在每个数据库中运行Greenplum的gpcheckcat 工具: gpcheckcat -R pgclass |
对任何被发现的问题运行修复脚本。 |
检查泄露的临时方案和丢失的方案定义。推荐频率:每月 重要度: IMPORTANT | 在一次停机时间,在系统中没有用户时,在每个数据库中运行Greenplum的gpcheckcat 工具: gpcheckcat -R namespace |
对任何被发现的问题运行修复脚本。 |
检查随机分布表上的约束。推荐频率:每月 重要度: IMPORTANT | 在一次停机时间,在系统中没有用户时,在每个数据库中运行Greenplum的gpcheckcat 工具: gpcheckcat -R distribution_policy |
对任何被发现的问题运行修复脚本。 |
检查非存在对象上的依赖。推荐频率:每月 重要度: IMPORTANT | 在一次停机时间,在系统中没有用户时,在每个数据库中运行Greenplum的gpcheckcat 工具: gpcheckcat -R dependency |
对任何被发现的问题运行修复脚本。 |
数据维护
表 5. 数据维护活动
活动 | 过程 | 纠正措施 |
---|---|---|
检查表上缺失的统计信息。 | 在每个数据库中检查gp_stats_missing 视图: SELECT * FROM gp_toolkit.gp_stats_missing; |
在缺少统计信息的表上运行ANALYZE 。 |
检查数据文件中出现膨胀(死亡空间)且无法用常规VACUUM 命令恢复的表。推荐频率:每周或每月 重要度: WARNING |
在每个数据库中检查gp_bloat_diag 视图: SELECT * FROM gp_toolkit.gp_bloat_diag; |
在没有用户访问该表示执行一个VACUUM FULL 语句以移除膨胀并且紧凑数据。 |
数据库维护
表 6. 数据库维护活动
活动 | 过程 | 纠正措施 |
---|---|---|
在堆表中标记所占用空间可被重用的已删除行。推荐频率:每日 重要度: CRITICAL | 清理用户表: VACUUM <table>; |
定期清理被更新的表以防止膨胀。 |
更新表统计信息。推荐频率:在装载数据后且在执行查询前 重要度: CRITICAL | 分析用户表。用户可以使用analyzedb 管理工具: analyzedb -d <database> -a |
定期分析被更新的表,这样优化器能产生有效的查询执行计划。 |
备份数据库数据。推荐频率:每日,或者根据备份计划的要求 重要度: CRITICAL | 运行gpcrondump 工具并行地创建Master和Segment数据库的备份。 |
最佳做法是在数据库必须被恢复时已经有一个当前的备份准备好。 |
清理、重新索引以及分析系统目录以维护一个高效的目录。推荐频率:每周,或者当数据库对象被频繁创建和删除时使用更高的频率 | 1. VACUUM 每个数据库中的系统表。 2. 在每个数据库中运行REINDEX SYSTEM ,或者使用带有-s 选项的reindexdb 命令行工具: reindexdb -s <database> 3. ANALYZE 每个系统表: analyzedb -s pg_catalog -d <database> |
优化器从系统表检索信息来创建查询计划。如果系统表和索引被允许随时间膨胀,系统表上的扫描会增加查询执行时间。在重新索引后运行ANALYZE 很重要,因为REINDEX 会让索引上没有统计信息。 |
补丁和升级
表 7. 补丁和升级活动
活动 | 过程 | 纠正措施 |
---|---|---|
确保任何缺陷修复或增强已经被应用在内核上。推荐频率:至少每6个月一次 重要度: IMPORTANT | 遵照提供商的指导更新Linux内核。 | 保持内核为最新以包括缺陷修复和安全性修复,并且避免进行困难的未来升级。 |
安装Greenplum数据库的小版本发布,例如5.0.x。推荐频率:每季度 重要度: IMPORTANT | 遵照Greenplum数据库的Release Notes中的升级指导。总是升级到同一系列中的最新版本。 | 保持Greenplum数据库软件为最新版本以吸收缺陷修复、性能增强和特性增强。 |