一文详解GaussDB(DWS) 的并发管控和内存管控

阅读原文时间：2023年07月09日阅读：1

摘要：DWS的负载管理分为两层，第一层为cn的全局并发控制，第二层为资源池级别的并发控制。

本文分享自华为云社区《GaussDB(DWS) 并发管控&内存管控》，作者： fighttingman。

这里将并发管控和内存管控写在一起，是因为内存管控实际是通过限制语句的并发达到内存管控的目的的。内存管控是基于语句的估算内存的前提下进行管控的，通俗的说就是语句有个估算内存，当资源池的剩余内存小于语句的估算内存时，这个语句就会排队等待，等资源池内的语句执行完，资源池有足够的剩余内存的时候，才会让这个语句执行。所以内存管控的实际效果和语句的估算内存有很大关系，估算的大了就会造成大量语句排队，实际没有使用那么多内存，造成内存资源浪费，相反估算的小了，就会有很多语句下发，实际内存使用就会变多，就有语句报内存不足的错误风险。

数据库系统的并发控制，在整个系统中起着很重要的作用，比如很多用户的业务压力过大时，有时会导致连接数量被占满，有时会导致某种计算资源被占满，有时会导致存储空间被占满，这些情况都会导致整个集群进入异常甚至不可用的状态：正在执行的作业互相争抢CPU，会导致大家都不能好好执行；大量作业执行时，占用大量内存，很容易触发到内存瓶颈，造成作业内存不可用问题，导致业务报错等等。在不进行并发控制的情况下，这些情况都很可能会出现，影响到正常业务。

DWS的负载管理分为两层，第一层为cn的全局并发控制，第二层为资源池级别的并发控制。在通过第一层控制的时候，会继续向前走到第二层资源池控制，根据资源池当前的负载资源情况决定作业继续执行或者排队。

基于DWS并发控制逻辑看出，实际作业执行中，可能会在两种队列中排队：

一种是全局队列（global queue）这种队列不区分简单和复杂作业，也不区分是DDL或者是普通语句，这种是每个cn生效。

一种是资源池队列(resource pool queue)，用户下发的一般语句会根据资源消耗估算以及复杂程度在这里进行判断是否排队。

在两层队列的过滤下，DWS会筛选出当前能执行的语句，使其正常运行，运行时也会受到其所属资源池资源的限制（只能使用资源池配置的CPU、内存、IO配额）。

这里介绍几个常用视图以及SQL语句，可以迅速判断目前的业务出现问题的原因，受限根据以下视图可以看到目前的作业是不是在排队，之后要迅速分析为什么在排队，是因为负载管理各个参数配置问题，还是因为正在执行的语句占据了过多的资源导致的排队。

pgxc_stat_activity （活跃视图）

查询当前执行时间最长的语句的排队状态，query_id(数据库中作业的唯一标识)，以及详细的语句信息。

select coorname,usename, current_timestamp-query_start as duration, enqueue,query_id,query from pgxc_stat_activity where state='active' and usename <> 'Ruby' order by duration desc;

根据该语句可以迅速判断出哪些语句执行时间很长，是什么样的语句执行很慢以及该语句的query_id，便于迅速进入下一步排查。

该视图中enqueue字段中如果显示waiting in global queue就代表在全局排队。全局排队是受GUC参数max_active_statements参数控制的，是单cn生效的，也就是每个cn都可以支持这么大的并发量。比如集群中有3个cn实例，GUC参数max_active_statements参数设置为60，也就是说每个cn都支持60个语句并发执行，集群全局支持3 * 60 = 180并发执行作业。当下发作业大于这个cn设置的max_active_statements的时候就会进行全局排队，在pgxc_stat_activity视图中enqueue字段就会显示waiting in global queue。

4.1 静态负载管理

当GUC参数enable_dynamic_workload设置为off的时候就代表是静态负载管理模式。静态负载管理的情况下，pgxc_stat_activity视图中enqueue字段只会有waiting in respool queue。并发控制参数为资源池的max_dop（简单作业）和active_statements（复杂作业）。

1）简单作业和复杂作业的定义

在静态负载管理中，简单作业是估算代价cost值小于GUC参数parctl_min_cost值的作业。反之则判定为复杂作业。该GUC参数默认为10W，

当parctl_min_cost为-1时，或者作业估算代价小于10时，作业都判定为简单作业。

2）简单作业并发限制

ALTER RESOURCE POOL resource_pool_a1 WITH (max_dop=10);

通过设置资源池的max_dop参数设置简单作业并发，关联资源池resource_pool_a1的用户都受到这个参数的控制。当所有关联这个资源池的用户的所有作业数量之和大于这个参数的时候，就会进行资源池排队，活跃视图enqueue字段就会显示waiting in respool queue。

3）复杂作业并发限制

ALTER RESOURCE POOL resource_pool_a2 WITH (active_statements=10);

通过设置资源池的active_statements参数控制复杂作业的并发数，关联资源池resource_pool_a2的用户都受到这个参数的控制。

当MEM_PERCENT参数数值为0时，ACTIVE_STATEMENTS为x（1~INT_MAX），该资源池上的作业并发数不大于x。
当ACTIVE_STATEMENTS参数数值为-1且MEM_PERCENT为正值时，并发由运行作业的内存估值和MEM_PERCENT的取值决定。
当MEM_PERCENT参数数值为正值且ACTIVE_STATEMENTS为x（1~INT_MAX）时，并发由运行作业的内存估值和MEM_PERCENT的取值决定，且并发不能大于x。
当MEM_PERCENT参数数值为0且ACTIVE_STATEMENTS为-1时，资源池并发不受限。

资源池使用并发点数的计数方式来计算可执行的复杂作业并发数量，并发点数计算公式为

作业使用内存点数：active_points = (query_mem/respool_mem) * active_statements * 100

作业使用并发点数：active_points = 100

资源池总点数：total_points = active_statements * 100

单位点数： 100

4）相关说明

资源池分快慢车道，快车道管控简单作业，慢车道管控复杂作业
MAX_DOP对快车道并发进行限制，取值范围为-1 ~ INT_MAX，默认为-1，表示不管控。
ACTIVE_STATEMENTS取值范围为 -1 ~ INT_MAX，默认值为10，建议使用该默认值。当取值设置为0或者-1时，慢车道并发不受ACTIVE_STATEMENTS限制。
MEM_PERCENT取值范围为0~100，当取值设置为0时，慢车道并发不受MEM_PERCENT限制。
慢车道并发受ACTIVE_STATEMENTS和MEM_PERCENT限制，同时点数由ACTIVE_STATEMENTS决定。当ACTIVE_STATEMENTS=-1或0时，total_points=90。total_points点数耗尽后，慢车道查询会触发排队操作，队列满足先进先出。
query_mem为优化器估算的作业内存大小，即PG_SESSION_WLMSTAT视图中的statement_mem；作业无估算内存数值时，不进行并发控制。
respool_mem为资源池的实际内存。

4.2 动态负载管理

当GUC参数enable_dynamic_workload设置为on的时候就代表是动态负载管理模式。动态负载管理的情况下，pgxc_stat_activity视图中enqueue字段会有waiting in respool queue和waiting in global queue。

1）简单作业和复杂作业的定义

动态负载管理下优化器估算内存大于32M认为是复杂作业，反之认为是简单作业。

运行中的作业复杂简单情况可以通过PG_SESSION_WLMSTAT中的attribute字段查看。

2）动态负载管理相关说明

集群有一个CN会作为中心协调节点（CCN），用于收集和调度作业执行，该节点可以通过cm_ctl query -Cv查询到，Central Coordinator State会显示其状态。当CCN不存在时，作业不再受动态负载管理控制。
CCN上包含全局内存管控队列和资源池队列，目前暂不支持跨队列优先级，在以下场景下优先级低的作业可能优先下发：如果优先级高的作业在全局内存管控队列排队，优先级低的作业在资源池队列排队，则优先级低的作业会优先下发。
单CN上依然受到max_active_statements参数限制，但不是强制限制，实际运行的作业可能稍微大于该数值。
简单查询作业（估算值<32MB）、非DML（即非INSERT、UPDATE、DELETE和SELECT）语句，不走自适应负载，需要通过max_active_statements来进行单CN的上限控制。
默认work_mem数值为512MB，在自适应负载特性下，该数值不能变大，否则会引起内存不受控（例如未做Analyze的语句）。
作业估算内存小于等于0时，如果强制将作业指定为慢车道管控，作业不会发往CCN管控将直接运行。
以下场景或语句由于内存使用特殊性和不确定性，可能导致大并发场景内存不受控，如果遇到需要降低并发数。
单条元组占用内存过大的场景，例如，基表包含超过MB级别的宽列。
完全下推语句的查询。
需要在CN上耗费大量内存的语句，例如，不能下推的语句，withhold cursor场景。
由于计划生成不当导致hashjoin算子建立的hash表重复值过多，占用大量内存。
包含UDF的场景，且UDF中使用大量内存的场景。

3）短查询加速（默认开启，建议开启）

混合负载场景下，复杂查询可能会长时间占用大量资源，虽然简单查询执行时间短、消耗资源少，但是因为资源耗尽，简单查询不得不在队列中等待复杂查询执行完成。为提升执行效率、提高系统吞吐量，GaussDB(DWS)的“短查询加速”功能，实现对简单查询的单独管理。

开启短查询加速后，简单查询与复杂查询分开管理。
关闭短查询加速后，简单查询与复杂查询执行相同的工作负载管理。

虽然单个简单作业资源消耗少，但是大量简单作业并发运行还是会占用大量资源，因此短查询加速开启情况下，需要对简单查询进行并发管理；资源管理可能会影响查询性能，影响系统吞吐量，因此简单查询不进行资源管理，异常规则也不生效。

设置方法：

通过GUC参数wlm_query_accelerate设置
通过资源池alter resource pool query_pool with(short_acc='f');

4.3 资源池内存管理

资源池的内存管理是基于语句的估算内存进行管理的。

1）资源池可用内存设置方法

ALTER RESOURCE POOL resource_pool_a1 WITH (MEM_PERCENT=20);

当MEM_PERCENT参数取值设置为0时，表示查询作业的内存不受限。
当MEM_PERCENT参数取值设置为"x"（1<=x<=100）时，表示设置资源池使用的内存大小为可用内存大小的"x%"，查询作业将使用给定的内存来运行。

2）资源池作业估算内存限制设置方法

ALTER RESOURCE POOL resource_pool_a1 WITH (MEMORY_LIMIT="300MB");

当MEMORY_LIMIT参数取值设置为unlimited时，表示作业内存受数据库内存限制。
当MEMORY_LIMIT参数取值设置为default时，表示作业内存限制为资源池内存的1/2。
当MEMORY_LIMIT参数取值设置为x kB/MB/GB时，表示作业内存限制为xkB/MB/GB。
当memory_limit配置小于256M时，为防止估算内存过小导致问题，作业估算内存上限为256MB。

GaussDB(DWS)对外提供诸多系统视图，可以用来辅助资源管理及资源使用相关问题的分析定位，常用视图及用法说明如下表所示。（☆代表常用程度）

除过上述常用视图，资源管理问题定位过程需要根据实际场景，结合实例日志、集群状态等共同分析定位。

因为并发的配置和业务的复杂程度和集群的规格配置有很大的关系，本推荐仅做参考。推荐基于3CN 12DN，每个dn实例最大可使用64G内存情况下推荐的

在813内核版本及以上版本推荐配置如下。

GUC参数：

max_active_statements 60 （每个cn的最大并发数，控制全局队列排队）
enable_dynamic_workload on （开启动态负载）
wlm_query_accelerate -1 （开启短查询加速）

资源池参数：

ALTER RESOURCE POOL resource_pool_a1 WITH (MAX_DOP=50) （简单作业数50并发）
ALTER RESOURCE POOL resource_pool_a1 WITH (active_statements=10) （复杂作业10并发）

7.1 排队问题

出现业务阻塞、性能下降、查询无响应等类似现网问题时，通过以下方法可以排查是否排队问题并定位排队原因，同时根据排队原因给出相应规避措施。

7.1.1 确认是否排队

首先确认是否排队问题，其次排查排队原因，确认是否属于正常排队：

813及以上版本查询资源池监控视图

select rpname,slow_run,slow_wait,slow_limit,used_cpu,cpu_limit,used_mem,estimate_mem from gs_respool_resource_info;

老版本查询作业负载视图

select resource_pool,attribute,lane,status,enqueue,sum(statement_mem) as stmt_mem,count(1) from pgxc_session_wlmstat where status!='finished' and attribute!='Internal' and usename!='Ruby' group by 1,2,3,4,5;

通过视图可以获取到各资源池快慢车道作业运行信息，据此可以判断是否排队问题：

如果有作业处于排队状态，则可能是排队导致的问题，否则排除排队问题；可能的排队原因包括：

单CN全局并发排队；
快车道并发排队；
静态慢车道并发排队；
静态慢车道内存排队；
动态CCN全局内存排队；
动态CCN慢车道并发排队；
动态CCN慢车道内存排队。

排查排队原因

常见排队原因及解决措施

1）全局并发排队

单CN实际运行作业数≥全局并发上限，则全局并发排队正常；

单CN实际运行作业数长时间小于全局并发上限，则可能存在计数泄露。

2）快车道排队

快车道实际运行作业数≥快车道并发上限，则快车道并发排队正常；

快车道实际运行作业数长时间小于快车道并发上限，则可能存在计数泄露。

3）静态慢车道排队

慢车道实际运行作业数≥慢车道并发上限，则慢车道并发排队正常；

慢车道实际运行作业累计估算内存≥慢车道内存上限，则慢车道内存占用达到上限导致排队，关注是否有查询估算内存过大；

如果慢车道并发和内存占用长时间达不到上限，则可能存在计数泄露。

4）动态CCN排队

如果查询在CCN排队，则需要查询CCN开发者视图确认排队原因：

select * from pg_stat_get_workload_struct_info();

CCN上可能的排队原因：

CCN全局可用内存不足导致排队，此时需特别关注是否有查询估算内存过大；
资源池实际运行作业数≥慢车道车道并发上限，资源池并发上限，正常排队；
资源池实际运行作业累计估算内存≥慢车道内存上限，则慢车道内存占用达到上限导致排队，此时需特别关注是否有查询估算内存过大；
资源池实际运行作业数或占用内存与记账值不符，则可能存在计数泄露BUG；
队首作业在CCN哈希中不存在，说明队首作业残留导致查询不能正常下发；
CN/CCN处于recover状态或收集DN内存信息失败（多CCN）导致所有查询等待5s下发，现象为所有查询排队时间均为5~6s。

8.1 CCN排队

1）查询资源池监控视图，确认是否正常排队（813及以上版本）

下面以单CN下发作业为例，多CN下发作业需查询pgxc_respool_resource_info视图。

select rpname,slow_run,slow_wait,slow_limit,used_cpu,cpu_limit,used_mem,estimate_mem from gs_respool_resource_info;

如果slow_wait不等于0，说明有查询在CCN排队，否则无查询排队；
如果slow_run大于等于slow_limit，说明达到慢车道并发上限导致排队，否则说明不是并发过大导致排队；
如果estimate_mem大于资源池内存上限，说明内存不足导致排队，否则说明不是内存不足导致排队；
如果used_mem长时间远小于estimate_mem，说明该资源池上运行作业估算内存过大，可以尝试analyze；
如果used_mem大于estimate_mem，则查询可能触发内存二次扩展（默认资源池）或查询内存不可控；
如果used_cpu长时间接近甚至大于等于cpu_limit，说明资源池分配CPU过少，可能导致作业大量堆积；

通过该查询可以直观的观察各资源池作业负载信息，如果资源池running作业并发、内存长时间无法达到资源池上限，则考虑是否存在排队异常。

2）查询作业负载视图（813以下版本）

813及以上版本建议使用上边方法确认是否有排队异常，当然也可以使用以下方法确认存在排队异常，排除特性BUG影响。

813以下版本仅有pg_session_wlmstat视图，没有pgxc视图，可通过以下语句创建临时pgxc视图：

CREATE OR REPLACE VIEW pgxc_session_wlmstat_tp AS
SELECT * FROM pg_catalog.pgxc_parallel_query('cn', 'SELECT pg_catalog.pgxc_node_str(), * FROM pg_catalog.pg_session_wlmstat') AS (
nodename name,
datid oid,
datname name,
threadid bigint,
processid integer,
usesysid oid,
appname text,
usename name,
priority bigint,
attribute text,
block_time bigint,
elapsed_time bigint,
total_cpu_time bigint,
cpu_skew_percent integer,
statement_mem integer,
active_points integer,
dop_value integer,
control_group text,
status text,
enqueue text,
resource_pool name,
query text,
is_plana boolean,
node_group text,
lane text
);