YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
资源管理(RESOURCE MANAGEMENT)类别参数
本文档介绍了系统配置参数中 资源管理类别的相关参数。
注意!
为确保系统稳定与安全,请务必谨慎手动修改相关参数。
资源组(Resource Group)
gp_resgroup_memory_policy
由资源组用于管理查询运算符的内存分配。
- 注意:仅当资源管理设置为资源组时,
gp_resgroup_memory_policy
服务器配置参数才会生效。 - 设置为
auto
时,YMatrix 数据库使用资源组内存限制在查询运算符之间分配内存,为非内存密集型运算符分配固定大小的内存,其余内存为内存密集型运算符。 - 当你指定
eager_free
时,YMatrix 数据库通过将已完成处理的运算符所释放的内存 重新分配给之后查询阶段的运算符,从而更好地在运算符之间进行内存分配。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | eager_free | eager_free / auto | segments;system;restart/reload;superuser |
gp_resource_group_cpu_limit
标识要分配给每个 YMatrix 数据库 Segment 节点上资源组的系统 CPU 资源的最大百分比。
- 注意:仅当资源管理设置为资源组时,
gp_resource_group_cpu_limit
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
floating point | 0.9 | 0.1 ~ 1.0 | segments;system;restart |
gp_resource_group_cpu_priority
当启用资源组时,设置 YMatrix 进程相对于非 YMatrix 进程的 CPU 优先级。
- 例如,将此参数设置为
10
会将分配给 YMatrix 进程的 CPU 资源与非 YMatrix 进程的比率设置为 10:1。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 10 | 1 ~ 256 | segments;system;restart |
gp_resource_group_queuing_timeout
取消超过等待时间(毫秒)的资源组中排队的事务。
- 时限分别适用于每笔交易。
- 默认值为
0
;事务无限期地排队并且永远不会超时。 - 注意:仅当资源管理设置为资源组时,
gp_resource_group_queuing_timeout
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 0 | 0 ~ INT_MAX | master;session;reload |
gp_resource_manager
标识当前在 YMatrix 数据库群集中启用的资源管理方案。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | queue | group / queue | segments;system;restart |
memory_spill_ratio
设置事务中内存密集型运算符的内存使用阈值百分比。
- 当事务达到此阈值时,它将溢出到磁盘。
- 默认
memory_spill_ratio
百分比是为分配给当前活动角色的资源组定义的值。 - 您可以在会话级别设置
memory_spill_ratio
,以便在每个查询的基础上有选择地设置此限制。例如,如果你有一个特定的查询溢出到磁盘并需要更多内存,你可以选择设置更大的memory_spill_ratio
来增加初始内存分配。 - 在会话级别设置
memory_spill_ratio
时,YMatrix 数据库不会对新值执行语义验证,直到您下次执行查询为止。 - 仅当资源管理设置为资源组时,
memory_spill_ratio
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 20 | 0 ~ 100 | master;session;reload |
mx_cgroup_v1_base
资源组功能的默认基本 v1 cgroup 路径。
- 如果你使用了图形化界面部署,则默认值为
/ymatrix/EmviwvEQDzobZxQi3pX8Co/postgres
;如果使用了命令行部署,则为空字符串。
数据类型 | 默认值 | 设置分类 |
---|---|---|
string | segments;system;restart;superuser |
资源队列(Resource Resqueue)
gp_resqueue_memory_policy
启用 YMatrix 内存管理功能。
- 注意:仅当资源管理设置为资源队列时,
gp_resqueue_memory_policy
服务器配置参数才会生效。 - 分配算法
eager_free
利用了并非所有运算符同时执行的事实。 - 查询计划分为几个阶段,YMatrix 数据库快速释放在某阶段执行结束时分配给前一阶段的内存,随后将释放的内存分配给新阶段。
- 当设置为
none
时,内存管理与 Greenplum 4.1 之前的发行版相同;当设置为auto
时,主要由statement_mem
参数及队列内存限制来控制查询语句的内存使用。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | eager_free | eager_free / auto / none | segments;system;restart/reload |
gp_resqueue_priority
启用或禁用查询优先级。
- 禁用此参数时,不会在查询运行时计算现有优先级设置。
- 注意:仅当资源管理设置为资源队列时,
gp_resqueue_priority
服务器配置参数才会生效。
数据类型 | 默认值 | 设置分类 |
---|---|---|
boolean | on | segments;system;restart |
gp_resqueue_priority_cpucores_per_segment
指定每个 Segment 实例分配的 CPU 单元数。
- Master 主机通常只运行 Master 实例,因此主机的值应反映所有可用 CPU 内核的使用情况。
- 设置不正确可能导致 CPU 使用率不足或查询优先级不按设计工作。
- 注意:仅当资源管理设置为资源队列时,
gp_resqueue_priority_cpucores_per_segment
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
floating point | 4.0 | 0.1 ~ 512.0 | segments;system;restart |
gp_resqueue_priority_sweeper_interval
指定清理程序进程评估当前 CPU 使用率的时间间隔(毫秒)。
- 当新语句变为活动状态时,将评估其优先级,并在达到下一个间隔时确定其 CPU 份额。
- 注意:仅当资源管理设置为资源队列时,
gp_resqueue_priority_sweeper_interval
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 1000 | 500 ~ 15000 | segments;system;restart |
gp_vmem_protect_limit
设置活动 Segment 节点实例的所有 postgres 进程可以使用的内存量(MB)。
-
注意:仅当资源管理设置为资源队列时,
gp_vmem_protect_limit
服务器配置参数才会生效。 -
如果查询导致超出此参数限制,则不会分配内存,查询将失败。
-
设置此参数时,仅指定数值。例如,要指定 4096MB,请使用值 4096,不要将单位 MB 添加到该值。
-
为了防止内存过度分配,这些计算可以估计安全的
gp_vmem_protect_limit
值。首先计算值 gp_vmem。 这是主机上可用的 YMatrix 数据库内存。gp_vmem = ((SWAP + RAM) – (7.5GB + 0.05 * RAM)) / 1.7
其中 SWAP 是主机交换空间,RAM 是主机上的 RAM,以 GB 为单位。
接下来,计算max_acting_primary_segments
。这是因集群故障而激活 Mirror 时主机上可以运行的 Primary 的最大数量。例如,如果 Mirror 布置在 4 个主机块中,每个主机有 8 个 Primary,则单个 Segment 主机故障将激活故障主机块中每个剩余主机上的两个或三个 Mirror。
此配置的max_acting_primary_segments
值为11
(8 个 Primary 加上 3 个失败时激活的 Mirror)。 这是gp_vmem_protect_limit
的计算。该值应转换为 MB。gp_vmem_protect_limit = gp_vmem / acting_primary_segments
对于生成大量工作文件的情况,这是计算工作文件的
gp_vmem
的计算。gp_vmem = ((SWAP + RAM) – (7.5GB + 0.05 * RAM - (300KB * total_#_workfiles))) / 1.7
根据
gp_vmem
值,您可以计算vm.overcommit_ratio
操作系统内核参数的值。 配置每个 YMatrix 数据库主机时,将设置此参数。vm.overcommit_ratio = (RAM - (0.026 * gp_vmem)) / RAM
-
注意:Red Hat Enterprise Linux 中内核参数
vm.overcommit_ratio
的默认值为50
。 -
如果你使用了图形化界面来部署,则此参数会根据服务器的硬件资源来计算适配;如果你使用命令行部署,则默认为
8192
。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 11429 | 0 ~ (INT_MAX/2) | segments;system;restart |
max_resource_portals_per_transaction
设置每个事务允许同时打开的用户声明游标的最大数量。
- 注意:打开的游标将在资源队列中保留活动的查询槽用于资源管理。
- 注意:仅当资源管理设置为资源队列时,
max_resource_portals_per_transaction
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 64 | 0 ~ INT_MAX | master;system;restart |
max_resource_queues
设置可以在 YMatrix 数据库系统中创建的最大资源队列数。
- 注意:资源队列是系统范围的(角色也是如此),因此它们适用于系统中的所有数据库。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 9 | 0 ~ INT_MAX | master;system;restart |
max_statement_mem
设置查询的最大内存限制(KB)。
- 由于将
statement_mem
设置得太高,有助于在查询处理期间避免 Segment 主机上的内存不足错误。 - 当
gp_resqueue_memory_policy=auto
时,statement_mem
和资源队列内存限制控制查询内存使用量。 - 考虑到单个 Segment 主机的配置,请按如下方式计算此设置:
(seghost_physical_memory) / (average_number_concurrent_queries)
- 更改
max_statement_mem
和statement_mem
时, 必须先更改max_statement_mem
,或者先在postgresql.conf
文件中列出。 - 注意:仅当资源管理设置为资源队列时,
max_statement_mem
务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 2048000 | 32768 ~ INT_MAX | master;session;reload;superuser |
resource_cleanup_gangs_on_wait
如果通过资源队列提交语句,此参数会在锁定资源队列之前清除所有空闲的查询执行程序工作进程。
- 注意:仅当资源管理设置为资源队列时,
resource_cleanup_gangs_on_wait
服务器配置参数才会生效。
数据类型 | 默认值 | 设置分类 |
---|---|---|
boolean | on | master;system;restart |
resource_select_only
设置资源队列管理的查询类型。
- 如果设置为
on
,则评估SELECT
,SELECT INTO
,CREATE TABLE AS SELECT和DECLARE CURSOR
命令;如果设置为off
,则还将评估INSERT
,UPDATE
和DELETE
命令。 - 注意:仅当资源管理设置为资源队列时,
resource_select_only
服务器配置参数才会生效。
数据类型 | 默认值 | 设置分类 |
---|---|---|
boolean | off | master;system;restart |
runaway_detector_activation_percent
设置触发查询终止的 YMatrix 数据库 vmem 内存的百分比。
- 如果用于 YMatrix 数据库 Segment 的 vmem 内存百分比超过指定值,YMatrix 数据库将根据内存使用情况终止查询,从占用最大内存量的查询开始。查询将终止,直到使用的 vmem 百分比低于指定的百分比。
- 值
0
禁用基于所使用的 vmem 的百分比自动终止查询。 - 注意:仅当资源管理设置为资源队列时,
runaway_detector_activation_percent
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 90 | 0 ~ 100 | segments;system;restart |
statement_mem
为每个查询分配 Segment 主机内存(KB)。
- 使用此参数分配的内存量不能超过
max_statement_mem
或提交查询的资源队列的内存限制。 - 当
gp_resqueue_memory_policy =auto
时,statement_mem
和资源队列内存限制控制查询内存使用量。 - 如果查询需要额外的内存,则使用磁盘上的临时溢出文件。
- 该计算可用于估计各种情况的合理值。
( gp_vmem_protect_limitGB * .9 ) / max_expected_concurrent_queries
将
gp_vmem_protect_limit
设置为8192MB(8GB)
并假设最多包含 10% 缓冲的 40 个并发查询。(8GB * .9) / 40 = .18GB = 184MB
- 更改
max_statement_mem
和statement_mem
时, 必须先更改max_statement_mem
,或者先在postgresql.conf
文件中列出。 - 仅当资源管理设置为资源队列时,
statement_mem
服务器配置参数才会生效。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 128000 | 50 ~ INT_MAX | master;session;reload |