YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
YMatrix 数据库集群类别参数
本文档介绍了系统配置参数中 YMatrix 数据库集群类别的相关参数。
注意!
为确保系统稳定与安全,请务必谨慎手动修改相关参数。
集群配置参数
enable_drop_matrixdb_extension
是否允许删除 YMatrix 扩展。
数据类型 | 默认值 | 设置分类 |
---|---|---|
boolean | off | master;session;reload |
mx_create_table_default_segments
指定创建表时所用的 Segment。
数据类型 | 默认值 | 设置分类 |
---|---|---|
string | segments;session;reload;superuser |
mx_default_segment_set
指定创建表时所用的默认 Segment 集合。
数据类型 | 默认值 | 设置分类 |
---|---|---|
string | segments;session;reload;superuser |
mx_ha_provider
设置 YMatrix 高可用特性的供应方。
- 如果你使用了图形化界面来部署,则 YMatrix 默认选择
external
;如果你使用命令行部署,则默认选择fts
。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | external | fts / external | segments;system;restart |
mx_postmaster_pdeath_signal
向 postmaster 发送关于其父进程死亡的信号。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 0 | 0 ~ 64 | segments;system;restart |
镜像配置参数
repl_catchup_within_range
对于 YMatrix 数据库主镜像,控制活跃从节点的更新。
- 如果 walsender 尚未处理的 WAL 段文件数超过此值,YMatrix 数据库将更新活跃从节点。
- 如果段文件的数量不超过该值,则 YMatrix 数据库会阻止更新,以允许 walsender 处理文件。如果已处理所有 WAL 段,则更新活动主站。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 1 | 0 ~ INT_MAX/1073741824 | master;system;reload;superuser |
wait_for_replication_threshold
当启用 YMatrix 数据库段镜像时,指定预写式日志(WAL)的最大量(KB),预写式日志即在记录写入 Mirror 以进行复制之前,基于一个 Primary 事务写入的记录。
- 默认情况下,当出现一个检查点或达到
wait_for_replication_threshold
值时,YMatrix 数据库将记录写入镜像段实例。 - 值为
0
会停用对记录数量的检查。只有在检查点发生后,记录才会写入镜像段实例。 - 如果将该值设置为
0
,则在执行不执行检查点操作的长事务的重负载下可能会出现数据库性能问题。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 1024 | 0 ~ INT_MAX/1024 | master;system;reload |
互连配置参数(Interconnect)
gp_interconnect_fc_method
指定用于默认 YMatrix 数据库 UDPIFC interconnect 的流控制方法。
- 对于基于容量的流量控制,当接收器没有容量时,发送器不发送数据包。
- 基于损耗的流量控制基于基于容量的流量控制,并且还根据包丢失来调整发送速度。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | loss | loss / capacity | master;session;reload |
gp_interconnect_proxy_addresses
当服务器配置参数 gp_interconnect_type
设置为 proxy
时,设置 YMatrix 数据库使用的代理端口。否则,此参数会被忽略。
- 当
gp_interconnect_type
参数设置为proxy
时,您必须以这种格式为 Master、Standby 以及所有 Segment 节点实例指定一个代理端口:<db_id>:<cont_id>:<seg_address>:<port>[, ... ]
。 - 对于 Master、Standby 和 Segment,前三个字段
db_id
、cont_id
和seg_address
可以在gp_segment_configuration
目录表中找到。第四个字段port
是 YMatrix Master 或 Segment 的代理端口。- db_id 是目录表中的 dbid 列。
- cont_id 是目录表中的内容列。
- seg_address 是目录表中 tge address 列对应的 IP 地址或主机名。
- port 是您指定的段实例代理的 TCP/IP 端口。
- 注意:如果 Segment 主机名在运行时绑定到不同的 IP 地址,则必须运行
mxstop -u
以重新加载gp_interconnect_proxy_addresses
值。 - 您必须将该值指定为单引号字符串。此
gpconfig
命令将gp_interconnect_proxy_addresses
的值设置为单引号字符串。gpconfig --skipvalidation -c gp_interconnect_proxy_addresses -v "'1:-1:192.168.180.50:35432,2:0:192.168.180.54:35000'"
数据类型 | 默认值 | 设置分类 |
---|---|---|
string | segments;system;reload |
gp_interconnect_queue_depth
设置接收器上的排队的 YMatrix 数据库每方用于默认 UDPIFC 的互连数据量(当接收到数据但没有可用于接收数据的空间时,数据将被丢弃,并且发送器将需要重新发送它)。
- 将深度从其默认值增加将导致系统使用更多内存,但可能会提高性能。
- 将此值设置在
1
到10
之间是合理的。 - 具有数据倾斜的查询可能会随着队列深度的增加而更好地执行。
- 增加这可能会从根本上增加系统使用的内存量。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 4 | 1 ~ 4096 | master;session;reload |
gp_interconnect_setup_timeout
指定在超时之前等待 YMatrix 数据库互连完成设置的时间(秒)。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 7200 | 0 ~ 7200 | master;session;reload |
gp_interconnect_snd_queue_depth
设置发件人上默认 UDPIFC 互连排队的每方的数据量。
- 将深度从其默认值增加将导致系统使用更多内存,但可能会提高性能。
- 此参数的合理值介于
1
和4
之间。 - 增加该值可能会从根本上增加系统使用的内存量。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 2 | 1 ~ 4096 | master;session;reload |
gp_interconnect_transmit_timeout
指定 YMatrix 数据库在超时之前等待互连流量的网络传输完成的时间量(以秒为单位)。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 3600 | 1 ~ 7200 | master;session;reload |
gp_interconnect_type
设置用于 YMatrix 数据库互连流量的网络协议。
udpifc
指定使用 UDP 和流量控制来实现互连流量,并且是唯一支持的值。- 使用
gp_interconnect_fc_method
指定互连流量控制方法。 - 使用
tcp
作为互连协议,YMatrix 数据库的上限为 1000 个 Segment 实例 - 如果查询工作负载涉及复杂的多切片查询时,则上限小于 1000。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | udpifc | udpifc / tcp | segments;system;restart |
gp_max_packet_size
设置 YMatrix 数据库互连的元组序列化块大小。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 8192 | 512 ~ 65507 | master;system;restart |
gp_segment_connect_timeout
YMatrix 互连将尝试通过网络连接到 Segment 节点实例的超时时间(秒)。
- 控制 Master 和 Primary 之间的网络连接超时,以及 Primary 到 Mirror 复制过程的网络连接超时。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 180 | 0 ~ INT_MAX | segments;system;reload |
mx_interconnect_compress
压缩互连的有效负载。
数据类型 | 默认值 | 设置分类 |
---|---|---|
boolean | off | master;session;reload |
mx_generic_packet_rtt
指定底层互连层的往返时间(RTT)。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 100 | 10 ~ 1000 | master;session;reload |
故障自动转移配置参数(Failover)
gp_fts_probe_retries
如果发送 probe 请求后,没有收到其应答信息,每个 Segment 上的副本服务会分别在各个 Segment 上至多重试此参数指定次数。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 30 | 0 ~ 100 | master;system;restart |
gp_fts_probe_interval
指定 Segment 的轮询(probe)间隔(以秒为单位)。
- 集群中每个 Segment 中的副本服务均会至少每隔此参数指定时间间隔向其 postmaster 进程发送 probe 请求。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 60 | 10 ~ 3600 | master;system;restart |
gp_fts_probe_timeout
指定每个 Segment 对应的副本服务允许的发送 probe 请求的超时时间(以秒为单位)。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 20 | 10 ~ 3600 | master;system;restart |
调度配置参数(Dispatch)
gp_cached_segworkers_threshold
当你使用 YMatrix 数据库启动会话并发出查询时,系统会在每个 Segment 上创建工作进程的组来完成工作。完成工作后,除了由此参数设置的缓存数之外,将销毁 Segment 工作进程。
- 较低的设置可以节省 Segment 主机上的系统资源,但更高的设置可以提高想要连续发出许多复杂查询的高级用户的性能。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 5 | 1 ~ INT_MAX | master;system;reload |
gp_set_proc_affinity
如果启用此参数,当启动 YMatrix 服务器进程(postmaster)时,它将绑定到一个 CPU。
数据类型 | 默认值 | 设置分类 |
---|---|---|
boolean | off | master;system;reload |
分布式事务管理参数
gp_max_local_distributed_cache
设置要在 Segment 实例的后端进程内存中缓存的最大分布式事务日志条目数,以优化后端的可见性处理。
- 日志条目包含有关 SQL 语句正在访问的行的状态的信息。
- 该信息用于确定在 MVCC 环境中多个 SQL 语句同时执行时 SQL 事务可见的行。
- 通过提高行可见性确定过程的性能,本地缓存分布式事务日志条目可提高事务处理速度。
- 默认值适用于各种 SQL 处理环境。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | 1024 | 0 ~ INT_MAX | segments;system;restart |
track_commit_timestamp
记录事务的提交时间。
| 数据类型 | 默认值 | 设置分类 | | --- | --- | --- | --- | | boolean | off | segments;system;restart |
只读参数
data_directory
指定用于数据存储的目录。
数据类型 | 默认值 | 设置分类 |
---|---|---|
string | ConfigDir | read only |
gp_command_count
显示主服务器从客户端收到的命令数。
- 注意:单个 SQL 命令实际上可能在内部涉及多个命令,因此对于单个查询,计数器可能会增加多个。该计数器也由处理该命令的所有 Segment 进程共享。
数据类型 | 默认值 | 设置分类 |
---|---|---|
int | 0 | read only |
gp_contentid
服务器的内容 ID。
数据类型 | 默认值 | 设置分类 |
---|---|---|
int | read only |
gp_dbid
对于 Segment,则为本地 dbid。
数据类型 | 默认值 | 设置分类 |
---|---|---|
int | 1 | read only |
gp_role
此服务器进程的角色。
- Master 设置为
dispatch
,Segment 设置为execute
。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
enum | dispatch / execute / utility | read only |
gp_session_id
系统为客户端会话分配的 ID 号。
- 首次启动 Master 实例时从 1 开始计数。
数据类型 | 默认值 | 取值范围 | 设置分类 |
---|---|---|---|
int | -1 | 整数 > 1 | read only |
gp_server_version
以字符串形式报告服务器的版本号。
- 版本修饰符参数可能会附加到版本字符串的数字部分,例如:5.0.0 beta。
数据类型 | 设置分类 |
---|---|
string(示例:5.0.0) | read only |
gp_server_version_num
以整数形式报告服务器的版本号。
- 对于每个版本,该数字始终保持增加,并可用于数字比较。
- 主要版本按原样表示,次要版本和补丁版本为零填充,始终为两位数宽。
数据类型 | 取值范围 | 设置分类 |
---|---|---|
int | Mmmpp,其中 M 是主要版本,mm 是零填充的次要版本,pp 是零填充的补丁版本。 示例:50000 | read only |