YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
ANALYZE
收集有关一个数据库的统计信息。
ANALYZE [VERBOSE] [table [ (column [, ...] ) ]]
ANALYZE [VERBOSE] {root_partition_table_name|leaf_partition_table_name} [ (column [, ...] )]
ANALYZE [VERBOSE] ROOTPARTITION {ALL | root_partition_table_name [ (column [, ...] )]}
描述
ANALYZE 收集有关数据库中表内容的统计信息,并将结果存储在系统表 pg_statistic 中。 随后,YMatrix 数据库使用这些统计信息来帮助确定最有效的查询执行计划。
如果不使用任何参数,则 ANALYZE 会收集当前数据库中每个表的统计信息。 您可以指定表名称以收集单个表的统计信息。 您可以指定一组列名,在这种情况下,仅收集这些列的统计信息。
ANALYZE 不会收集外部表的统计信息。
对于分区表,ANALYZE 在叶子分区上收集其他统计信息,即 HyperLogLog(HLL)统计信息。 HLL 统计信息用于得出针对分区表的查询的不同值(NDV)数量。
- 当汇总多个叶子分区的 NDV 估计值时,HLL 统计信息比标准表统计信息生成更准确的 NDV 估计值。
- 更新 HLL 统计信息时,仅在已更改的叶子分区上才需要 ANALYZE 操作。 例如,如果叶子子分区数据已更改,或者叶子子分区已与另一个表交换,则 ANALYZE 是必需的。
参数
{ root_partition_table_name | leaf_partition_table_name } [ (column [, ...] ) ]
- 收集分区表的统计信息,包括 HLL 统计信息。 HLL 统计信息仅在叶子分区上收集。
ANALYZE root_partition_table_name,收集所有叶子分区和根分区的统计信息。
ANALYZE leaf_partition_table_name,收集有关叶子分区的统计信息。
默认情况下,如果指定叶子分区,并且所有其他叶子分区都具有统计信息,则 ANALYZE 更新根分区统计信息。 如果不是所有叶子子分区都具有统计信息,则 ANALYZE 记录有关没有统计信息的叶子子分区的信息。
ROOTPARTITION [ALL]
- 仅基于分区表中的数据收集分区表的根分区上的统计信息。 如果可能,ANALYZE 使用叶子分区统计信息生成根分区统计信息。 否则,ANALYZE 通过对叶子分区数据进行采样来收集统计信息。 未在叶子分区上收集统计信息,仅对数据进行采样。 不会收集 HLL 统计信息。
指定 ROOTPARTITION 时,必须指定 ALL 或分区表的名称。
如果将 ROOTPARTITION 指定为 ALL,则 YMatrix 会收集数据库中所有分区表的根分区的统计信息。如果数据库中没有分区表,则会返回一条消息,指出没有分区表。对于不是分区表的表,不会收集统计信息。
如果使用 ROOTPARTITION 指定表名,并且该表不是分区表,则不会为该表收集任何统计信息,并且会返回警告消息。
ROOTPARTITION 子句不适用于 VACUUM ANALYZE。 VACUUM ANALYZE ROOTPARTITION 命令返回错误。
运行 ANALYZE ROOTPARTITION 的时间类似于分析具有相同数据的非分区表的时间,因为 ANALYZE ROOTPARTITION 仅采样叶子分区数据。
对于分区表 sales_curr_yr,此示例命令仅在分区表的根分区上收集统计信息。ANALYZE ROOTPARTITION sales_curr_yr;
VERBOSE
- 启用显示进度消息。 启用显示进度消息。 指定时,ANALYZE 发出此信息
- 正在处理的表。
- 执行该查询以生成示例表。
- 要为其计算统计信息的列。
- 发出以收集单个列的不同统计信息的查询。
- 收集的统计信息。
table
- 要分析的特定表的名称(可能是模式限定的)。 如果省略,则分析当前数据库中的所有常规表(而不是外部表)。
column
- 要分析的特定列的名称。 默认为所有列。
注意
仅在明确选择外表时才进行分析。 并非所有外部数据包装器都支持 ANALYZE。 如果表的包装器不支持 ANALYZE,则该命令将显示警告并且不执行任何操作。
最好定期或在对表内容进行重大更改之后立即运行 ANALYZE。 准确的统计信息有助于 YMatrix 数据库选择最合适的查询计划,从而提高查询处理的速度。 只读数据库的常见策略是在一天的低使用时间内每天运行一次 VACUUM 和 ANALYZE。 (如果有大量更新活动,这是不够的。)您可以使用 gp_toolkit 模式中的 gp_stats_missing 视图来检查缺少统计信息的表:
SELECT * from gp_toolkit.gp_stats_missing;
ANALYZE 要求对目标表进行 SHARE UPDATE EXCLUSIVE 锁定。 此锁与以下锁冲突:SHARE UPDATE EXCLUSIVE,SHARE,SHARE ROW EXCLUSIVE,EXCLUSIVE,ACCESS EXCLUSIVE。
如果您在不包含数据的表上运行 ANALYZE,则不会为该表收集统计信息。 例如,如果您对具有统计信息的表执行 TRUNCATE 操作,然后对该表运行 ANALYZE,则统计信息不会更改。
对于分区表,如果分区表具有大量已分析的分区,而只有几个叶子分区具有分区,则指定要分析的表部分,根分区或子分区(叶子分区表)可能会有用 改变了。
- 在根分区表上运行 ANALYZE 时,将收集所有叶子分区的统计信息。 叶子子分区是 YMatrix 数据库创建供子表使用的子表层次结构中的最低级表。
- 在叶子分区上运行 ANALYZE 时,仅收集该叶子分区和根分区的统计信息。 如果叶子分区中的数据已更改(例如,您对叶子子分区数据进行了重大更新或交换了叶子子分区),则可以在叶子子分区上运行 ANALYZE 来收集表统计信息。 默认情况下,如果所有其他叶子分区都具有统计信息,则该命令将更新根分区统计信息。
例如,如果您在具有大量分区的分区表上收集统计信息,然后仅在几个叶子分区中更新数据,则可以仅在那些分区上运行 ANALYZE 来更新分区的统计信息和根分区的统计信息。 - 在不是叶子分区的子表上运行 ANALYZE 时,不会收集统计信息。
例如,您可以创建一个分区表,其中包含 2006 年至 2016 年的分区以及每年每个月的子分区。 如果您在 2013 年的子表上运行 ANALYZE,则不会收集任何统计信息。 如果您在 2013 年 3 月在叶子分区上运行 ANALYZE,则仅收集该叶子分区的统计信息。
对于包含已被交换以使用外部表的叶子分区的分区表,ANALYZE 不会收集外部表分区的统计信息:
- 如果在外部表分区上运行 ANALYZE,则不会分析该分区。
- 如果在根分区上运行 ANALYZE 或 ANALYZE ROOTPARTITION,则不对外部表分区进行采样,并且根表统计信息不包括外部表分区。
- 如果指定了 VERBOSE 子句,则会显示一条参考消息:skipping external table。
YMatrix 数据库服务器配置参数 optimizer_analyze_root_partition 影响何时在分区表的根分区上收集统计信息。 如果该参数为 on(默认值),则在运行 ANALYZE 时,不需要 ROOTPARTITION 关键字来收集根分区上的统计信息。 在根分区上运行 ANALYZE 或在分区表的子叶分区上运行 ANALYZE 且其他子叶分区具有统计信息时,将收集根分区统计信息。 如果该参数是 off,则必须运行 ANALZYE ROOTPARTITION 来收集根分区统计信息。
ANALYZE 收集的统计信息通常包括每列中一些最常用值的列表以及显示每列中近似数据分布的直方图。 如果ANALYZE 认为它们不重要(例如,在唯一键列中没有公共值),或者列数据类型不支持适当的运算符,则可以忽略其中一个或两个。
对于大型表,ANALYZE 会从表内容中随机抽取一个样本,而不是检查每一行。这样就可以在很短的时间内分析非常大的表。但是请注意,统计信息仅是近似的,并且每次运行 ANALYZE 都会略有变化,即使实际的表内容没有变化。这可能会导致 EXPLAIN 所显示的计划者估算成本发生细微变化。在极少数情况下,这种不确定性将导致查询优化器在 ANALYZE 运行之间选择不同的查询计划。为了避免这种情况,请通过调整 default_statistics_target 配置参数来提高ANALYZE收集的统计信息的数量,或者通过使用 ALTER TABLE ... ALTER COLUMN ... SET (n_distinct ...)(请参阅 ALTER TABLE)。目标值设置最常用值列表中的最大条目数和直方图中的最大 bin 数。默认目标值是 100,但是可以向上或向下调整该值以权衡规划器估计的准确性与 ANALYZE 所花费的时间以及 pg_statistic 中占用的空间量。特别是,将统计目标设置为零会禁用该列的统计收集。对于从未用作查询的 WHERE,GROUP BY 或 ORDER BY 子句一部分的列,执行此操作可能很有用,因为计划器将不会使用此类列的统计信息。
要分析的列中最大的统计信息目标确定为准备统计信息而采样的表行数。 增加目标会导致进行 ANALYZE 所需的时间和空间成比例增加。
ANALYZE 估计的值之一是出现在每列中的不同值的数量。 因为仅检查了行的子集,所以即使使用最大可能的统计目标,此估计有时也可能非常不准确。 如果此错误导致查询计划不正确,则可以手动确定更准确的值,然后与 ALTER TABLE ... ALTER COLUMN ... SET STATISTICS DISTINCT 一起安装。
当 YMatrix 数据库执行ANALYZE操作以收集表的统计信息并检测到所有采样的表数据页均为空(不包含有效数据)时,YMatrix 数据库将显示一条消息,指出应该执行 VACUUM FULL 操作。 如果采样页为空,则表统计信息将不准确。 对表进行大量更改(例如删除大量行)后,页面将变为空。 VACUUM FULL 操作可删除空白页,并允许 ANALYZE 操作收集准确的统计信息。
如果该表没有统计信息,则服务器配置参数 gp_enable_relsize_collection 将控制 Postgres 查询优化器使用默认统计信息文件还是使用 pg_relation_size 函数估计表的大小。 默认情况下,如果统计信息不可用, Postgres 优化器将使用默认的统计信息文件来估计行数。
示例
收集表 mytable 的统计信息:
ANALYZE mytable;
兼容性
SQL 标准中没有 ANALYZE 语句。