YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
CREATE TABLE AS
根据查询结果定义一个新表。
概要
CREATE [ [ GLOBAL | LOCAL ] { TEMPORARY | TEMP } | UNLOGGED ] TABLE table_name
[ (column_name [, ...] ) ]
[ USING MARS2 ]
[ WITH ( storage_parameter [= value] [, ... ] ) | WITHOUT OIDS ]
[ ON COMMIT { PRESERVE ROWS | DELETE ROWS | DROP } ]
[ TABLESPACE tablespace_name ]
AS query
[ WITH [ NO ] DATA ]
[ DISTRIBUTED BY (column [, ... ] ) | DISTRIBUTED RANDOMLY | DISTRIBUTED REPLICATED ]
其中 storage_parameter 是:
appendoptimized={TRUE|FALSE}
blocksize={8192-2097152}
orientation={COLUMN|ROW}
compresstype={ZLIB|ZSTD|QUICKLZ|RLE_TYPE|NONE}
compresslevel={1-19 | 1}
fillfactor={10-100}
[oids=FALSE]
描述
CREATE TABLE AS 创建一个表, 并用 SELECT 命令计算的数据填充该表。 表列具有与 SELECT 的输出列关联的名称和数据类型,但是您可以通过提供新列名称的显式列表来覆盖列名称。
CREATE TABLE AS 创建一个新表并仅对查询进行一次取值以填充一次新表。 新表将不会跟踪对查询源表的后续更改。
参数
GLOBAL | LOCAL
- 忽略兼容性。 这些关键字已弃用。
TEMPORARY | TEMP
- 如果指定,则将新表创建为临时表。 临时表在会话结束时或在当前事务结束时自动删除(请参见 ON COMMIT)。 临时表存在时,具有相同名称的现有永久表在当前会话中不可见,除非使用模式限定名称引用它们。 在临时表上创建的所有索引也会自动成为临时索引。
UNLOGGED
- 如果指定,该表将创建为未记录表。 写入未记录表的数据不会写入预写(WAL)日志,这使它们比普通表快得多。 但是,未记录表的内容不会复制到 Mirror 实例。 同样,未记录的表也不是崩溃安全的。Segment 实例崩溃或异常关闭后,该 Segment 上未记录表的数据将被截断。 在未记录表上创建的所有索引也会自动成为未记录索引。
table_name
- 要创建的新表的名称(可以由模式指定)。
column_name
- 新表中的列名。如果未提供列名,则它们取自查询的输出列名。
WITH (storage_parameter=value )
- WITH 子句可用于设置表或其索引的存储选项。 请注意,您还可以通过在分区规范中声明 WITH 子句,在特定分区或子分区上设置不同的存储参数。 可以使用以下存储选项:
- appendoptimized — 设置为 TRUE 可将表创建为追加优化的表。 如果为 FALSE 或未声明,则将表创建为常规堆存储表。
- blocksize — 设置为表中每个块的大小(以字节为单位)。 blocksize 必须介于 8192 和 2097152 字节之间,并且是 8192 的倍数。默认值为 32768。该参数仅在 appendoptimized = TRUE 时生效。
- orientation — 设置为 column 以用于列式存储,或设置为 row(默认)以用于行式存储。 仅当 appendoptimized = TRUE 时,此选项才有效。 堆存储表只能是面向行的。
- compresstype — 设置为 ZLIB(默认值),ZSTD 或 QUICKLZ1 以指定使用的压缩类型。 值 NONE 禁用压缩。 ZSTD 提供速度或良好的压缩率,可通过 compresslevel 选项进行调整。 提供 QuickLZ 和 ZLIB 是为了向后兼容。 在通常的工作负载上,ZSTD 的性能优于这些压缩类型。 仅当appendoptimized = TRUE时,compresstype 选项才有效。
- compresslevel — 对于附加优化表的 ZSTD 压缩,请将其设置为 1(最快压缩)到 19(最高压缩率)之间的整数值。 对于 ZLIB 压缩,有效范围是 1 到 9。 QuickLZ 压缩级别只能设置为 1。 如果未声明,则默认值为 1。 compresslevel 选项仅在 appendoptimized = TRUE 时有效。
- fillfactor — 有关此索引存储参数的更多信息,请参见 CREATE INDEX。
- oids=FALSE — 这是默认值,每个数据行内没有分配 oid。 YMatrix 强烈建议您在创建表时不要启用 OIDS。 在大型表上(例如典型的 YMatrix 数据库系统中的表),对表行使用 OID 可能会导致 32 位 OID 计数器的折回。 一旦计数器回绕,就不能再认为 OID 是唯一的,这不仅使它们对用户应用程序无用, 而且还会在 YMatrix 数据库系统 catalog 表中引起问题。 此外,从表中排除 OID 会使表每行存储在磁盘上所需的空间减少了每行 4 个字节,从而略微提高了性能。 面向列的表不允许使用 OIDS。 ON COMMIT
- 可以使用 ON COMMIT 控制事务块末尾的临时表的行为。 这三个选项是:
PRESERVE ROWS — 临时表的事务结束时不会采取任何特殊操作。这是默认行为。
DELETE ROWS — 临时表中的所有行将在每个事务块的末尾删除。 本质上,每次提交都会自动执行一次 TRUNCATE。
DROP — 临时表将在当前事务块的末尾删除。
TABLESPACE tablespace_name
- tablespace_name 参数是要在其中创建新表的表空间的名称。 如果未指定,则使用数据库的默认表空间。
AS query
- SELECT, TABLE 或 VALUES 命令, 或运行准备的 SELECT 或 VALUES 查询的 EXECUTE 命令。
DISTRIBUTED BY ({column [opclass]}, [ ... ] )
DISTRIBUTED RANDOMLY
DISTRIBUTED REPLICATED
- 用于声明表的 YMatrix 数据库分发策略。 DISTRIBUTED BY 使用具有一个或多个声明为分发键的列的哈希分发。 为了获得最均匀的数据分配,分发键应为表的主键或唯一列(或一组列)。 如果无法做到这一点,则可以选择 DISTRIBUTED RANDOMLY,它将数据轮询发送到 Segment 实例。
DISTRIBUTED REPLICATED 将表中的所有行复制到所有 YMatrix 数据库 Segment。 它不能与分区表或从其他表继承的表一起使用。
如果在创建表时未指定 DISTRIBUTED BY 子句, 则 YMatrix 数据库服务器配置参数 gp_create_table_random_default_distribution 将控制默认表分发策略。 如果未指定分发策略,YMatrix 数据库将遵循以下规则来创建表:- 如果 Postgres 查询优化器创建了表,并且该参数的值是 off,则根据命令确定表分配策略。
- 如果 Postgres 查询优化器创建了表,并且该参数的值为 on,则表分配策略是随机的。
- 如果 GPORCA 创建表,则表分配策略是随机的。参数值无效。
注解
该命令在功能上类似于 SELECT INTO,但它是首选的, 因为它不太可能与 SELECT INTO 语法的其他用法混淆。 此外,CREATE TABLE AS 提供了 SELECT INTO 提供的功能的超集。
CREATE TABLE AS 可用于从外部表数据源快速加载数据。 请参阅 CREATE EXTERNAL TABLE。
示例
创建一个新表 films_recent,该表仅包含表 films 中的最新条目:
CREATE TABLE films_recent AS SELECT * FROM films WHERE
date_prod >= '2007-01-01';
使用预编译语句创建一个新的临时表 films_recent,该表仅包含表 films 中的最新条目。 新表具有 OID,并将在提交时删除:
PREPARE recentfilms(date) AS SELECT * FROM films WHERE
date_prod > $1;
CREATE TEMP TABLE films_recent ON COMMIT DROP AS
EXECUTE recentfilms('2007-01-01');
兼容性
CREATE TABLE AS 符合 SQL 标准,但以下情况除外:
- 该标准要求在子查询子句两边加上括号;在 YMatrix 数据库中,这些括号是可选的。
- 该标准定义了 WITH [NO] DATA 子句;YMatrix 数据库当前未实现此功能。 YMatrix 数据库提供的行为等同于标准的 WITH DATA 情况。 可以通过将 LIMIT 0 附加到查询来模拟 WITH NO DATA。
- YMatrix 数据库对临时表的处理方式与标准处理方式有所不同。 有关详细信息,请参见 CREATE TABLE。
- WITH 子句是 YMatrix 数据库扩展。 storage 参数和 OIDs 都不在标准中。创建 OID 系统列的语法已被弃用。
- 表空间的 YMatrix 数据库概念不是该标准的一部分。 TABLESPACE 子句是扩展。