YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
MatrixBench
本文档介绍了 MatrixBench 的详细参数信息。
注意!
目前 mxbench 已开源,欢迎你的审阅与贡献,请点击此处阅读 README。
1 配置文件
参数名 | 默认值 | 参数含义 |
---|---|---|
[Database]类别 | ||
--db-database | postgres | 数据库名称,如果不存在,MatrixBench 会自动创建;已存在也不会报错 |
--db-master-host | localhost | YMatrix Master 实例所在主机的主机名(Hostname) |
--db-master-port | 5432 | YMatrix Master 实例的端口号 |
--db-password | YMatrix 用户密码 | |
--db-user | mxadmin | YMatrix 用户名 |
[Global]类别 | ||
--workspace | /tmp/mxbench | CSV 数据文件,查询文件的目录。在 workspace 目录下 ,mxbench 会创建一个与启动 mxbench 时的 UNIX 时间戳同名的目录,该目录下会生成 DDL、GUCs 相关脚本以及查询语句文件。如果设置 --dump 为 true ,导出的 CSV 数据文件也将在该目录下生成 |
--dump | false | 是否导出 CSV 数据文件。如果设置为 true ,表示仅导出数据文件,而不进行数据的写入和查询 |
--watch | true | 是否开启进程观察。默认开启,每 5 秒打印一次 Writer 和 Benchmark 模块的执行进度信息 |
--log-level | info | 选择日志级别。支持 debug / verbose / info / error |
--skip-set-gucs | false | 是否跳过询问和设置参数。默认情况下 mxbench 会询问是否重设并重启数据库,并根据配置文件呈现出的数据特征,选择一个合理的参数配置 |
--simultaneous-loading-and-query | false | 是否同时执行数据写入和查询。默认先执行数据加载,执行完毕后再执行查询;如果选择 true ,则执行数据写入和查询的混合负载;混合负载下,查询运行完之后会继续循环到数据写入结束 |
--ddl-file-path | 默认情况下根据其他相关配置生成 DDL。如果你想要定制 DDL,该参数填写 DDL 文件的路径 | |
--metrics-type | float8 | 指标的类型。支持 int4 / int8 / float4 / float8 4 种类型 |
--metrics-descriptions | 对指标的表述,需根据 基本功能 文档中“多数据类型与特征”功能部分介绍的语法撰写,生成具有定制化特征的指标数据 | |
--partition-interval-in-hour | 24 | 生成表 DDL 的分区时间间隔,单位为小时(h);默认为 24,即一天;如想让 mxbench 随机指定,则需设为 0 |
--realtime | false | 实时模式。若指定为 true ,mxbench 生成的数据会以其运行当前时间为基准生成数据的时间戳字段;每 --ts-step-in-second 秒会生成 --tag-num 行数据;--ts-start and --ts-end 则会被用来创建表的分区 |
--report-format | csv | 生成 SQL 执行各项数据统计报告的格式,支持 CSV 格式 |
--report-path | /tmp | 生成 SQL 执行各项数据统计报告的路径 |
--schema-name | public | 模式名称 |
--table-name | 数据表名称。默认为 "",必须手动设置 | |
--tag-num | 25000 | 设备数量 |
--total-metrics-count | 300 | 指标总数。如果指标总数大于 998,则超过部分的指标会以 JSON 类型存放在名为 "ext" 的列中 |
--ts-start | 生成数据时间戳起始时间。因有延迟上报数据的情况存在,生成数据可能会早于此时间 | |
--ts-end | 生成数据时间戳终止时间。--ts-end 必须晚于 --ts-start ,否则报错 |
|
--ts-step-in-second | 1 | 每几秒采集一次指标 |
[Generator]类别 | ||
--generator | telematics | 数据生成器。默认生成车联网场景(telematics)数据,支持 telematics / file / nil 。file 模式支持从 CSV 文件中读取数据并写入;nil 模式不生成、不写入任何数据 |
generator = "telematics" | ||
--generator-batch-size | 1 | 每个设备在每个时间戳的指标,分几条上传至 YMatrix。例如,如果设置为 5 ,名为 tag1 的设备在 2022-04-25 09:00:03 这个时间戳下,各个指标的数据会分 5 条传到 YMatrix,最终合并为 1 个元组(Tuple)。默认为 1 ,即指标信息不做拆分 |
--generator-disorder-ratio | 0 | 延迟上报数据的比例。取值 0~100 ,默认值为 0 , 即没有延迟上报的数据 |
--enerator-empty-value-ratio | 90 | 每行数据的空值率。取值为 0~100. 默认为 90%,即 90% 的指标都将是空值 |
--generator-randomness | OFF | 指标数据随机度。支持 OFF / S / M / L |
--generator-num-goroutine | 1 | 生成数据的使用并发数 |
--generator-write-batch-size | 4 | 生成数据的缓存大小,即生成多少数据。单位 MB |
generator = "file" | ||
--generator-file-paths | CSV 数据文件的绝对路径。可以数组形式上传多个 CSV 文件 | |
--generator-batch-size | 1 | 同 generator = "telematics" 中的 --generator-batch-size 参数(非必选,如使用定制 DDL 语句则此参数无效) |
--generator-empty-value-ratio | 90 | 同 generator = "telematics" 中的 --generator-empty-value-ratio 参数(非必选,如使用定制 DDL 语句则此参数无效) |
generator = "nil"(此模式无其他参数设置) | ||
[Writer]类别 | ||
--writer | 启动 mxgate 并写入数据的方式。支持 http / stdin / nil |
|
writer = "http" | ||
--writer-use-gzip | false | 发送 HTTP 消息是否使用 Gzip 压缩 |
--writer-parallel | 8 | 向 mxgate 发送数据的并发度 |
--writer-mxgate-path | 环境变量路径 | mxgate 二进制文件路径。默认为环境变量的路径,直接使用 mxgate 启动 |
--writer-progress-format | list | 打印的 Writer 进度信息的格式。支持 list / json |
--writer-progress-include-table-size | false | 打印的 Writer 进度信息是否包括表大小 |
--writer-progress-with-timezone | false | 打印的 Writer 进度信息是否包括时区信息 |
--writer-interval | -1 | 指定 mxgate 的 --interval 参数,默认 -1 ,即 mxbench 自动指定(高级调试参数) |
--writer-stream-prepared | -1 | 指定 mxgate 的 --stream-prepared 参数,默认 -1 ,即 mxbench 自动指定(高级调试参数) |
writer = "stdin" | ||
--writer-mxgate-path | 环境变量路径 | 同 writer = "http" 中的 --writer-mxgate-path 参数 |
--writer-progress-format | list | 同 writer = "http" 中的 --writer-progress-format 参数 |
--writer-progress-include-table-size | false | 同 writer = "http" 中的 --writer-progress-include-table-size 参数 |
--writer-progress-with-timezone | false | 同 writer = "http" 中的 --writer-progress-with-timezone 参数 |
--writer-interval | -1 | 同 writer = "http" 中的 --writer-interval 参数 |
--writer-stream-prepared | -1 | 同 writer = "http" 中的 --writer-stream-prepared 参数 |
writer = "nil"(此模式无其他参数设置) | ||
[Benchmark]类别 | ||
--benchmark | telematics | 生成并执行查询语句。支持 telematics / nil |
benchmark = "telematics" | ||
--benchmark-run-query-names | 将要顺序执行的 Telematics 提供的查询语句名称。 目前我们提供以下 3 个合法查询语句名: 1. SINGLE_TAG_LATEST_QUERY :获得单车最近时间戳的各个指标值; 2. MULTI_TAG_LATEST_QUERY :随机选取 10 车,获得其最近时间戳的各个指标值;3. SINGLE_TAG_DETAIL_QUERY :获得单车在一段时间内的各个指标的值;例如,输入 [ "SINGLE_TAG_LATEST_QUERY", "MULTI_TAG_LATEST_QUERY", "SINGLE_TAG_DETAIL_QUERY" ] 就可以顺序执行上述三个查询语句,输入其他名称会被忽略。默认为空,即不执行任何预设查询语句 |
|
--benchmark-custom-queries | 定制查询语句。使用 "," 分隔。例如,["SELECT COUNT(*) from t1", "SELECT MAX(ts) from t1"] 。默认为空,即不执行任何定制查询语句 |
|
--benchmark-combination-queries | 组合式查询语句的表达式。需根据 基本功能 文档中“组合式查询语句”功能部分介绍的语法撰写 | |
--benchmark-progress-format | list | 打印的 Benchmark 进度信息的格式, 支持 list / json |
--benchmark-parallel | 执行查询语句的并发度。可一次性设置多个并发度,按顺序遍历查询语句,使用 "," 分隔。例如,输入 [1, 8] 就可以先以并发度 1 跑各个查询语句,再以并发度为 8 跑各个查询语句。默认为空 |
|
--benchmark-run-times | 0 | 每个查询语句在每个并发度下执行的次数。mxbench 需要根据多次的执行结果进行延迟和 TPS 数据统计 |
--benchmark-runtime-in-second | 60 | 每个查询语句在每个并发度下执行的时间(秒)。mxbench 需要根据此时间内查询语句执行的结果进行延迟和 TPS 数据统计。此参数只在 --benchmark-run-times = 0 的情况下才生效 |
benchmark = "nil" |
2 命令行参数
命令行参数名 | 参数含义 |
---|---|
--run | 在命令行运行 mxbench |
--config | 打印完整的配置文件模版 |
--help | 显示用法和参数列表 |
--version | 显示版本 |
注意!
主要功能介绍请见 MatrixBench 主要功能;MatrixBench 进度信息与统计报告详解请见 MatrixBench 理解进度信息与统计报告。