YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
报警配置
Grafana 的报警(Alert)功能是在配置监控的基础上,检测对应监控指标是否符合设置的触发标准,用于通知并帮助及时发现和修复问题,保障你的集群安全且稳定。 本节描述了配置监控报警组件和管理使用的步骤。YMatrix 可为以下指标提供监控报警功能。
- 数据库是否可以连接
- 集群中是否有实例宕机
- 数据目录空间使用率高于指定值
- 磁盘读写 I/O 高于指定值
并为各个指标配置了四种报警方式,你可酌情选择,或组合使用。分别是:
- 短信报警
- 电话语音报警
- Email 报警
- 钉钉报警
为了使用报警功能,你需要首先部署启用监控,详细步骤请见:监控部署
部署后会得到下图界面:
1 部署
在导入预定义的报警面板进行部署配置之前,你需要先把 alert.json 文件从服务器拷贝到本地。与 Grafana中导入 dashboard.json 和 database.json 文件类似,思路为:首先在服务器上找到该文件,然后进行复制操作,最后在本地导入上传。具体步骤如下 :
首先登陆服务器,切换至 mxadmin 用户,在图片所示路径处查找到 alert.json 文件。你可以使用 cd 命令,也可以使用 find 命令,或是其它任何你擅长使用的方法。
[mxadmin@mdw ~]$ cd /opt/ymatrix/matrixdb5/share/doc/postgresql/extension
##or
[mxadmin@mdw ~]$ find /opt/ymatrix/matrixdb5/share/doc/postgresql/extension -name alert.json
其次,使用 scp 命令将文件复制到本地,此处可能会涉及到权限问题,可以考虑先将文件复制到公用区域 /tmp/ ,再从 /tmp/ 将文件复制到本地。
注意!
将文件从 /tmp/ 复制到本地时要注意切换用户,以避免权限问题。
[mxadmin@mdw]$ scp mxadmin@< 服务器IP地址 >:/opt/ymatrix/matrixdb5/share/doc/postgresql/extension/"alert.json" mxadmin@< 服务器IP地址 >:/tmp/
~ scp waq@< 服务器IP地址 >:/tmp/"alert.json" /Users/akkepler/workplace/Grafana
最后直接点开本地文件夹,或者用命令行检查文件是否复制成功。成功后,需要在本地批量修改 alert.json 文件的变量 $host 为实际的全部主机名。意思即假如你现在拥有集群 master + 2 segment,名称分别叫做 mdw,sdw1,sdw2,那么你需要将你的 alert.json 文件中的所有 $host 均改为 'mdw','sdw1','sdw2' 。修改完毕在 Grafana 界面导入上传文件即可。
注意!
在部署你的 Grafana 界面时上穿的 dashboard.json 文件以及 database.json 文件也需要修改变量,且上传顺序必须在 alert.json 文件之前。dashboard.json 需要修改所有 ${cluster} 为 local ,且 $host 为实际的全部主机名。database.json 只需修改前者。
选择 alert.json 文件,该文件位于 /opt/ymatrix/matrixdb5/share/doc/postgresql/extension。
报警面板与监控面板使用方式一致,可以通过下拉列表互相切换。下拉列表位于各面板的右上角。
2 配置说明
2.1 配置报警渠道
首先需要配置报警渠道(Notification Channels), 入口如下所示:
2.1.1 短信报警
YMatrix 内置了基于阿里云短信服务的报警功能,建议使用。选择内置服务,若触发报警,会向你配置的手机号发送短信。支持批量发送。使用前需要申请并配置阿里云的短信服务,详细步骤请参考:
你也可以自行配置 Webhook 进行短信报警,需要编程实现 Webhook 的逻辑,具体方法请见 Grafana Alert 文档:Webhook Notifications
2.1.1.1 编写配置文件
在 /etc/matrixdb/ 目录下, 创建 alert.yaml 文件
# aliyun service config
aliyun_service:
access_key_id: "your access_key_id"
access_key_secret: " access_key_secret"
signature: "signature"
sms_template_code: "SMS_123445678"
其中 access_key_id 和 access_key_secret 分别是开通阿里云服务后分发的 Access Key ID 和 Access Key Access.signature 是在阿里云短信服务控制面板里注册成功并审核通过的签名原文,sms_templatecode 是以 "SMS" 开头的、在阿里云短信服务控制面板里注册成功并审核通过短信模版代码。模版原文在阿里云平台可以查看。其中承载具体报警信息的变量设置为 ${name}。 以下是一个示例:
尊敬的管理员您好,贵公司的数据库系统发生 ${name} 报警,请登陆网站查看详情,并及时处理。
2.1.1.2 在 Grafana 配置 WebHook
如图所示:
Channel 名称建议遵守如下规则填写:
Aliyun Batch Short Message - For SuperAdministrators
其中 "SuperAdministrators" 是一组需要接收报警通知的人员。如需定义另一组需报警通知的人员,你需要另行配置规则。除此之外, “phoneNumbers” 参数大小写敏感,可以配置多个以实现批量发送,用英文逗号分开。
http://
: /api/alert/batch-sms?phoneNumbers=18311111111,13811111111
2.1.2 电话语音报警
除短信报警功能外,YMatrix 同时内置了基于阿里云电话语音服务的报警功能,若触发报警,会向你配置的手机号拨打电话。同样支持批量拨打。使用前需要申请并配置阿里云的语音电话服务,详细步骤请见:阿里云文档:国内语音服务快速入门
你也可以自行配置webhook进行电话语音报警,不过需要编程来实现Webhook的逻辑。在此不详述,如果你感兴趣的话,具体方法请见 Grafana Alert 文档:Webhook Notifications
2.1.2.1 编写配置文件
在 /etc/matrixdb/ 目录下的 alert.yaml 文件添加 tts_template_code, region_id 两项内容。
# aliyun service config
aliyun_service:
access_key_id: "your access_key_id"
access_key_secret: " access_key_secret"
signature: "signature"
sms_template_code: "SMS_123445678"
tts_template_code: "TTS_123456788"
region_id: "cn-hangzhou"
其中 access_key_id 和 access_key_secret 与信息服务共用。 tts_templatecode 是以 "TTS" 开头的、在阿里云 TTS 语音服务控制面板里注册成功并审核通过TTS语音模版代码。模版原文在阿里云平台可以查看。其中承载具体报警信息请的变量设置为 ${name}。 以下是一个示例:
尊敬的管理员您好,贵公司的数据库系统发生 ${name} 报警,请登陆网站查看详情,并及时处理。
2.1.2.2 在 Grafana 配置 WebHook
Channel 名称建议遵守如下规则填写:
Aliyun Voice Message - For SuperAdministrators
其中 "SuperAdministrators" 是一组需要接收报警通知的人员。如需定义另一组需报警通知的人员,你需要另行配置规则。除此之外, “phoneNumbers” 参数大小写敏感,可以配置多个以实现批量发送,用英文逗号分开。
http://
: /api/alert/vms?phoneNumbers=18311111111,13811111111
2.1.3 Email 报警
Grafana 还内置了 Email 报警渠道,配置简单,使用方便。
2.1.3.1 编写配置文件
因为是 Email 报警是 Grafana 的自带功能,所以配置 SMTP 服务器是在 Grafana 的配置文件内。Grafana 的配置文件可能因 Grafana 的部署情况而变,在 CentOS 7 上的默认路径是:
/etc/grafana/grafana.ini
更多相关信息请见:Grafana 官方文档: Configuration
我们为你准备了一种可能的配置:
#################################### SMTP / Emailing #####################
[smtp]
enabled = true
host = <your smtp host>
user = <your user>
# If the password contains # or ; you have to wrap it with triple quotes. Ex """#password;"""
password = <your password>
;cert_file =
;key_file =
skip_verify = true
from_address = <your email address>
from_name = Grafana
;ehlo_identity =
;startTLS_policy =
[emails]
welcome_email_on_sign_up = false
templates_pattern = emails/*.html
2.1.3.2 在 Grafana 配置 Email 报警渠道
如图所示: Channel 名称建议遵守如下规则填写:
Email - For SuperAdministrators
其中 "SuperAdministrators" 是一组需要接收报警通知的人员。如需定义另一组需报警通知的人员,请另行配置规则。
注意!
如配置不成功,你可以根据 /var/log/grafana/grafana.log 文件查看原因。
2.1.4 钉钉告警
YMatrix 提供了基于钉钉的告警功能,若触发告警,你提前设置好的告警机器人会在群中发送提示信息。为了充分地利用此功能,你需要提前做好钉钉软件内部以及 Grafana 界面的双重配置。
2.1.4.1 配置钉钉软件
如图所示: 你需要创建一个钉钉群,并配置一个或多个钉钉告警机器人。
在“添加机器人”界面点击设置按钮,选择“自定义”,你可以自定义机器人名称,并添加告警推送关键字,最后保存告警推送地址即可。
2.1.4.2 在 Grafana 界面创建推送规则
首先,需要在 Grafana 界面创建推送规则,填写相关选项。 配置完成后,点击 “Test” 检查 Grafana 与钉钉是否连通,如果连通,可以在钉钉告警群内点击相关告警信息跳转到 Grafana 界面,如果网页加载失败,报错 “localhost 拒绝了我们的连接请求”,你可能是忘记了修改 localhost 为你的 IP 地址。
2.2 报警
报警渠道配置完毕后,你需要为各个监控报警视图配置报警(Alert)参数。 参数配置以及其他信息请见:Grafana 官方文档: Alert
将鼠标悬停在具体报警模块名称上,你可以看到名称右方的下拉箭头。点击"Edit"进入编辑面板。
将 "Edit Panel" 下方的 “Query” 切换到 "Alert" 菜单下。请注意如果此时跳出一个窗口 "Notifier with invalid ID is detected",请不要点击 "Delete",否则你可能会将面板删除,前功尽弃。点击 "Cancel",然后关闭窗口即可。
下滑即可看到 "Notifications"。请用简洁的短语描述报警提示信息,建议四~六字,这个短语将会出现在 Email 中,并作为短信及语音模版中内置变量发送给管理员。短信及语音字数有限制,不要超过长度。同时,根据你的需要灵活选择发送(Sent to)选项,即你刚刚通过以上大量说明配置出的一种或多种报警渠道。
2.2.1 连接报警
时序数据库聚合的是一段时间内的数据,可能由于时间的问题,聚合的时候没有获取到数据,例如 Grafana 时间比系统时间超前五分钟,聚合最近一分钟的数据,这种情况下就会出现没有数据。除此之外,数据采集有问题,没有正常写入库,也会造成 No Data 情况的出现。对“没有数据”(No Data)情形的处理是“Alerting”。
2.2.2 实例状态报警
如图所示:
2.2.3 磁盘空间报警
磁盘空间报警(Used Disk Space)的红色警戒线是报警设置的触发值,红色阴影部分已超出警戒线,是危险信号。我们给到 85% 的报警默认值,你也可以根据你的需要自定义 "IS ABOVE"。
2.2.4 磁盘IO读/写报警
磁盘 I/O 读写报警(Disk IO Reading、Disk IO Writing)默认值为不报警,给予你充分的自定阈值空间。
注意!
改动后需点击“save 键”,你的报警设置才会被应用。
FAQ
- alert.yaml 配置文件若有修改,请使用如下命令使之生效:
source /opt/ymatrix/matrixdb5/greenplum_path.sh supervisorctl stop mxui supervisorctl start mxui