YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
- pgvector
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
CentOS 7、Red Hat 7 等操作系统下部署集群
注意!
YMatrix 使用了向量化技术以提升查询性能,若部署的主机(物理机/虚拟机)不支持 AVX2 指令集,则会导致部署失败。
若您使用虚拟机部署,请确保宿主物理机支持 AVX2 指令集,并在配置项中开启。
- 操作系统及平台要求
操作系统 | 支持的 CPU 架构 |
---|---|
CentOS 7 Red Hat Enterprise Linux 7 |
x86_64 |
- 示例集群信息
此文档以三个节点为例,主节点为 mdw,两个数据节点分别为 sdw1 和 sdw2。
本课程教学视频请参考 YMatrix 安装与部署
服务端安装
服务端安装过程包括查看服务器基本信息、安装准备、数据库 RPM 包安装、Python 依赖包安装、数据库部署和安装后设置共 6 个环节。
1 查看服务器基本信息
在进行安装操作前,先查看服务器基本信息。无疑,这是一个好习惯,了解一台服务器有助于你更好地规划部署集群。
步骤 | 命令 | 用途 |
---|---|---|
1 | free -h | 查看操作系统内存信息 |
2 | df -h | 查看磁盘空间 |
3 | lscpu | 查看 CPU 数量 |
4 | cat /etc/system-release | 查看操作系统版本信息 |
5 | uname -a | 以如下次序输出所有内核信息(其中若 -p 和 -i 的探测结果不可知则被省略):内核名称;网络节点上的主机名;内核发行号;内核版本;主机的硬件架构名称;处理器类型(不可移植);硬件平台(不可移植);操作系统名称 |
6 | tail -11 /proc/cpuinfo | 查看 CPU 信息 |
2 安装准备
2.1 复制 RPM 包
将 RPM 包从本地复制到远程服务器的 所有 节点。
~ scp <本地路径> <用户名>@<服务器 IP 地址>: <服务器路径>
2.2 安装依赖
注意!
在 所有 节点上,通过 root 用户或使用 sudo 权限执行下列操作。
YMatrix 需要 Python 3.6,请使用下列命令安装并将 Python 3.6 设为默认版本:
# yum install centos-release-scl
# yum install rh-python36
# scl enable rh-python36 bash
2.3 修改机器配置
关闭防火墙:
# systemctl stop firewalld.service
# systemctl disable firewalld.service
关闭 SELinux, 编辑 /etc/selinux/config,将 SELINUX 的值设为 disabled:
# sed s/^SELINUX=.*$/SELINUX=disabled/ -i /etc/selinux/config
# setenforce 0
确保 所有 节点上有持久不变的主机名,如果不存在,请用下述命令设置主机名,示例中主机名设置为 mdw:
# hostnamectl set-hostname mdw
两个子节点也分别设置对应的主机名,示例中为 sdw1,sdw2:
# hostnamectl set-hostname sdw1
# hostnamectl set-hostname sdw2
确保集群中所有节点都可以相互通过主机名、IP 访问。在 /etc/hosts 添加记录,将主机名映射为一个本地网卡地址。
# vim /etc/hosts
例如,三个节点的 /etc/hosts 都应包含以下内容:
192.168.100.10 mdw
192.168.100.11 sdw1
192.168.100.12 sdw2
3 数据库 RPM 包安装
注意!
你需要在所有服务器节点上,通过 root 用户或使用 sudo 权限执行下述yum
命令安装数据库 RPM 包,系统依赖库会一并自动安装。
缺省会安装在 /opt/ymatrix/matrixdb5
目录下:
# yum install matrixdb5_5.2.0+enterprise-1.el7.x86_64.rpm
安装成功后,会自动启动 supervisord、MXUI 进程。这些后台进程用于提供图形化操作界面及进程管理服务。
如果你有配置端口的需求,在安装完 RPM 包后修改 /etc/matrixdb5/defaults.conf
文件进行配置。此操作只在 Master 上进行即可。
# vim /etc/matrixdb5/defaults.conf
4 数据库部署
这里仍然使用 YMatrix 提供的图形化部署。远程图形化部署通过 8240 和 4617 端口可以访问。安装完成后,所有节点的这些端口会默认打开。图形化界面服务由 MXUI 进程提供。
注意!
无法使用图形化界面部署 YMatrix,请参照命令行部署。
使用浏览器访问以下图形化安装向导 URL,此处填写 IP 地址的服务器将成为你集群的 Master (此示例中为 mdw):
http://<IP>:8240/
安装向导的第一个页面,需要填写超级用户密码,使用 sudo more /etc/matrixdb5/auth.conf
命令查看即可。
第二个页面选择“多节点部署”,然后点击下一步。
接下来开始多机部署的四步操作。
第一步,添加节点,点击“添加节点”按钮。
文本框里输入 sdw1 和 sdw2 的 IP 地址或主机名或 FQDN,点击“确定”,点击“下一步”。
第二步,配置集群参数,“数据镜像”决定了集群数据节点是否包含备份镜像,在生产环境中建议启用,这样集群才是高可用的。系统自动推荐空间最大的磁盘和与系统资源相匹配的 segment 数目,可根据具体使用场景调整。配置好的集群结构可以通过示意图查看。确认后点击“下一步”。
第三步,设置数据存储路径和 etcd 路径。需要为每台服务器都选择一个 etcd 存储路径,etcd 集群会随机在其中的奇数个服务器上创建,以保证选举结果的唯一,不会产生平局。
如果勾选右上选框,使用数据磁盘部署 ectd,则需要了解已知风险。
第四步,执行部署,该步骤会列出来之前的操作的完成配置参数,确认无误后,点击“执行部署”。
随后系统会自动进行集群部署,并列出详细步骤和执行进度。所有的步骤都成功执行后,表示部署完毕。
完成部署。
5 安装后设置
YMatrix 缺省安装支持远程连接,如果在安装过程中没有勾选“允许远程连接至数据库”,请手工修改 $MASTER_DATA_DIRECTORY/pg_hba.conf
文件添加类似这样一行,表示允许来自任何 IP 的访问所有数据库的用户通过密码认证连接,可以根据实际需要限定 IP 范围或者数据库名称以减少安全风险:
host all all 0.0.0.0/0 md5
完成这些修改后,需要切换到 mxadmin 用户,并执行下述命令让数据库重新加载 pg_hba.conf
配置文件:
# su - mxadmin
$ mxstop -u
YMatrix 的启动、停止、重启、状态查看可以通过下述命令分别完成:
$ mxstart -a
$ mxstop -af
$ mxstop -arf
$ mxstate -s
命令 | 用途 |
---|---|
mxstop -a | 停止集群。(此模式下,如果有会话链接,关闭数据库会卡住) |
mxstop -af | 快速关闭集群 |
mxstop -arf | 重启集群。等待当前正在执行的 SQL 语句结束(此模式下,如果有会话链接,关闭数据库会卡住) |
mxstate -s | 查看集群状态 |