YMatrix 文档
关于 YMatrix
标准集群部署
数据写入
数据迁移
数据查询
运维监控
参考指南
- MPP 架构
- 镜像分布策略
- 持续聚集
- 滑动窗口
- Grafana 监控指标解读
- Prometheus 监控指标解读
- 术语表
-
工具指南
- mxaddmirrors
- mxbackup
- mxbench
- mxdeletesystem
- mxgate
- mxinitstandby
- mxmoveseg
- mxpacklogs
- mxrecover
- mxrestore
- mxshift
- mxstart
- mxstate
- mxstop
- gpconfig
-
数据类型
-
存储引擎
-
执行引擎
-
系统配置参数
SQL 参考
- ABORT
- ALTER_DATABASE
- ALTER_EXTENSION
- ALTER_EXTERNAL_TABLE
- ALTER_FOREIGN_DATA_WRAPPER
- ALTER_FOREIGN_TABLE
- ALTER_FUNCTION
- ALTER_INDEX
- ALTER_RESOURCE_GROUP
- ALTER_RESOURCE_QUEUE
- ALTER_ROLE
- ALTER_RULE
- ALTER_SCHEMA
- ALTER_SEQUENCE
- ALTER_SERVER
- ALTER_TABLE
- ALTER_TABLESPACE
- ALTER_TYPE
- ALTER_USER_MAPPING
- ALTER_VIEW
- ANALYZE
- BEGIN
- CHECKPOINT
- COMMIT
- COPY
- CREATE_DATABASE
- CREATE_EXTENSION
- CREATE_EXTERNAL_TABLE
- CREATE_FOREIGN_DATA_WRAPPER
- CREATE_FOREIGN_TABLE
- CREATE_FUNCTION
- CREATE_INDEX
- CREATE_RESOURCE_GROUP
- CREATE_RESOURCE_QUEUE
- CREATE_ROLE
- CREATE_RULE
- CREATE_SCHEMA
- CREATE_SEGMENT_SET
- CREATE_SEQUENCE
- CREATE_SERVER
- CREATE_TABLE
- CREATE_TABLE_AS
- CREATE_TABLESPACE
- CREATE_TYPE
- CREATE_USER_MAPPING
- CREATE_VIEW
- DELETE
- DROP_DATABASE
- DROP_EXTENSION
- DROP_EXTERNAL_TABLE
- DROP_FOREIGN_DATA_WRAPPER
- DROP_FOREIGN_TABLE
- DROP_FUNCTION
- DROP_INDEX
- DROP_RESOURCE_GROUP
- DROP_RESOURCE_QUEUE
- DROP_ROLE
- DROP_RULE
- DROP_SCHEMA
- DROP_SEGMENT_SET
- DROP_SEQUENCE
- DROP_SERVER
- DROP_TABLE
- DROP_TABLESPACE
- DROP_TYPE
- DROP_USER_MAPPING
- DROP_VIEW
- END
- EXPLAIN
- GRANT
- INSERT
- LOAD
- LOCK
- REINDEX
- RELEASE_SAVEPOINT
- RESET
- REVOKE
- ROLLBACK_TO_SAVEPOINT
- ROLLBACK
- SAVEPOINT
- SELECT INTO
- SET ROLE
- SET TRANSACTION
- SET
- SHOW
- START TRANSACTION
- TRUNCATE
- UPDATE
- VACUUM
常见问题(FAQ)
-
新架构 FAQ
- 听说 5.x 下不能随便重启 Supervisor 了,为什么,如果重启了会发生什么?
- 为什么每个服务器上都有 Shard / Cluster 服务进程,但只有一个是活跃(active)状态?
- etcd 是部署在每台主机上吗?
- 日常我们需要针对 etcd 做哪些运维操作?
- etcd 的数据量有多大?是否需要特别的运维工作?
- 引入 etcd 后,图形化界面部署数据库集群操作有哪些变化?
- 5.0 现版本如何在线扩容?
- 5.0 beta 号称实现了 Master Auto-failover,为什么 Master 关机并切换后,再开机 Master 不会自动恢复?
- 当故障自动转移(Auto-failover)发生在不同组件,会分别产生什么影响?我要如何进一步操作?
- YMatrix 5 单个组件启动
- 我不想安装 etcd,可以选择在 YMatrix 5.X 上安装无 etcd(非高可用)的集群吗?
- Master 发生自动切换的延迟是多久?
- Segment 是否可以被 supervisor 自动恢复?
- 当半数以上的 etcd 进程异常(被杀死或无法启动)后,集群出现宕机,是正常现象吗?
-
集群部署 FAQ
- error: could not access directory /data/mxdata_20221104084534/master/mxseg-1: Permission denied
- yum 安装 matrixdb 包后报错 cpio read error
- could not connect to server: No route to host
- setuptools 报告不支持参数:unknown distribution option:long_description_content_type
- ssh 默认端口不是 22
- 图形化界面初始化报错:ping <主机名1> error:lookup multiple ip:<IP 地址1>,<IP 地址1> ping <主机名2> error:lookup multiple ip:<IP 地址2>,<IP 地址2>
- 使用图形化界面部署 YMatrix 报错 failed to connect to host=mdw user=mxadmin database=postgres: dial error (dial tcp 192.168.247.132:5432: connect: connection refused)
- 添加主机失败 collect: do collect: unmarshal remote: json: cannot unmarshal string into Go struct field Disk.hardware.disk.ineligibleDesc of type mxi18n.Message
- 集群启动报错
- 图形化部署 YMatrix 报错:优化操作系统配置 ... 已撤销...
- 安装 YMatrix 安装包报错,缺少依赖
- 由于服务器内核参数配置异常导致 Supervisor 启动异常 panic: timeout to start gRPC service
- 安装 YMatrix 收集信息失败
- 初始化失败,报 failed: initialize_database: error execute /opt/ymatrix/matrixdb-5.0.0+enterprise/bin/initdb
- 可以使用 Nginx 为图形化界面配置域名吗?
- Interconnect error writing an outgoing packet: operation not permitted
- 由于环境限制,我没办法使用图形化部署 YMatrix,可以使用命令行部署的方式吗?
- /etc/hosts 文件缺少 localhost 配置选项导致 Supervisor 服务启动异常
- YMatrix 至少需要多少服务器才能实现新架构中 etcd 集群的高可用?
- 安装数据库时报错 LOG: gp_role forced to 'utility' in single-user mode Y.sh: line 1: 11865 Illegal instruction
-
SQL 查询 FAQ
- ERROR: EvalPlanQual can not handle subPlan with Motion node
- ERROR: Too many unresolved insertion xids, please do a vacuum
- ERROR: modification of distribution columns in OnConflictUpdate is not supported
- 图形化客户端收到 log:server closed the connection unexpectedly
- PARTITION 表简单 Filter 操作的 UNION ALL 查询比 IN 查询慢
- 插入 int 类型数据,单独查询跑很快,但放到 Plpgsql Function 里很慢
- PARTITION 分区裁剪更新操作,两个会话(Session)独立更新会导致互锁
- 自定义 type 使用及单表字段扩展
- ERROR,XX000,Right sibling's left-link doesn't match : block 817 links to 45366 instead of expected 70930 in index tab_idx
- 更新删除时报错 cannot delete from table &tablename because it does not have a replica identity and publishes deletes
- ERROR: could not read block 0 in file base/1588803/269422
- 行转列示例
- 列转行示例
- pg_hba.conf 文件内容配置的顺序导致的远程访问权限异常
- idle in transaction timeout 报错
- insufficient memory reserved for statement 报错
- evalplanqual can not hanlde subplan with motion node 报错
- 在客户端创建表在 Linux 上查询不到,但是客户端上可以查询到
- UUID 分布键插入数据出现数据丢失、数据重复问题
- 数据库对应的操作系统版本从 CentOS7 升级到 CentOS8,查询语句性能下降
- 执行 SQL 语句时显示 insufficient memory reserved for statement 错误
- 创建 matrixts 扩展时报错 ERROR: type mxkv_text already exist
-
MatrixGate FAQ
- 数据加载性能低
- failed to acquire resources on on or more segments ,fatal out of memory
- mxgate 发生锁等待卡住
- mxgate 排除某一列
- mxgate 流式加载增加列不停服的办法
- mxgate socket 文件缺失?
- data format error: invalid input syntax for type integer: 1970-01-01 00:00:01
- mxgate 入库时间字段默认值相差 8 小时
- Aborting operation regardless of REJECT LIMIT value, last error was: invalid input syntax for type timestamp: 22:31:01, column batch_num
- ERROR c.s.o.matrixdb.MatrixdbSource 77 -MatrixdbSource sendingPostRequest errorCode: 400, errorMsg: target table name is empty
- responseCode:500 errorMsg: ERROR: invalid byte sequence for encoding UTF8: 0x81
- body size exceeds the given limit
- you license is expired 2022-11-02
- 使用 MatrixGate 迁移数据报错:Cannot start source: --local-ip localhost is not a valid IP address
- 使用 MatrixGate 数据加载表数据存在双引号
- MatrixGate 升级
- MatrixGate 需要加载包含 unix 时间数据的数据文件,但数据文件中 unix 数据所在的字段不是第一个字段
- MatrixGate 加载数据文件中有 \N 字符
- MatrixGate 通过迁移模式写入时出现 Handshaking was terminated on port XXX
- MatrixGate 可以实现任意列时间戳转换吗?
- MatrixGate JAVA SDK JAR 包可以下载到本地导入吗?
- Kafka 消费 key 字段包含 @ 符号,数据解析找不到 value
- mxgate 迁移模式非 mxadmin 用户提示没有权限
-
运维 FAQ
- 忘记密码
- ssh_exchange_identification: Connection closed by remote host
- psql: WARNING: database testdb must be vacuumed within 529926866 transactions (seg35 192.168.247.129:6005 pid=448116)
- could not read block 3684552 of temporary file
- YMatrix 可以修改服务器主机名(Hostname)吗?
- 数据库启动报错 FATAL: database postgres does not exist
- rpc error: code = Unknown desc = primary not found in shard state
- mxaddmirrors 执行部署添加 Mirror 报错
- ERROR: replication slot internal_wal_replication_slot already exists
- ERROR: interconnect Error: Could not set up tcp listener socket
- 使用 mxshift 工具进行迁移之前,如何增加白名单?
- 如果我在内网环境使用 mxshift 工具,需要开通哪些端口?
- index ron requires 19160 bvtes, maximum size is 8191
-
监控告警 FAQ
- 可以离线安装 Grafana 监控吗?
- Grafana 报错 Annotation Query Failed No message available
- Grafana 发送邮件报错 smtp; 554 Reject by behaviour spam at Rcpt State(Connection IP address:***) ANTISPAM_BAT[01201311R106a,ay29a033002195086]: spfcheck failedCONTINUE
-
PXF FAQ
- remote component error,Failed connect to localhost:5888; Connection refused (libchurl.c:950)
- 文件入库时,某一个字段包含换行符,将一行数据切分成两行,再以分隔符切分,就会导致数据与字段数不一致,也就是说一行数据里有两个 \n 一个在中间一个在尾部 但是中间那个不能被当做换行符处理
- PXF 访问 S3 可以递归当前目录,或者所有子目录下的所有文件吗?
- PXF 可以读取 S3 存储上的文件吗?如何读取?
-
PLPython FAQ
- PLPython 和 Python 连接数据库操作的区别与优劣是什么?
- 如何在数据库中使用 PLPython
- PLPython 中如果需要第三方的库怎么安装?
- Python 访问 YMatrix 数据库示例
- Python 批量插入数据示例
- PLPython 中使用 Python 代码
- PLPython 标准异常处理
- 使用 traceback 处理 PLPython 异常
-
性能 FAQ
YMatrix - 企业级超融合数据库
YMatrix 是一款超融合的关系数据库产品
YMatrix 是四维纵横公司基于 PostgreSQL/Greenplum 经典系开源数据库开发的超融合数据库产品。除游刃有余在时序场景,它还同时支持在线事务处理(OLTP)、在线分析处理(OLAP)等经典场景。
它将围绕高可用、安全、高性能、自动化运维、可视化安装和数据处理等企业需求,为企业用户需求落地提供保障。
其核心价值是超融合架构、高性能读/写、高压缩率及高可用。
YMatrix 也提供了社区版本,欢迎你的体验与反馈。
YMatrix 具有超融合、高性能、高可用的核心价值
- 超融合架构
YMatrix 的超融合架构可以解决传统数据库信息孤岛的问题,实现“一库多用”。
- 微内核:通过配置不同微内核(存储引擎+执行引擎组合)来适配不同的业务场景,譬如 HEAP 存储引擎+火山执行引擎适配 TP 场景,MARS3 存储引擎+向量化执行引擎适配时序场景等。
- MPP:YMatrix 使用 MPP 架构来分布数据库的负载,并尽可能使用所有系统资源并行处理一个查询,以达到高性能。
- 高性能
YMatrix 关注全场景性能表现,包括写入、存储、查询、分析、机器学习等。
- 写入:数据高速写入工具 MatrixGate 支持接入不同数据源/类型,支持批量写入、流式写入,实现实时入库的同时提供完整的事务保证。
- 存储:提供 MARS 系列存储引擎,支持行列混存,支持编码压缩。提供 HEAP、AO 等传统存储引擎。支持自动回收过期分区及创建新分区。
- 查询:提供向量化执行引擎技术,Runtime Filter 优化技术,在分析场景和实时查询场景性能遥遥领先。
- 高可用
- 故障自动转移(Failover):YMatrix 5.X 采用全新自动运维机制,当集群的 Master、Primary 实例发生故障时,可自动切换主备节点,完成故障转移。
- 故障自动恢复(Failback):故障自动转移完成后,相应节点对仅存 Primary/Master,没有健康的备用节点。如果再出现故障,则无法恢复。所以需要使用 mxrecover 工具为新的 Primary/Master 生成健康的 Mirror/Standby 节点。
- 流式复制机制:支持通过 PostgreSQL 的流式复制机制实现主备节点的数据同步。
YMatrix 具有可视化安装运维、企业级安全、完备生态等核心能力
- 可视化安装运维
- 图形化安装:10 分钟完成集群部署;3 分钟模拟时序场景的查询与写入。
- 图形化运维监控:一键自助巡检,一键秒级扩容。
- 企业级安全
YMatrix 具有 360 度的安全访问机制,包括认证、权限控制、加密、审计、资源控制。
- 认证:丰富的认证方法。信任认证、口令认证、PAM 证等多种认证方式。
- 权限控制:采用基于角色的访问控制机制,通过角色机制,简化了用户和权限的关联性。
- 加密:提供不同级别的加密。口令存储加密;为指定字段加密;SSL 主机认证;客户端加密;透过网络加密数据;跨网络加密口令;数据库分区加密。
- 审计:记录用户的登录退出以及登录后在数据库里的行为操作,根据安全等级不一样设置不一样级别的审计。
- 资源控制:有严格的地址访问限制,确保用户来源可信;可配置用户最大并发连接数;具有默认的连接超时策略。
- 完备生态
- 完全兼容 PostgreSQL/Greenplum 生态上下游工具链。
YMatrix 支持多种业务场景
- 有复杂数据处理业务,需要融合架构的场景
在传统工业企业中,海量数据由于组织战略、架构设置、数字化建设等原因,分散存储在组织的各个部门、业务系统、应用之中,彼此无法互联互通,也无法被利用,形成了一个又一个的信息孤岛,除技术上难度指数高外,更是严重影响了企业经营中对竞争优势的获取。数据孤岛大大制约着企业的管理、经营、发展,是企业数字化转型必须打破的难关。
目前,YMatrix 的超融合架构已成功应用于工厂数据基座、大型公司集团数仓、智能网联汽车、物联设备智能运营等真实生产场景,大幅降低企业选型、采购、使用及运维时的技术门槛,得到良好反馈。如在智能制造场景中,一库即可完成对企业资源计划系统(ERP,Enterprise Resource Planning)数据、制造执行系统(MES,Manufacturing execution systems)数据、设备数据等的采集、存储、计算、建模、查询、分析。
- 有复杂时序分析的场景
时序数据是物联网、车联网、工业互联网和智慧城市的基础数据,其核心特征即实时,对数据库写入、存储能力要求高,如何在保证性能的同时控制成本;如何更安全、快速地实现扩容,避免数据积压;如何降低技术门槛,更快速准确地应对新的数据需求,成为了企业必须要解决的问题。
YMatrix 针对时间进行了优化。得益于 MARS 系列存储引擎物理排序、异频上传、分批上传数据及 MatrixGate 高并发、高性能批量写入数据的能力,YMatrix 可以超越期待地满足企业时序场景下的实时入库,高速写入,实时查询,事务保证等需求。
YMatrix 支持图形化扩容,操作简洁,轻松秒级扩容;支持平滑扩容,无需中断业务,保障业务安全、流畅,减少停机损失,降低风险。
- 有海量设备的泛物联网场景
常见的泛物联网场景有智慧园区、智能家居、智能交通、智慧水务、智慧农业、智慧气象等。海量设备意味着海量数据的写入、存储与查询,存储的成本(压缩比)、访问的效率(解压效率)是此场景数据基础设施稳定性建设的决定性因素,高速写入、实时查询性能则是终端用户体验的重要指标。
除 PB 级集群容量外,YMatrix 还具备专利编码链压缩技术,支持业务人员对每一个数据列的数据特征因地制宜地采用最适合编码方案,从而达到最佳性价比,为企业节省超 50% 存储成本,让海量数据存储不再是负担。
得益于 MatrixGate 高并发、分布式、流式、批量写入数据的能力,YMatrix 在硬件性能的配合下,可实现秒级入库。
得益于全面向量化(5.0 版本及以上),YMatrix 的 SSB 性能经测试是 Clickhouse 的 1.24 倍,达到世界级的高吞吐、低延迟查询。
- 传统数仓 OLAP 场景
YMatrix 兼容 PostgreSQL/Greenplum 生态,可以支持金融、电信、政府、能源、制造等行业经典的 OLAP 场景,支持商务智能(BI,Business Intelligence)和报表分析。
此类场景更多见非时序数据,使用 Hadoop 生态完成数据生产及消费:Hadoop 平台储存历史数据,再使用 Spark 计算报表指标,过程复杂。
使用 YMatrix 可以通过融合结构化、非结构化数据类型、数据联邦访问、图形化接入 Kafka 数据流、冷热数据分离等功能一站式实现此场景所需的数据消费,同时具备故障自动转移、故障自动恢复机制,安全、简洁、易用。