版本发布
注意!
实验特性(Experimental)是某特定版本中存在但未正式发布的特性,会在未事先通知的情况下发生语法或实现上的变化或直接删除,请慎用。
4.8.12 发布介绍
错误修复
4.8.11 发布介绍
错误修复
4.8.10 发布介绍
错误修复
4.8.9 发布介绍
增强与改进
- MatrixGate:
- 支持对指定任务启用或关闭自动调节 slot 数量的功能,支持查询所有任务或指定任务的调节状态。(文档)
- 引入 [writer.stream] 类别下的 --abort-by-pause-timeout 参数。支持当任务(Job)进入 pause 状态时,根据此参数规定的超时时间,放弃内存里堆积的数据。(文档)
- 支持通过 HTTP 的方式批量写入 JSON 类型数据。(文档)
错误修复
4.8.8 发布介绍
错误修复
4.8.7 发布介绍
错误修复
4.8.6 发布介绍
错误修复
4.8.5 发布介绍
错误修复
4.8.4 发布介绍
错误修复
4.8.3 发布介绍
特性发布
- mxshift 功能增强(文档):
- 配置文件中 [database.source] 类别新增
install-dir 配置项,此项替换掉了原 [scope] 类别下的 gphome 参数,用以配置数据库安装路径。
- 配置文件中 [database.source] 类别新增
hostname-to-ip 配置项,支持指定主机名对应的 IP 地址。
错误修复
4.8.2 发布介绍
特性发布
- MatrixGate 升级:
- 支持针对数据写入的全流程观测,用于调试 MatrixGate 到 Segment 的传输性能。(文档)
- 支持热更新 MatrixGate 日志级别。(文档)
- [实验特性]提供 --source 参数中所有数据源(http / stdin / kafka / transfer / grpc)类型下的 JSON 格式数据的解析及映射支持。(文档)
- [实验特性]--dml-template 参数支持对接 TEXT / CSV 格式的数据。(文档)
- Master 手动切换到 Standby 后,向 MatrixGate 写入的指标信息会切换为写入 Standby。
- 当停止一个未进行写入数据操作的事务时,速度大幅增加。
- mxshift 功能增强(文档):
- 以数据库为单位,实现对数据表 DDL 的迁移,并且可选择是否只迁移 DDL。
- [实验特性]支持将数据表 DDL 导出到文件。
- [实验特性]支持数据表 DDL 文件直接导入或修改后并发导入数据库。
- 图形化界面升级:
- 部署页面全新升级,步骤更加简单。(文档)
- 扩容页面全新升级,步骤更加轻便。(文档)
- 增加 Segment 高可用状态检测功能。(文档)
- 健康监测页面升级,优化页面效果。(文档)
- 轻松上手文档升级,增加写入测试和查询测试页面。(文档)
- 监控增强:
- 允许自定义监控脚本:支持用户在通过 mxmgr_init_local() 或 mxmgr_init_exporter() 部署 Grafana / Prometheus 监控时,通过修改监控脚本,自行开发监控项目。(文档)
错误修复
4.8.1 发布介绍
特性发布
- 新增存储诊断工具 Datainspect。此工具只适用于 MARS2 表。(文档)
- MatrixGate JAVA SDK 功能增强,写入性能大幅提升。(文档)
- 图形化界面升级:
- 查询监控页面新增阻塞会话监测功能。(文档)
- 集群管理页面全面升级,分为指标视图、实例视图、列表视图三个板块。(文档)
错误修复
4.8.0 发布介绍
特性发布
- MatrixGate 升级:
- 支持到 Segment 的 ZSTD 压缩数据传输。(文档)
- 支持通过集成 JAVA SDK 简化数据写入代码。(文档)
- 图形化界面新增:
- 健康监测界面,可通过配置邮箱及时收到告警邮件。(文档)
- 热升级功能,支持单独升级图形化界面。(文档)
- mxbackup 支持 S3 对象存储插件,将数据上传到 S3 对象存储。(文档)
- mxshift 功能增强。(文档)
- 新增日志采集及打包工具 mxpacklogs。(文档)
- Ubuntu20 平台支持。(文档)
- Grafana 监控项增强。(文档)
错误修复
4.7.5 发布介绍
错误修复
4.7.4 发布介绍
错误修复
4.7.3 发布介绍
错误修复
4.7.2 发布介绍
错误修复
4.7.1 发布介绍
错误修复
4.7.0 发布介绍
特性发布
- 支持 CREATE INDEX CONCURRENTLY 语法。(文档)
- 新增数据迁移工具 mxshift。(文档)
错误修复
4.6.1 发布介绍
- MatrixGate 升级:
- 对于 Kafka 接入的 JSON 数据, 支持使用 dml-template 参数自定义 JSON 至数据列的映射关系。
- 新增 Kafka 身份认证机制。使用 SASL框架,目前支持 SCRAM 验证。
- 修复已知错误。
4.6.0 发布介绍
- MARS2 存储引擎聚集查询性能大幅优化。
- 图形化界面全面升级:
- 外观升级,极致视觉体验。
- 增加轻松上手功能,一键体验时序业务场景。(文档)
- Kafka 数据流写入支持自动创建 MARS2 表。(文档)
- 新增图形化界面扩容。(文档)
- MatrixGate 升级:
- 新增不停机更新并行写入相关参数的功能。(文档)
- 新增不停机更新表结构的功能。(文档)
- 迁移模式不再需要大量连续端口。
- 支持在 UDF 内调用。
- Grafana 监控页面升级,支持 Prometheus 数据监控。(文档)
- 国产化平台支持:银河麒麟 V10 操作系统 + ARM 平台支持。
- 修复已知错误。
4.5.0 发布介绍
- MARS2 存储引擎隆重发布,UPSERT 场景优化显著,并且后台自动压缩,省去了转表过程。(文档)
- 新增查询统计组件,可以用来统计查询使用时间和资源消耗。(文档)
- MatrixGate 升级(文档):
- 支持任意列 timestamp 转换。
- 新增 watch 功能,可以查看 MatrixGate 写入数据的实时以及历史指标信息。
- UPSERT 支持 boolean 类型。
- mxbench 升级,用户可以灵活配置指标类型、采集频率、空值率、随机度等。(文档)
- 新增滑动窗口流计算,流数据的实时分析与监控,并支持订阅发布。(文档)
- Kubernetes 支持,可以在 k8s 上部署 MatrixDB 集群。(文档)
4.4.0 发布介绍
- MatrixGate 升级(文档)
- UPSERT 支持去重。
- 新增
--insert-timeout 和 --request-timeout 参数来控制超时,防止高负载场景因资源耗尽导致雪崩。
- Kafka 数据接入流程重新设计,支持 CSV 和 JSON 两种数据格式和映射关系设置。(文档)
- 自动分区管理页面升级。(文档)
INSERT INTO SELECT 语句支持并行扫描。
- Grafana 监控页面升级,监控面板拆分为系统面板和数据库面板,并增加了中文描述。(文档)
- PXF 升级到 6.2.1,在大量小文件场景吞吐率有 2~5 倍提高。
4.3.10 发布介绍
4.3.10 修复了如下错误:
- Segment crash 后 mirror 无法启动的问题。
- 特定情况下 UDF 访问 catalog 导致 QD crash 的问题。
- PXF 访问 Hive ORC 添加 filter crash 的问题。
4.3.0 发布介绍
- 持续聚集隆重上线
- 持续聚集通过物化视图实时同步源表数据并做排序归并,使聚集查询更高效。(参考文档)
- 空间数据类型支持
- 开发了增强版的 PostGIS 组件,可以完美支持空间数据类型的存储和计算。(参考文档)
- MatrixGate升级
- 增强数据接入容错机制,单条数据格式错误不会影响所在批次其他数据。(参考文档)
- MatrixGate 日志管理,支持自动归档与清理。
- 新增了迁移模式,可以高效同步其他 Greenplum5、Greenplum6、YMatrix Database 集群中的数据表到本集群。(参考文档)
- 可视化数据表上线
- 管理页面里新增了可视化数据表版块,可以方便查看集群数据库与表的状态。(参考文档)
- 自动分区图形化管理
- 分区表可以通过图形化界面设置模板和自动化分区管理策略。(参考文档)
- MARS 存储引擎升级
- tag_id 支持数据类型在整型基础上新增了 text,varchar,name,numeric;并且支持多分组键,即用多个列作为 tag_id。
- MARS 存储引擎支持 merge scan 操作,可以通过合并方式来对已有数据做更新。
4.2.0 发布介绍
- MARS 引擎再优化
- 智能压缩算法上线,根据数据类型和特征判断是否启用压缩。使用新编码压缩后,存储占用空间下降 70%。
- 查询性能提升,基于时间戳排序的特定查询,时延下降千倍,从秒级降到“毫秒级”。
- 查询内存使用量大大的降低,
SELECT 语句,内存使用率下降 90%。
- MatrixGate 支持 UPSERT,适用于如下场景(使用方法请参考文档):
- 设备可能重复发送数据或更正错误时序数据。
- 不同类别的指标数据分批发送,实现自动合并。
- 冷热分级转换支持归并压缩:为方便用户在分区表做热转冷的数据转换,可以将多个分区表合并到一起。一来能降低分区管理的压力,也利于 DBA 进行维护。使用方法请参考文档
- 并行备份恢复“工具”首度公开亮相:YMatrix Database 隆重推出 mxbackup 和 mxrestore 两大工具,相比继承自 PostgreSQL 的 pg_dump 和 pg_restore,支持并行处理,备份恢复效率更高。使用方法请参考文档
4.1.0 发布介绍
- 新增 mxkv 用户自定义数据类型做 kv 存储,方便扩展附加字段,相比 JSON 类型性能更好。
- 支持 Kafka 数据接入和图形化操作界面。
- 提供分区自动化管理函数。用户可以自定义分区策略,后台进程自动完成分区管理。
4.0.3 发布介绍
- 增加多机安装可视化部署。
- 修复 MARS 增加分区的错误。
4.0.2 发布介绍
- MARS 压缩默认启用。
- 升级后 supervisor.conf 平滑过渡。
- gapfill 并行优化。
4.0.1 发布介绍
- 修复 build_timeseries_table 时未对列名做转义的错误。
- MARS 引擎优化。
4.0.0 发布介绍
YMatrix Database 4.0.0 已正式发布,新版包括如下新特性:
- MARS 引擎
MARS 引擎是自研的存储引擎。该引擎包含如下特性:
- 列式存储
- 数据编码和压缩
- 聚集下推优化
- 无索引扫描的优化
在时序场景中,适合存储历史冷数据,基于时间戳的聚集查询性能极高。
MARS 目前只支持插入,不支持更新和删除。
- 多节点自动化部署
在 YMatrix Database 3系统单节点自动化部署的基础上,实现了多节点自动化部署。包括:
- 添加集群节点
- 配置每个节点 Segment 数量
- 配置是否启用数据自动镜像
只用不到 5 分钟,即可部署好一个集群。
具体使用方法请参考YMatrix Database 4集群部署。
- 冷热分级存储 UDF
为方便用户为时序表建立分区、维护分区表、冷热数据转换,实现了关于创建分区模板、建立分区、替换冷热分区的一整套管理接口。
具体使用方法请参考冷热分级存储。
- time_bucket_gapfill
时序组件 MatrixTS 中,在 time_bucket 函数基础上,增加了 time_bucket_gapfill 函数。可以为缺失的时间间隔按照规则填充。
目前支持两种填充规则:
- locf:用聚合组中之前出现的值填充。
- interpolate:对缺失的值做线性插值填充。