离线开发平台
新增功能更新
1.数据源
新增功能说明
2.【数据开发】Hive SQL
新增功能说明
• Hive SQL 支持语法提示、表联想:
在 SQL 编写时,离线 IDE 支持表名、字段名、关键字、函数名等内容的语法提示
• Hive SQL 运行日志支持实时打印、展示任务运行进度、支持任务停止:
Hive SQL 执行临时运行时,展示执行进度并实时打印日志,日志包含执行的 map、reduce 的情况,任务运行过程中,支持停止运行
3.资源支持版本管理
新增功能说明
4.【数据同步任务】字段变化
新增功能说明
当数据同步任务的字段发生变化时,可通知字段的变化及影响的任务信息。
数据同步中新增元数据校验高级参数“metadataCheck”,当值为“true”时,对于数据同步任务的临时运行/周期实例运行/补数据实例运行/手动实例运行前检查源表或目标表的表结构是否发生变更(字段增加、字段减少、字段类型变更),如果有变更则实例状态变为提交失败,并会在日志中打印变更内容。
如果任务配置了告警规则,且触发条件是“失败”时,则会在告警中打印失败原因和字段变动情况。
5.支持给任务打标签
新增功能说明
6.离线支持代码检查规则
新增功能说明
7.任务保存支持版本管理
新增功能说明
8.任务目录支持自定义排序
新增功能说明
9.在 guardian 进行权限校验
新增功能说明
10.数据同步
新增功能说明
• TiDB、GaussDB、GreenPlum 作为数据源的数据同步任务配置时支持选择 Schema
• MySQL 同步 Sharding-Proxy 插件支持向导模式读取
• 数据同步支持 OceanBase 读取和写入
11.HashData 数据同步读写
新增功能说明
HashData 支持作为数据同步的源端和目标端,支持源端时支持自定义 SQL、数据过滤、切分键填写(并发读写)、断点续传、增量同步;作为目标端时支持导入前准备语句、导入后准备语句、一键生成目标表、主键冲突时支持 insert 和 update。
支持作为整库同步的目标端和源端。
12.StarRocks 数据同步读写
新增功能说明
StarRocks 支持作为数据同步的源端和目标端。作为源端时支持自定义 SQL、不支持数据过滤、不支持切分键填写(StarRocks flinkx 是用 streamload 同步的,不需要指定切分键,只要指定并发数,SQL 的执行计划里就会按对应的并发自己拆分出来多通道同步)、不支持断点续传、不支持增量同步。
作为目标端时不支持导入前准备语句、不支持导入后准备语句、支持一键生成目标表、主键冲突时仅支持update。支持作为整库同步的目标端和源端。
13.TDengine 数据同步读取
新增功能说明
TDengine 支持作为数据同步的源端,支持源端时支持自定义 SQL、数据过滤、切分键填写(并发读取)、断点续传、增量同步。支持作为整库同步的源端。
14.运维中心异常树构建
新增功能说明
15.运维中心
新增功能说明
《数据治理行业实践白皮书》下载地址:https://fs80.cn/4w2atu
《数栈V6.0产品白皮书》下载地址:https://fs80.cn/cw0iw1
想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=bbs
同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术群」,交流最新开源技术信息,群号码:30537511,项目地址:https://github.com/DTStack