qData 数据中台专业版 V2.5.0 上线!重构数据开发工作台,增强血缘与整库同步能力!
## qData 数据中台专业版 V2.5.0 上线!
qData 数据中台专业版 V2.5.0 围绕以下内容调整,主要包括:重构数据开发 IDE 工作台、新增独立数据血缘能力、增强多类型 SQL 血缘解析、扩展整库同步范围,并优化数据集成运维、数据连接及任务运行前校验。
---
## 从分散操作,到相对统一的数据研发流程
数据研发并不只是编写 SQL。一条数据任务从创建到运行,通常需要经历:
- 查找数据资源
- 确认表结构
- 编写 SQL
- 配置参数
- 执行任务
- 查看结果
- 分析日志
- 评估上下游影响
如果每个环节都分布在不同页面中,开发人员需要频繁切换上下文。任务出现异常时,还需要重新查找对应的数据源、运行实例和日志信息。因此,qData 数据中台专业版 V2.5.0 的调整重点不是简单修改页面样式,而是尽量将数据开发、血缘分析、任务运行和问题排查所需的信息放到更连贯的操作链路中。
---
## 01 重构数据开发 IDE 工作台,集中处理开发与调试任务
qData 数据中台专业版 V2.5.0 重新设计了数据开发 IDE 工作台,将资源管理、SQL 编辑、任务参数、运行日志和结果集纳入同一研发界面。过去需要进入多个功能页面完成的操作,现在可以在工作台中相对集中地处理。

### 新增资源树,直接查看库、表和字段
数据开发工作台左侧新增资源树,可按照以下层级展示数据资源:
- 数据源
- 数据库
- 数据表
- 字段
开发人员编写 SQL 前,可以先展开对应数据源,确认目标数据库中有哪些表、表中包含哪些字段,以及字段的基本信息。这类信息与 SQL 编辑区域同时展示,可以减少为了确认表名、字段名而频繁离开当前任务的情况。

---
### 支持多标签编辑,便于同时处理多个任务
数据开发往往不是一次只处理一个 SQL 文件。例如,排查一个结果表异常时,开发人员可能需要同时打开:
- 当前结果任务
- 上游清洗任务
- 指标计算任务
- 临时验证 SQL
- 用于对比的历史任务
qData 专业版 V2.5.0 支持同时打开多个数据开发任务或 SQL 文件,并通过标签页切换。多标签编辑可以用于 SQL 对比、上下游任务联调和多任务开发,但也需要配合清晰的任务命名和保存习惯,避免同时打开较多标签后混淆修改对象。
---
### 集成任务参数、运行日志和结果集
完成 SQL 编写后,用户可以继续在数据开发工作台中配置任务参数,并查看任务运行状态、执行日志、异常信息和结果数据。一条常见的调试流程可以概括为:
- 编写 SQL
- 配置参数
- 执行任务
- 查看返回字段和结果数据
- 结合日志定位异常
当任务执行失败时,可以根据运行日志判断问题可能来自:
- SQL 语法
- 数据连接
- 数据权限
- 参数配置
- 执行引擎
- 上游数据
日志本身不能直接替代技术判断,但将 SQL、任务参数和运行日志放在相近的操作区域,可以减少问题排查时反复查找上下文的过程。


---
### 支持关系型数据库执行完整 SQL
V2.5.0 扩展了关系型数据库中的 SQL 执行范围。除了查询语句外,还支持执行数据库本身允许的其他 SQL,包括:
- 新增、修改和删除数据
- 创建数据表
- 调整表结构
- 创建或修改索引
- 创建视图
- 其他数据库对象操作
这使数据开发工作台可以覆盖更多数据库开发、数据处理和部分运维场景。不过,完整 SQL 意味着用户可能执行 DDL 或 DML 等会直接改变数据库对象和数据内容的语句。在生产环境中,仍应通过数据库账号权限、研发流程和变更审核控制操作范围。工作台提供的是 SQL 执行入口,并不能替代企业已有的数据库变更管理制度。
---
### 查看表结构、样例数据并快捷生成 SQL
开发人员可以直接查看:
- 表和字段信息
- 字段名称
- 字段类型
- 表结构
- 表中的样例数据
通过先查看表结构和数据内容,可以在编写 SQL 前确认字段是否存在、字段类型是否匹配,以及样例数据是否符合预期。系统还支持基于选中的数据表快捷生成常用 SQL,减少重复输入表名和字段名的操作。这一功能更适合基础查询、数据统计和任务开发。对于包含复杂关联、窗口函数或多层嵌套逻辑的 SQL,仍需要开发人员根据业务规则进行编写和验证。

---
## 02 新增独立数据血缘能力,查看数据从哪里来、流向哪里
随着数据任务逐渐增多,一张结果表可能经过数据同步、清洗、转换、汇总和指标计算等多个环节。当结果出现异常,或某张表需要修改时,开发人员通常需要回答几个问题:
1. 当前数据来自哪些上游表?
2. 中间经过了哪些任务?
3. 修改后可能影响哪些下游对象?
4. 两个数据节点之间通过什么路径关联?
qData 数据中台专业版 V2.5.0 将数据血缘作为独立一级能力建设,集中提供血缘地图、血缘路径、来源分析、影响分析和血缘维护入口。
---
### 血缘地图:从全局查看上下游关系
血缘地图通过图形化方式展示数据对象之间的上下游关系。用户可以查看:
- 数据表与数据表的关系
- 任务与任务的关系
- 数据表与任务之间的关系
- 当前节点的上游输入
- 当前节点的下游输出
通过逐层展开节点,可以观察一条数据从来源表进入加工任务,再流向结果表的过程。血缘地图更适合查看整体关系。如果需要判断两个明确节点之间如何连接,则可以继续使用血缘路径分析。

---
原文链接:[点击查看](https://www.oschina.net/news/477809)
qData 数据中台专业版 V2.5.0 围绕以下内容调整,主要包括:重构数据开发 IDE 工作台、新增独立数据血缘能力、增强多类型 SQL 血缘解析、扩展整库同步范围,并优化数据集成运维、数据连接及任务运行前校验。
---
## 从分散操作,到相对统一的数据研发流程
数据研发并不只是编写 SQL。一条数据任务从创建到运行,通常需要经历:
- 查找数据资源
- 确认表结构
- 编写 SQL
- 配置参数
- 执行任务
- 查看结果
- 分析日志
- 评估上下游影响
如果每个环节都分布在不同页面中,开发人员需要频繁切换上下文。任务出现异常时,还需要重新查找对应的数据源、运行实例和日志信息。因此,qData 数据中台专业版 V2.5.0 的调整重点不是简单修改页面样式,而是尽量将数据开发、血缘分析、任务运行和问题排查所需的信息放到更连贯的操作链路中。
---
## 01 重构数据开发 IDE 工作台,集中处理开发与调试任务
qData 数据中台专业版 V2.5.0 重新设计了数据开发 IDE 工作台,将资源管理、SQL 编辑、任务参数、运行日志和结果集纳入同一研发界面。过去需要进入多个功能页面完成的操作,现在可以在工作台中相对集中地处理。

### 新增资源树,直接查看库、表和字段
数据开发工作台左侧新增资源树,可按照以下层级展示数据资源:
- 数据源
- 数据库
- 数据表
- 字段
开发人员编写 SQL 前,可以先展开对应数据源,确认目标数据库中有哪些表、表中包含哪些字段,以及字段的基本信息。这类信息与 SQL 编辑区域同时展示,可以减少为了确认表名、字段名而频繁离开当前任务的情况。

---
### 支持多标签编辑,便于同时处理多个任务
数据开发往往不是一次只处理一个 SQL 文件。例如,排查一个结果表异常时,开发人员可能需要同时打开:
- 当前结果任务
- 上游清洗任务
- 指标计算任务
- 临时验证 SQL
- 用于对比的历史任务
qData 专业版 V2.5.0 支持同时打开多个数据开发任务或 SQL 文件,并通过标签页切换。多标签编辑可以用于 SQL 对比、上下游任务联调和多任务开发,但也需要配合清晰的任务命名和保存习惯,避免同时打开较多标签后混淆修改对象。
---
### 集成任务参数、运行日志和结果集
完成 SQL 编写后,用户可以继续在数据开发工作台中配置任务参数,并查看任务运行状态、执行日志、异常信息和结果数据。一条常见的调试流程可以概括为:
- 编写 SQL
- 配置参数
- 执行任务
- 查看返回字段和结果数据
- 结合日志定位异常
当任务执行失败时,可以根据运行日志判断问题可能来自:
- SQL 语法
- 数据连接
- 数据权限
- 参数配置
- 执行引擎
- 上游数据
日志本身不能直接替代技术判断,但将 SQL、任务参数和运行日志放在相近的操作区域,可以减少问题排查时反复查找上下文的过程。


---
### 支持关系型数据库执行完整 SQL
V2.5.0 扩展了关系型数据库中的 SQL 执行范围。除了查询语句外,还支持执行数据库本身允许的其他 SQL,包括:
- 新增、修改和删除数据
- 创建数据表
- 调整表结构
- 创建或修改索引
- 创建视图
- 其他数据库对象操作
这使数据开发工作台可以覆盖更多数据库开发、数据处理和部分运维场景。不过,完整 SQL 意味着用户可能执行 DDL 或 DML 等会直接改变数据库对象和数据内容的语句。在生产环境中,仍应通过数据库账号权限、研发流程和变更审核控制操作范围。工作台提供的是 SQL 执行入口,并不能替代企业已有的数据库变更管理制度。
---
### 查看表结构、样例数据并快捷生成 SQL
开发人员可以直接查看:
- 表和字段信息
- 字段名称
- 字段类型
- 表结构
- 表中的样例数据
通过先查看表结构和数据内容,可以在编写 SQL 前确认字段是否存在、字段类型是否匹配,以及样例数据是否符合预期。系统还支持基于选中的数据表快捷生成常用 SQL,减少重复输入表名和字段名的操作。这一功能更适合基础查询、数据统计和任务开发。对于包含复杂关联、窗口函数或多层嵌套逻辑的 SQL,仍需要开发人员根据业务规则进行编写和验证。

---
## 02 新增独立数据血缘能力,查看数据从哪里来、流向哪里
随着数据任务逐渐增多,一张结果表可能经过数据同步、清洗、转换、汇总和指标计算等多个环节。当结果出现异常,或某张表需要修改时,开发人员通常需要回答几个问题:
1. 当前数据来自哪些上游表?
2. 中间经过了哪些任务?
3. 修改后可能影响哪些下游对象?
4. 两个数据节点之间通过什么路径关联?
qData 数据中台专业版 V2.5.0 将数据血缘作为独立一级能力建设,集中提供血缘地图、血缘路径、来源分析、影响分析和血缘维护入口。
---
### 血缘地图:从全局查看上下游关系
血缘地图通过图形化方式展示数据对象之间的上下游关系。用户可以查看:
- 数据表与数据表的关系
- 任务与任务的关系
- 数据表与任务之间的关系
- 当前节点的上游输入
- 当前节点的下游输出
通过逐层展开节点,可以观察一条数据从来源表进入加工任务,再流向结果表的过程。血缘地图更适合查看整体关系。如果需要判断两个明确节点之间如何连接,则可以继续使用血缘路径分析。

---
原文链接:[点击查看](https://www.oschina.net/news/477809)
评论
暂无评论。