本文为您介绍如何基于JAR资源文件,构建Flink_DataStream实时计算任务。
前提条件
完成JAR资源文件上传至Dataphin平台,详情请参见
新建资源。
背景信息
新建Flink_DataStream计算任务的权限限制,详情请参见
数据开发权限列表。
Flink_DataStream任务仅支持处理实时任务。
步骤二:开发Flink_DataStream任务的代码
- 在Flink_DataStream任务代码页面,编写任务的代码。
- 单击页面右上方的预编译,校验代码任务的语法及权限问题。
您可以单击页面右上方的
格式化,系统自动调整SQL代码格式。
步骤三:配置资源
配置Flink_DataStream任务中的资源信息。
- 在Flink_DataStream任务代码开发页面,单击页面上方的定向配置。
- 在定向配置面板的资源配置区域,您可以执行以下操作。
- 配置资源配置类型,默认选择为系统推荐配置。您也可以选中自定义配置后,单击去配置,配置参数。
模式 |
描述 |
可视化配置 |
您可以配置资源组节点和组件节点的执行参数。
配置资源组节点的执行参数:
- 在配置资源类型页面,单击可视化模式。
- 单击资源组上方的
图标。
- 在对话框中,配置参数。
- 单击确定,完成资源组的执行参数的配置。
- 完成配置DAG图中所有资源组节点的执行参数后,单击页面右上角的保存。
配置资源组中组件节点的执行参数:
- 在配置资源类型页面,单击可视化模式。
- 单击资源组上方的
图标,展开该组。
- 单击节点右上角的
图标。
- 在对话框中,配置参数。
- 单击确定,完成组件节点执行参数的配置。
- 完成配置DAG图中所有资源组节点的执行参数后,单击页面右上角的保存。
|
代码模式 |
配置资源组节点和组件节点的执行参数:
- 在配置资源类型页面,单击代码模式。
- 根据代码页面提示,定义资源组和组件节点的执行参数,单击页面右上角的保存。
|
- 如果资源配置类型为自定义配置,则单击资源信息记录后的保存当前配置为新纪录。在保存资源记录对话框中,输入资源记录名称后,单击确定。
- 打开自动调优开关,配置最大CU数和期望最大内存,开启自动调优。
步骤四:配置依赖关系
- 在Flink_DataStream任务代码开发页面,单击页面上方的定向配置。
- 在定向配置面板的依赖关系区域,配置依赖关系。
参数 |
描述 |
自动解析 |
当节点的任务类型为SQL时,您可以单击自动解析,系统会解析代码中的表,并查找到与该表名相同的输出名称。输出名称所在的节点作为当前节点的上游依赖。
如果代码中引用项目变量或不指定项目,则系统默认解析为生产项目名,以保证生成调度的稳定性。例如,开发项目名称为
onedata_dev :
- 如果代码里指定
select * from s_order ,则调度解析依赖为onedata.s_order 。
- 如果代码里指定
select * from ${onedata}.s_order ,则调度解析依赖为onedata.s_order 。
- 如果代码里指定
select * from onedata.s_order ,则调度解析依赖为onedata.s_order 。
- 如果代码里指定
select * from onedata_dev.s_order ,则调度解析依赖为onedata_dev.s_order 。
|
上游依赖 |
通过执行如下操作,添加该节点任务调度时依赖的上游节点:
- 单击手动添加上游。
- 在新建上游依赖对话框中,您可以通过以下两种方式搜索依赖节点:
- 输入所依赖节点的输出名称的关键字进行搜索节点。
- 输入virtual搜索虚拟节点(每个租户或企业在初始化时都会有一个根节点)。
说明 节点的输出名称是全局唯一的,且不区分大小写。
- 单击确定新增。
同时您还可以单击操作列下的 图标,删除已添加的依赖节点。 |
当前节点 |
通过执行如下操作,设置当前节点的输出名称,根据需要您可以设置多个输出名称,供其他节点依赖使用:
- 单击手动添加输出。
- 在新增当前节点输出对话框中,填写输出名称。输出名称的命名规则请尽量统一,一般命名规则为
生成项目名.表名 且不区分大小写,以标识本节点产出的表,同时其他节点更好地选择调度依赖关系。
例如,开发项目名称为onedata_dev ,建议将输出名称设置为onedata.s_order 。如果您将输出名称设置为onedata_dev.s_order ,则仅限代码select * from onedata_dev.s_order 能解析出上游依赖节点。
- 单击确定新增。
同时您还可以对当前节点已添加的输出名称执行如下操作:
- 单击操作列下的
图标,删除已添加的输出名称。
- 如果该节点已提交或发布。且被任务所依赖(任务已提交),则单击操作列下的
图标,查看下游节点。
|
步骤五:配置任务参数
Flink_DataStream任务代码中的通用参数,您可以通过任务参数进行批量配置。
- 在Flink_DataStream任务代码开发页面,单击页面上方的定向配置。
- 在定向配置面板,任务参数配置区域,配置参数。
步骤六:提交或发布Flink_DataStream任务
- 在Flink_DataStream任务代码开发页面,单击页面右上方的
图标,保存Flink_DataStream任务。
- 在Flink_DataStream任务代码开发页面,单击页面右上方的
图标,提交Flink_DataStream任务。
- 在提交备注对话框,填写备注信息。
- 单击确定并提交,完成Flink_DataStream任务的提交。
- 可选:发布Flink_DataStream任务至生产环境。
- 如果您的开发模式是Dev-Prod模式,则需要发布实时计算任务,详情请参见管理发布任务。
- 如果您的开发模式是Basic模式,则提交成功的实时计算任务,即可进入生产环境。