大数跨境

新一代大数据任务调度系统 - Apache DolphinScheduler 1.3.4 发布,推荐下载

新一代大数据任务调度系统 - Apache DolphinScheduler 1.3.4 发布,推荐下载 海豚调度
2020-12-31
0
导读:2020的最后一天,新一代大数据任务调度 - Apache DolphinScheduler 1.3.4 稳定版发布啦,欢迎下载

本文编辑:朱桐


新一代大数据任务调度 - Apache DolphinScheduler(incubator) 在经过社区 30 多位小伙伴的贡献与努力下于发布了 1.3.4 版本,1.3.4 作为 1.3.x 的 bug 修复版本,本次共修复了 1.3.3 发现的 10 多处 bug,其中多数 bug 是测试伙伴在极端环境下发现的。1.3.4 重要的修复需要关注下面这个:


个重要修复

现象:

任务实例(taskInstance) 状态更改错误:[#4084][server] fix taskInstance state change error

taskInstance 状态从 7 变为 1,用户观察到状态从“ SUCCESS”变为“ RUNNING”。主节点仍然循环检查 taskInstance状态,等待 taskInstance 状态完成。


原因:

master 向 worker 发送 task
1. worker 接收到 task 后,会回复给 master一个“ack”,然后去执行task,执行结束之后给 master 发送任务执行结果 result


2. master 接收到 ack 后将 taskInstance 的状态更新成 1,接收到任务结果 result 后将状态更新成 7。(假设 task 的状态是成功)


正常情况:
ack 和 result 根据 worker 执行的顺序,ack 会先发送到 mastertask 状态从 0 -> 1, result 后发送到 master task状态从 1 -> 7


异常情况:
在 ack 的 response 处理的时候出现阻塞,或者是在 netty 消息传输或消费的时候延迟,造成 result 更新数据库的时间早于 ack,导致状态变化 0 -> 7 -> 1. 而实际 worker 已经执行过 task 了,所以 master 就会阻塞住,一直循环查看当前节点的状态。


解决:https://github.com/apache/incubator-dolphinscheduler/pull/4097


其他 BUG FIX 请参考下列内容:

#2917 #4034 #4104 #4135 ] [sqoop] sqoop优化和错误修复
[  #3177 ] 任务时间参数解析错误
[  #3457 ] [flink] 修复flink args构建问题
[  #4034 ] [server] 修复sqoop导入失败
[  #3900 ] [server在一项工作中杀死多个yarn应用
[  #4054 ] [api] 修复本月的最后一周,添加/编辑时间,预览和保存时间将报告错误
[  #4054 ] [ui ] 修复每月的最后一个星期日
[  #4084 ] [server修复taskInstance状态更改错误
[  #4104 ] 修复sqoop任务jdbc字符串包含特殊字符
[  #4135 ] [worker] 修复sqoop导入配置单元错误
[  #4114 ] [server] 修复清除任务的执行路径与master相关。
[  #4084 ] [master] 修复taskInstance状态更改错误
[  #4090 ] dao在工作流中执行单个任务时抛出NullPointerException
[  #4190 ] [dao] json数据量很大时,进程列表页面显示缓慢。
[  #4218 ] [bug] 从具有NODE_PRE的设置节点开始将为NPE
[  #4223 ] [ui] 修复dag节点名称验证


除了 Bug 修复外,本次也做了几处功能改进,参考以下内容:

[#2925][server] init TaskLogger in TaskExecuteProcessor
[ambari-update] 将 DS 版本从 1.3.3 更改为 1.3.4
[sqoop-update] 修改 sqoop task 参数
[#4143][quartz-update] 升级 quartz 版本到 2.3.0


1.3.4 版本经过测试伙伴的大量测试,修复了不少极端情况下可能出现问题的情况,十分推荐大家下载部署 1.3.4 版本

此外,1.3.4 具体变化请参考:https://github.com/apache/incubator-dolphinscheduler/releases/tag/1.3.4



1.3.4 下载地址:https://dolphinscheduler.apache.org/zh-cn/docs/release/download.html




1

DolphinScheduler 

Apache DolphinScheduler(incubator)  17  19  3 


新一代大数据任务调度 -  Apache DolphinScheduler 继 11 月 19 日由 InfoQ 举办、在 300+ 参评项目中脱颖而出获得 “2020 年度十大开源新锐项目” 和 “2020 年度最具人气新锐项目” 以来,近期社区又荣获 OSCHINA 年度 “最佳技术团队” 称号,非常欢迎更多小伙伴加入到贡献队伍中来,为中国的开源崛起贡献自己的一份力量。




Apache DolphinScheduler(incubator)  17  19  3 8  Apache   400+ 使DolphinScheduler 使DolphinScheduler DAG()  Task KillDolphinScheduler  6 



Apache  DolphinScheduler  4000   190 +  80+ ()




2

 400 +  DolphinScheduler 使()


 1700+  demo 





3

DolphinScheduler

 DolphinScheduler 


PR() PR


https://github.com/apache/incubator-dolphinscheduler/issues/4124


https://dolphinscheduler.apache.org/zh-cn/docs/development/contribute.html


 github https://github.com/apache/incubator-dolphinscheduler-website


DolphinScheduler


(dailidong66) 

DolphinScheduler










DolphinScheduler's Github Repo 
https://github.com/apache/incubator-dolphinscheduler
❤️ DolphinScheduler  Star 



【声明】内容源于网络
0
0
海豚调度
Apache DolphinScheduler是一个分布式、去中心化、易扩展的可视化DAG工作流任务调度系统,其致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。
内容 0
粉丝 0
海豚调度 Apache DolphinScheduler是一个分布式、去中心化、易扩展的可视化DAG工作流任务调度系统,其致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。
总阅读0
粉丝0
内容0