EasyScheduler开源分布式工作流任务调度系统架构设计

案例来源:易观
会议地点:深圳
分享时间: 2019-06-22 16:50-17:50

代立冬  |

易观 大数据平台总监

现任易观大数据平台总监,负责公司数据平台架构设计,产品技术选型,人才招募与培养等工作。近10年专注于企业数据平台构建及优化,历经每天数百亿条新增数据洗礼,对多个开源社区项目源码熟悉。之前曾在多家大型数据公司担任数据架构师,对新零售业务、互联网行业的olap即时数据分析、挖掘有丰富经验。

课程概要

案例背景介绍:
Easy Scheduler是一个分布式工作流任务调度系统,主要解决数据研发ETL错综复杂的依赖关系,而不能直观监控任务健康状态等问题。Easy Scheduler以DAG流式的方式将Task组装起来,可实时监控任务的运行状态,同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。EasyScheduler由在工作流调度方面工作多年的多位小伙伴研发而成,致力于成为大数据平台的中流砥柱,使调度变得更加容易,更可以从其中文名“易调度”看出我们的初衷。

解决思路/成功要点:
设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 其主要目标如下: 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败 支持工作流全局参数及节点自定义参数设置 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑 支持任务日志在线查看及滚动、在线下载日志等 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化 支持对Master/Worker cpu load,memory,cpu在线查看 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计 支持补数 支持多租户 支持国际化 还有更多等待伙伴们探索。

成果:
在多位技术小伙伴的努力下,经过2年多的研发迭代、内部业务剥离及重构,EasyScheduler终于迎来了第一个正式开源发布版本-1.0.0。开源地址:https://github.com/analysys/EasyScheduler。

听众收益

1、了解主流调度系统架构设计 2、开箱即用的调度项目 3、解决业务遇到的调度难题

代立冬  |

易观
大数据平台总监

现任易观大数据平台总监,负责公司数据平台架构设计,产品技术选型,人才招募与培养等工作。近10年专注于企业数据平台构建及优化,历经每天数百亿条新增数据洗礼,对多个开源社区项目源码熟悉。之前曾在多家大型数据公司担任数据架构师,对新零售业务、互联网行业的olap即时数据分析、挖掘有丰富经验。

课程概要

案例背景介绍:
Easy Scheduler是一个分布式工作流任务调度系统,主要解决数据研发ETL错综复杂的依赖关系,而不能直观监控任务健康状态等问题。Easy Scheduler以DAG流式的方式将Task组装起来,可实时监控任务的运行状态,同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。EasyScheduler由在工作流调度方面工作多年的多位小伙伴研发而成,致力于成为大数据平台的中流砥柱,使调度变得更加容易,更可以从其中文名“易调度”看出我们的初衷。

解决思路/成功要点:
设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 其主要目标如下: 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败 支持工作流全局参数及节点自定义参数设置 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑 支持任务日志在线查看及滚动、在线下载日志等 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化 支持对Master/Worker cpu load,memory,cpu在线查看 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计 支持补数 支持多租户 支持国际化 还有更多等待伙伴们探索。

成果:
在多位技术小伙伴的努力下,经过2年多的研发迭代、内部业务剥离及重构,EasyScheduler终于迎来了第一个正式开源发布版本-1.0.0。开源地址:https://github.com/analysys/EasyScheduler。

听众收益

1、了解主流调度系统架构设计 2、开箱即用的调度项目 3、解决业务遇到的调度难题

CopyRight © 2008-2019 Msup & 高可用架构