调度系统对比

预期功能点

  1. 作业编排(满足串行、并行、多依赖等)。
  2. 调度策略。
  3. 作业异常处理(作业重试、异常处理机制、任务补偿、延迟处理机制)
  4. 作业告警。
  5. 监控、审计(当前作业监控、历史作业完成情况)。
  6. 可扩展性。
  7. 权限管理。
  8. 易用性。

    常用调度系统对比

    | 比较项 | Azkaban | AirFlow | Oozie | Zeus | RunDeck | | :—- | :—-: | :—-: | :—-: | :—-: | :—-: | | 所有者 | Linkedin | Airbnb->Apache | Apache | Alibaba | RunDeck | | 历史 | 9年 | 6年 | 10年 | 7年 | 10年 | | 调度策略 | √ | √ | √ | √ | √ | | 作业异常处理 | √ | √ | × | √ | √ | | 作业告警 | √ | √ | √ | √ | √ | | 监控、审计 | √ | √ | √ | √ | √ | | 可扩展性 | √ | √ | × | × | √ | | 权限管理 | √ | √ | × | √ | × | | 易用性 | √ | √ | × | × | √ | | 作业编排 | √ | √ | √ | √ | 串行 | | 开发语言 | java | python | java | java | java | | 依赖组件 | MySQL | MySQL、python2.7 | MySQL | MySQL、Tomcat | MySQL | | 作业配置方式 | command、java | python脚本 | xml方式 | command、shell | command |

调度系统对比 - 图1

Azkaban

1. 简介

Azkaban是由Linkedin开源的一个批量工作流任务调度器。Azkaban定义了一种KV文件格式来建立任务之间的依赖关系,并提供一个易于使用的web用户界面维护和跟踪你的工作流。

2. 优点

与Hadoop生态圈结合紧密,分布式,DAG依赖比较直观,提供可操作的UI界面,公共变量可配置。

3. 缺点

UI界面无法直接添加作业。

AirFlow

1. 简介

Airflow是Airbnb开源,托管于Apache基金会的,通过python定义作业。

2. 优点

与Hadoop生态圈结合紧密,分布式,DAG依赖比较直观,提供可操作的UI界面。

3. 缺点

python脚本配置作业,学习成本高,项目孵化中。

Oozie

1. 简介

Oozie目前是托管在Apache基金会的,开源。通过XML文件来定义DAG依赖。

2. 优点

与Hadoop生态圈结合紧密,开源早比较成熟,可以集成到HUE中。

3. 缺点

UI界面不直观,作业配置复杂,无法通过界面启动任务。

Zeus

1. 简介

阿里开源的基于Hadoop平台的开源工作流调度系统,使用java开发语言。

2. 优点

友好的界面显示、全中文,分布式,具有任务统计报表功能,配置简单。

3. 缺点

已经不在维护,文档缺失。

Rundeck

1. 简介

RunDeck是用 Java/Grails写的开源工具,帮助用户在数据中心或者云环境中自动化各种操作和流程。通过命令行或者web界面,用户可以对任意数量的服务器进行操作,大大降低了对服务器自动化的门槛。

2. 优点

单机部署,分布式指令执行,可以设置作业预期执行时间,适合运维使用。

3. 缺点

作业依赖线性,没有清晰的DAG图。

参考

CSDN:调度系统对比 azkaban&airFlow&Oozie&zeus&rundeck
https://blog.csdn.net/weixin_36836847/article/details/96379318

若有收获,就点个赞吧

0 人点赞

  • 书签
  • 添加书签 移除书签
  • 💎 大数据概念
    • 🍀 大数据基本概念
    • 🍀 大数据时代
    • 🍀 大数据架构演进
    • 🍀 大数据开源生态
      • 🌲 开源生态圈
      • 🌲 开源组件分层
      • 🌲 开源组件库
    • 🍀 大数据应用领域
    • 🍀 大数据白皮书
      • 🌲 中国信通院-大数据白皮书(2019)
      • 🌲 中国信通院-大数据白皮书(2020)
    • 🍀 大数据实施
  • 💎 环境准备
    • 🔩 Develop Tools
      • 🔱 CentOS7_axel
      • 🔱 CentOS7_daemonize
      • 🔱 CentOS7_jar
      • 🔱 CentOS7_lsof
      • 🔱 CentOS7_nc
      • 🔱 CentOS7_netstat
      • 🔱 CentOS7_Screen
      • 🔱 CentOS7_VIM
      • 🔱 CentOS7_ZIP
      • 🔱 Win8_FileZilla-3.5.0
      • 🔱 Win8_SecureCRT-6.2.0
      • 🔱 Win8_Xshell-6.0
      • 🔱 Win8_Cygwin-2.8.9.7
      • 🔱 Win8_MobaXterm-20.2
    • 🔩 Git
      • 🔱 RedHat8_Git-2.19.2-install
      • 🔱 CentOS7_Git
    • 🔩 JDK
      • 🔱 RedHat6_JDK-1.8.221
      • 🔱 CentOS7_JDK-1.8.221
      • 🔱 CentOS7_JDK-1.8.221_2021
    • 🔩 JMX
      • 🔱 CentOS7_JmxTrans-270
    • 🔩 Maven
      • 🔱 RedHat8_Maven-3.3.9-install
      • 🔱 CentOS7_Maven-3.2.5
      • 🔱 CentOS7_Maven-3.3.9
      • 🔱 CentOS7_Maven-3.5.4
    • 🔩 Python
      • 🔱 CentOS7_Python-2.7.12
    • 🔩 Shell
      • 🍀 Shell基础入门
    • 🔩 SSH
      • 🔱 RedHad6-SSH免密(root)
      • 🔱 CentOS7-SSH免密(vagrant)
      • 🔱 CentOS7-SSH免密(root)
    • 🔩 Node.js
      • 🔱 CentOS7_Node.js
      • 🔱 Win8_Node.js
    • 🔩 Scala
      • 🔱 RedHat6_Scala-2.11.8
      • 🔱 CentOS7_Scala-2.11.8
    • 🔩 Tomcat
      • 🔱 CentOS7_Tomcat-8.5.42
    • 🔩 ZooKeeper
      • 🔱 CentOS7_ZooKeeper-3.4.10
      • 🔱 CentOS7_ZooKeeper-3.6.3
      • 🍀 ZooKeeper基础入门
      • 🍀 ZooKeeper实战
  • 💎 分层架构
    • ❄ 数据获取层
      • 🔱 DataX-install
        • 安装DataX-3.x
      • 🔱 Flume-install
        • 安装Flume集群
      • 🍀 Kafka-introduce
        • 1.Kafka基本概念
        • 2.Kafka安装部署
        • 3.Kafka设计与原理详解(A)
        • 3.Kafka设计与原理详解(B)
        • 4.Kafka API
        • 5.Kafka集成
        • 6.Kafka运维监控
        • 7.Kafka安全
        • 8.Kafka进阶
        • 9.Kafka面试题
      • 🔱 Kafka-install
        • CentOS7_Kafka-0.11.0.3
        • CentOS7_Kafka Eagle-1.4.7
      • 🍀 Sqoop-introduce
        • Sqoop基础入门
      • 🔱 Sqoop-install
        • CentOS7_Sqoop-1.4.6
    • 📓 数据存储层
      • 🍀 Data Lake
        • Data Lake基础入门
      • 🍀 DB2-introduce
        • DB2基础入门
        • DB2常用操作
        • DB2 Julian Date
        • DB2 UUID
      • 🔱 DB2-install
        • CentOS7_DB2-10.5
        • DB2下载资源
      • 🍀 Elasticsearch-introduce
        • ES调优配置
        • ES线程池
        • ES安全
      • 🔱 Elasticsearch-install
        • CentOS7-Elasticsearch-7.6.0
      • 🔱 Hadoop-install
        • CentOS7_Hadoop-2.7.2
        • CentOS7_Hadoop-3.1.3
      • 🍀 Hive-introduce
        • 1.Hive基本概念
        • 2.Hive安装部署
        • 3.HQL语法
        • 6.Hive安全
        • 7.Hive调优
      • 🔱 Hive-install
        • CentOS7_Hive-2.3.4
        • CentOS7_Hive-3.1.2
      • 🔱 Influxdb-install
        • CentOS7-Influxdb-1.5.3
      • 🍀 MySQL-introduce
        • MySQL基础入门
        • MySQL高可用
        • MySQL优化
        • Count(*)执行原理简介及优化
      • 🔱 MySQL-install
        • Win8_MySQL-8.0.11
        • RedHat8_MySQL-5.7.30
        • RedHat6_MySQL-5.7.30
        • CentOS7_MySQL-5.7.30
      • 🍀 NoSQL
        • NoSQL
        • Cassandra-introduce
          • Cassandra基础入门
        • HBase-introduce
          • HBase基础入门
          • HBase基本原理
          • HBase配置说明
          • HBase权限管理
          • HBase Security
          • HBase Shell
          • HBase优化
          • HBase读写性能优化
          • HBase集成方案
            • HBase二次索引方案
            • HBase与ES集成方案
            • Lily HBase Indexer
              • Lily HBase Indexer基础入门
          • Phoenix
            • Phoenix基础入门
            • Phoenix Search Index
          • HBase API
            • HBase API
            • HBase SpringBoot API
            • HBase MR
            • HBase连接池
        • HBase-setup
          • CentOS7_HBase-1.2.5
        • Redis-introduce
          • Redis基础入门
          • Redis高级特性
          • Redis单线程还是多线程
          • Redis常用方式
          • 一致性哈希
        • Redis-setup
          • Redis环境搭建
          • CentOS7_Redis-4.0.11
          • CentOS7_Redis-5.0.8
      • 🍀 Solr-introduce
        • Solr基础入门
        • SolrCloud
        • Tire Tree
        • Solr Shard
        • Solr Data Sync
        • Solr Deploy
        • Solr API
          • SolrJ API
          • Spring Boot Solr
          • Spring Data Solr
      • 🔱 Solr-install
        • CentOS7_Solr-7.7.2
    • 🚚 数据处理层
      • 🔩 MPP
        • Doris-introduce
          • Doris基础入门
        • Teradata-introduce
          • Teradata基础入门
          • Teradata操作手册
          • Teradata Java API
          • Teradata Connector for Hadoop
        • Teradata-setup
          • CentOS7_TDCH-1.5.10-hadoop2.x
      • 🔩 OLAP
        • OLAP简介
        • OLAP开源引擎比对
        • ClickHouse-introduce
          • ClickHouse基础入门
          • Clickhouse内部架构
          • ClickHouse大厂实践参考
        • ClickHouse-setup
          • CentOS7_ClickHouse-latest
      • 🍀 Flink-introduce
        • Flink基础入门
        • Flink-Watermark
        • Flink-Exactly Once方案
        • Flink集群监控
        • Flink-API
          • Async I/O
          • Flink-Join API
      • 🔱 Flink-install
        • CentOS7_Flink-1.10.0
      • 🍀 Spark-introduce
        • Spark-基本概念
        • SparkCore
        • SparkSQL
        • SparkStreaming
        • Spark-Exactly-Once
        • Spark-Join
        • Spark内核
        • Spark优化
        • Spark Partitioner
      • 🔱 Spark-install
        • CentOS7_Spark-3.0.0(SparkSQL)
        • CentOS7_Spark-2.0.0(SparkSQL)
    • 👨 数据应用层
      • 🔩 BI
        • 开源BI工具的详细对比
        • Metabase-introduce
          • Metabase基础入门
      • 🔩 可视化
        • Davinci
    • 👮 数据管理层
      • 📺 元数据管理
    • 💀 大数据安全
    • 📺 运维监控
      • 👤 运维手册
        • Azkaban运维手册
        • HA
          • Flink-HA
        • HBase运维手册
        • CentOS7.6-Kafka使用手册
        • ElasticSearch运维手册
        • Flink-运维
          • Flink Metric
            • Flink Metric基本介绍
          • Flink-操作手册
          • Flink-作业维护
          • Flink-编译错误
          • Flink-优化
        • Hadoop运维手册
        • Solr使用手册
        • Vagrant使用手册
      • 👤 集群作业调度
        • 调度系统对比
        • 🍀 Airflow-introduce
          • Airflow基础入门
        • 🍀 Azkaban-introduce
          • Azkaban基础入门
          • Azkaban Flow
        • 🔱 Azkaban-install
          • CentOS7_Azkaban-3.47.0
          • Ubuntu16_Azkaban-3.47.0
        • 🍀 DolphinScheduler-introduce
          • DolphinScheduler基础入门
        • 🔱 DolphinScheduler-install
          • CentOS7_DolphinScheduler-1.3.9
      • 👤 集群管理
        • CDH
          • 🔱 RedHat6.8_CDH-5.8.3-parcels
          • 🔱 RedHat6.8_CDH-5.8.3-Hadoop
          • 🔱 RedHat6.8_CDH-5.8.3-Oozie
          • 🔱 RedHat6.8_CDH-5.8.3-Hive
          • 🔱 RedHat6.8_CDH-5.8.3-Hue
          • 🔱 RedHat6.8_CDH-5.8.3-Impala
          • 🔱 RedHat6.8_CDH-5.8.3-Spark
        • HUE
          • 🔱 安装HUE
      • 👤 集群监控
        • 🍀 Prometheus-introduce
          • Prometheus基础入门
          • Prometheus API
          • Prometheus vs Zabbix
        • 🔱 Prometheus-install
          • AlertManager
            • AlertManager配置
          • 服务自动发现
            • Prometheus动态发现--基于文件的服务发现
          • exporter
            • CentOS7-Prometheus-Consul_exporter
            • CentOS7-Prometheus-Kafka_exporter
            • CentOS7-Prometheus-MySQL_exporter
            • CentOS7-Prometheus-Node_exporter
            • CentOS7-Prometheus-Process_exporter
            • CentOS7-Prometheus-Redis_exporter
            • CentOS7-Prometheus-ZooKeeper_exporter
          • Prometheus
            • CentOS7-Prometheus-2.10.0
          • Pushgateway
            • CentOS7-Prometheus-Pushgateway安装
        • 监控案例
          • Prometheus Grafana监控Flink
          • InfluxDB Grafana监控Flink
          • CentOS7_JMX-ZooKeeper
          • CentOS7_JMX-Kafka
        • 🔱 Grafana-install
          • CentOS7_Grafana-4.1.2
          • CentOS7_Grafana-5.4.0
        • 🔱 Zabbix-install
          • 安装Zabbix
      • 👤 集群管理脚本
        • 🐙 RedHat6
          • RedHat6-CDH
          • RedHat6-Common
          • RedHat6-JDK-tools
        • 🐙 CentOS7
          • 脚本命令说明
          • CentOS7-Common
          • CentOS7-Elasticsearch
          • CentOS7-Flink
          • CentOS7-Hadoop
          • CentOS7-HBase
          • CentOS7-Hive
          • CentOS7-JDK-tools
          • CentOS7-Kafka
          • CentOS7-Kafka Eagle
          • CentOS7-MySQL
          • CentOS7-Redis Cluster
          • CentOS7-SolrCloud-Jetty
          • CentOS7-Spark
          • CentOS7-ZooKeeper
    • 👥 交互式工具
      • 👤 交互式开发
        • 🍀 Zeppelin-introduce
          • Zeppelin基础入门
        • 🔱 Zeppelin-install
          • CentOS7_Zeppelin-0.9.0-preview
      • 👤 交互式分析
        • 🍀 Presto-introduce
          • Presto基础入门
        • 🔱 Presto-install
          • CentOS7_Presto-0.219
  • 💎 数据仓库
    • 🍺 湖仓一体
      • 参考资料
  • 💎 基准测试
    • 🏃 TPC-DS
      • 🔱 TPC-DS on Hive-2.3.4
  • 💎 参考资源
    • 🌲 Azkaban-网络学习资源汇总
    • 🌲 Cassandra-网络学习资源汇总
    • 🌲 HBase-网络学习资源汇总
    • 🌲 CDH-网络学习资源汇总
    • 🌲 Flink-网络学习资源汇总
    • 🌲 Solr-网络学习资源汇总
    • 🌲 Spark-网络学习资源汇总
暂无相关搜索结果!
    展开/收起文章目录

    代做工资流水公司杭州做对公账户流水肇庆入职工资流水代办黄冈对公流水办理宿迁查银行流水账单沧州制作对公账户流水苏州转账银行流水打印邯郸查询车贷流水海口做对公银行流水盐城转账流水多少钱济宁工资流水app截图样本宁波银行流水单查询重庆企业对私流水开具南京做工作收入证明南昌打银行流水账单哈尔滨自存银行流水代开赣州打工资流水账单石家庄银行对公流水报价舟山制作银行流水修改肇庆企业贷流水样本泰安查询对公银行流水贵阳银行流水账打印泉州代办银行流水修改宁波办理转账流水赣州查离职证明商丘房贷工资流水上饶个人银行流水代做保定代做贷款工资流水海口查车贷工资流水海口薪资流水费用银川公司流水代做香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

    代做工资流水公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化