- 时间:2022-07-06 02:42 编辑: 来源: 阅读:303
- 扫一扫,手机访问
摘要:Taskctl,一个用于批量任务调度和自动化运维管理的分布式监控平台
《导航网站源码》
前言随着企业拥抱数字化的提升,数据成为企业发展的关键。 对数据的需求来自并服务于业务。数据挖掘、查询、分析、个性化推荐、报表等等都依赖于数据的传输、转换和写入。 数据调度是作业的调度。 批量调度是金融行业信息后台最重要的技术形式。 金融业每天都在进行交易相关的结算、清算、结息、对账等生产活动。 所有这些活动都是通过一项相互耦合的工作来实现的。 因此,需要一个作业调度平台来管理这些海量作业。 随着金融行业新系统的建设和旧系统的升级扩容,越来越多的应用系统被运维部门接管。每天早上需要执行几十个系统的日常切割任务,需要执行近百万个批量作业,工作量非常大。任何一项任务出了问题,都难以及时排除故障,导致工作效率低下,影响数据的准确性和及时性。 然而,开源软件、系统内置的任务计划和传统的批处理调度工具逐渐不能满足业务对批处理作业调度的需求。 企业需要功能更强、性能更好的国产产品。 批量调度的现状和需求目前,由于金融行业缺乏一个专业的批量产品支持和一定的批量调度规范和标准,企业中几十个系统的批量调度比较混乱,难以管理。 由于最初的调度是落后的,现在仍有少数系统使用手工调度或操作系统的Crontab模式调度来实现作业操作的自动化。 这种方法容易造成依赖错误,威胁业务。当上游作业比下游作业晚结束时,会影响作业执行的及时性和准确性。 耗费人力、容易出错和难以监控已经成为这种系统的致命问题。 使用开源软件调度系统使用开源软件,没有免费的技术支持,学习成本高,维护成本高,安全性低,bug修复不及时,生命周期不确定。 调度独立R&D调度系统伴随着项目的独立R&D,R&D成本高,成熟度低,维护成本高,难以保证严谨性和稳定性,需求扩展性差。 随着金融行业新型分布式核心和大数据平台的建设,批量解决方案作业规模越来越大,对应的调度场景更加多样,系统调度逻辑更加复杂。系统开发人员很大一部分精力花在调度逻辑的控制上,而不是业务解决方案本身。 此外,随着作业规模的增大,对调度性能、稳定性和可扩展性提出了更高的要求,现有的少数系统已经逐渐不能满足要求。 越来越多的系统带来管理和运维上的困难。企业系统越来越多。不同的系统有不同的技术要求,批量解决方案作业管理越来越复杂。 一个技术人员很难同时熟悉多个系统,导致需要大量技术人员分别管理和操作。 夜班工作人员同时打开十几个甚至更多的监控画面,已经成为常态,也是痛点。 显然,这些问题也导致了运维投入的不断增加。 批量调度平台处理方案产品详情Taskctl批量调度平台是专业的批量操作自动调度和监控处理方案。能够有效规范、整合、高效管理企业业务系统批量操作,达到全企业批量操作有序高效运行的目的,大幅降低运维成本,助力企业数字化转型。 该工具可以从微信官方账号【taskctl】获取回复内容“软件”,定位产品。批量调度平台加工计划定位:生产经营活动的最终平台,如财务日常切割。 主要针对银行、证券、保险等金融行业,对所有应用系统(包括业务系统、渠道系统、管理系统、数据跨平台作业调度)进行整体统一的调度和监控。 产品特性跨平台作业调度支持跨业务系统、操作系统和网络区域的作业统一调度管理。 海量高效的基于事件的实时调度机制可以支持海量作业。 其强大的调度引擎支持各种调度场景(时间依赖、文件依赖、人工审核依赖等。),并提供丰富的手动干预功能(挂起、恢复、取消、终止等)。). 多维监控提供了业务系统、作业流程、作业等维度进行监控。 可视化布局提供可视化的拖放流程布局,支持流程节点的自动布局。 扩展性强,支持横向扩展和纵向容量扩展。 方便访问B/S架构,客户可以通过浏览器直接访问。 产品架构图产品核心功能Taskctl批量调度平台提供了一个非常强大的调度核心。 具体功能如下图所示:【串行调度】串行调度是指作业按照设定的顺序依次执行。当前作业完成后,才能执行下一个作业。作业的串行调度通常是前一个作业的结果,因为后一个作业需要运行。 【并行调度】并行调度,相互之间没有依赖,即多个作业同时执行。 【条件分支】当一个作业执行到分支节点时,需要根据前一个作业的执行结果来确定后面执行的是分支A还是分支B。 【命令前检测】作业执行前,会检测命令是否能成功执行。 【手动审核】执行手动审核的作业时,作业状态变为待审核,客户需要对作业进行审核后才能继续执行。 [暂停]将暂停处于等待状态的作业,不会继续后续的执行。 [Resume]恢复暂停的作业。 [取消]将作业状态设置为取消,依赖于该作业的其余作业将继续执行。 【终止】终止后,后续的执行不会继续,也不能恢复。 此操作将被强制终止。 [重新执行]复制此作业并将其放入原始作业流程中。 如果新作业成功,则作业流成功。 【解除依赖】解除该作业的依赖关系(包括时间依赖),作业将立即执行。 [强制成功]对于处于错误或失败状态的作业,强制其成功。 用户价值批量调度平台的建设给企业带来的价值体现在以下几个方面:对于业务人员:企业中几十个系统相关的批量作业采用各种调度方式,使得调度混乱,容易出错。 批量调度平台的建设可以帮助业务人员规范和集成各种业务系统的批量操作,为业务人员提供一个专业、统一、规范的技术平台,减少项目实施的工作量,提高各种应用系统的实施效率。 针对运维人员:Taskctl批量调度平台,可以为企业提供专业统一的批量调度技术平台,将企业的批量操作集中在统一的调度平台上,统一展示和监控,提供统一的人工干预窗口,从而大大提高企业运维管理的效率,降低运营成本和风险。