定时任务的管理:任务调度系统apache-airflow的简介与安装
haoteby 2025-05-15 17:56 2 浏览
对于定时任务的实现，有很多现成的框架来实现，比如Java中自带的ScheduledExecutorService或者第三方框架Quartz，还有Python中的crontab、APSScheduler等等，但是这些定时任务多了起来后，管理就是一个问题，那么就有这样一个系统，专门用来管理和调度这些定时任务，他就是apache-airflow。
Airflow是一个可编程，调度和监控的工作流平台，基于有向无环图(DAG)，airflow可以定义一组有依赖的任务，按照依赖依次执行。airflow提供了丰富的命令行工具用于系统管控，而其web管理界面同样也可以方便的管控调度任务，并且对任务运行状态进行实时监控，方便了系统的运维和管理。对于任务的执行，airflow里面提供了执行器(Executor)，Airflow本身是一个综合平台，它兼容多种组件，所以在使用的时候有多种方案可以选择。比如最关键的执行器就有四种选择:
1、SequentialExecutor：单进程顺序执行任务，默认执行器，通常只用于测试
2、LocalExecutor：多进程本地执行任务
3、CeleryExecutor：分布式调度，生产常用
4、DaskExecutor ：动态任务调度，主要用于数据分析
这样的大概介绍会让大家有些云里雾里，那么我们就先安装一下这个系统，然后根据安装后的使用，在详细对各个功能做介绍。
我们首先设置一下环境变量：export AIRFLOW_HOME=~/airflow，这样安装的airflow的一些配置文件或者日志目录，就以这个为主目录了！
由于是Python环境，就使用pip install apache-airflow来安装：
这样airflow就安装到本地了，我们可以使用airflow initdb来初始化：
这样就在我们刚才配置的主目录里面，有了配置文件和一个初始化的db文件，这个文件就是sqlite产生的数据库文件，airflow内置了sqlite数据库：
可以使用命令：airflow webserver来启动这个服务，-p参数可以指定启动的端口号：
这样我们就可以在浏览器中输入http://0.0.0.0:8080来访问它提供的优美的UI界面：
上面的黄色提示是没有启动sheduler，也就是任务调度的服务，scheduler 是一个守护进程，它周期性地轮询任务的调度计划，以确定是否触发任务执行。启动这个服务，可以使用airflow scheduler命令来启动：
这样那个黄色提示信息就消失了：
这样的UI界面给我们提供了丰富的信息，包括定时任务的列表，执行情况及任务之间的依赖情况等等，功能强大到让你不再为成百上千个定时任务的管理而发愁，先来学着安装一下吧！
相关推荐
- 5个珍藏多年的资源网站，免费又实用，建议收藏
-
今天给大家分享5个珍藏多年的资源网站，每个都是免费的，而且非常的实用，建议收藏。1、wallhaven一个国外知名的壁纸网站，拥有海量的8k、4k的超清图片壁纸，该网站的图片是由各地的创作者提供下载，...
- 设计网站推荐 | 国内外设计类素材网站
-
网站分享|十个不得不推荐的设计类素材网站！一些压箱底的常用的设计类素材分享！一定要打开这些网站试一试哦！...
- 阿里巴巴旗下菜鸟裹裹换新LOGO?长高了
-
LOGO大师整理编辑（ID：logods）...
- 10个做PPT必备的素材网站，越用越上瘾，每个都是宝藏
-
Pexelshttps://www.pexels.com/zh-cn/...
- 阿里旗下的四款免费小工具 好用并且能大大提升工作效率
-
好的工具能大大的提升你的工作效率，今天给大家分享的是阿里旗下的四款经典免费小工具，主要是用来设计，能方便，且高效的提高你的工作效率，觉得有用就收藏了吧。第一个：阿里巴巴图标库阿里巴巴图标库有将近80多...
- UI设计入门干货!八大软件+技能+素材网站
-
随着互联网行业的发展，UI设计师越来越多的被提及，UI设计师大火，需求岗位越来越多，也有越来越多的人转行投身UI设计师。UI设计是什么？一般所说的UI设计多指UI视觉设计，主要负责APP、Web、H5...
- 干货!宝藏PPT素材——海量图标免费使用
-
我是星辰四个月的假期收集了一些PPT素材，筹备了这个公众号今天终于和大家见面了此公众号不定时更新各种素材干活和PPT模板记得关注我哦~后台发送“PPT”领取免费PPT模板总是很难找到合适PPT素材？费...
- 写了100多篇原创文章，我常用的在线工具网站推荐给大家
-
摘要不知不觉写博客已经一年多了，累计写了100多篇原创文章，今天给大家分享下我经常使用的在线工具网站，希望对大家有所帮助！MarkdownNice支持自定义样式的在线Markdown编辑器，编辑完成...
- 设计者必备神器:必须收藏的在线软件推荐
-
本内容来源于@什么值得买SMZDM.COM｜首席生活家保密对于新电脑或重新刷系统的电脑，安装一堆软件是很费时间的，而软件多了会对系统运行速度有影响，特别是机械硬盘，响应时间与软件数量成正比的。而用了...
- 干货 | 设计师必备网站，大神作品、图片素材一网打尽
-
经常会听到这样的一句话：设计师每日正式开始工作的第一件事，就是打开3个及以上的设计/素材网站。网站中的优秀作品不仅可以帮助设计师提升自己，还能激发创作的灵感，所以今天，我们为大家整理了一些国内外优秀的...
- 推荐11个超好用的在线作图网站
-
现在做图好像已经不是设计师的专利不管是新媒体人、文案，还是随便一个人不会随时随地做几张漂亮图不能分分钟出点海报、封面图、邀请函什么的还怎么昂首挺胸在办公室里混不会PS没关系，不会做图可不行所以今天老贼...
- 做设计还只知道花瓣包图网?这100+个免费商用素材网站送给你
-
作为设计师你常用的网站是哪些呢？花瓣？站酷？千库？千图？包图？这些网站确实是大家最常用的网站，各种风格的元素、模板、源文件，用起来可以说是得心应手了~但是一旦出现了这个场景，你就也跟着崩溃了........
- 5个好看的图标网站，直接搜索下载
-
今天和大家分享5个图标网站，里面收录大量丰富的图标，在这里找到好图标不是什么难事。Iconsdbwww.iconsdb.com...
- 8个高清无版权的图片资源网站，质量高又免费，够你用一辈子
-
很多时候我们找素材总是要花费很多时间，今天就给大家分享8个，高清无版权的图片资源网站，质量高又免费，够你用一辈子。01*Logosc...
- 淘宝PPT设计师不会告诉你的4个网站!帮你剩下不少钱
-
之前的文章中，给各位推荐过图片素材网站，像：500px，unsplash等，也给各位推荐过图标网站，像阿里巴巴图标库。这些网站都很好用。但是，我最近发现，有一类素材网站，在做PPT时也会经常用到，...