定时任务的管理:任务调度系统apache-airflow的简介与安装
yund56 2025-05-03 16:56 36 浏览
对于定时任务的实现，有很多现成的框架来实现，比如Java中自带的ScheduledExecutorService或者第三方框架Quartz，还有Python中的crontab、APSScheduler等等，但是这些定时任务多了起来后，管理就是一个问题，那么就有这样一个系统，专门用来管理和调度这些定时任务，他就是apache-airflow。
Airflow是一个可编程，调度和监控的工作流平台，基于有向无环图(DAG)，airflow可以定义一组有依赖的任务，按照依赖依次执行。airflow提供了丰富的命令行工具用于系统管控，而其web管理界面同样也可以方便的管控调度任务，并且对任务运行状态进行实时监控，方便了系统的运维和管理。对于任务的执行，airflow里面提供了执行器(Executor)，Airflow本身是一个综合平台，它兼容多种组件，所以在使用的时候有多种方案可以选择。比如最关键的执行器就有四种选择:
1、SequentialExecutor：单进程顺序执行任务，默认执行器，通常只用于测试
2、LocalExecutor：多进程本地执行任务
3、CeleryExecutor：分布式调度，生产常用
4、DaskExecutor ：动态任务调度，主要用于数据分析
这样的大概介绍会让大家有些云里雾里，那么我们就先安装一下这个系统，然后根据安装后的使用，在详细对各个功能做介绍。
我们首先设置一下环境变量：export AIRFLOW_HOME=~/airflow，这样安装的airflow的一些配置文件或者日志目录，就以这个为主目录了！
由于是Python环境，就使用pip install apache-airflow来安装：
这样airflow就安装到本地了，我们可以使用airflow initdb来初始化：
这样就在我们刚才配置的主目录里面，有了配置文件和一个初始化的db文件，这个文件就是sqlite产生的数据库文件，airflow内置了sqlite数据库：
可以使用命令：airflow webserver来启动这个服务，-p参数可以指定启动的端口号：
这样我们就可以在浏览器中输入http://0.0.0.0:8080来访问它提供的优美的UI界面：
上面的黄色提示是没有启动sheduler，也就是任务调度的服务，scheduler 是一个守护进程，它周期性地轮询任务的调度计划，以确定是否触发任务执行。启动这个服务，可以使用airflow scheduler命令来启动：
这样那个黄色提示信息就消失了：
这样的UI界面给我们提供了丰富的信息，包括定时任务的列表，执行情况及任务之间的依赖情况等等，功能强大到让你不再为成百上千个定时任务的管理而发愁，先来学着安装一下吧！
相关推荐
- SM小分队Girls on Top，女神战队少了f(x)?
-
这次由SM娱乐公司在冬季即将开演的smtown里，将公司的所有女团成员集结成了一个小分队project。第一位这是全面ACE的大姐成员权宝儿（BoA），出道二十年，在日本单人销量过千万，韩国国内200...
- 韩国女团 aespa 首场 VR 演唱会或暗示 Quest 3 将于 10 月推出
-
AmazeVR宣布将在十月份举办一场现场VR音乐会，观众将佩戴MetaQuest3进行体验。韩国女团aespa于2020年11月出道，此后在日本推出了三张金唱片，在韩国推出了...
- 韩网热议!女团aespa成员Giselle在长腿爱豆中真的是legend
-
身高163的Giselle，长腿傲人，身材比例绝了...
- 假唱而被骂爆的女团:IVE、NewJeans、aespa上榜
-
在韩国，其实K-pop偶像并不被认为是真正的歌手，因为偶像们必须兼备舞蹈能力、也经常透过对嘴来完成舞台。由于科技的日渐发达，也有许多网友会利用消音软体来验证K-pop偶像到底有没有开麦唱歌，导致假唱这...
- 新女团Aespa登时尚大片 四个少女四种style
-
来源：环球网
- 韩国女团aespa新歌MV曝光 画面梦幻造型超美
-
12月20日，韩国女团aespa翻唱曲《DreamsComeTrue》MV公开，视频中，她们的造型超美！WINTER背后长出一双梦幻般的翅膀。柳智敏笑容甜美。宁艺卓皮肤白皙。GISELLE五官精致...
- 女网友向拳头维权，自称是萨勒芬妮的原型?某韩国女团抄袭KDA
-
女英雄萨勒芬妮（Seraphine）是拳头在2020年推出的第五位新英雄，在还没有正式上线时就备受lsp玩家的关注，因为她实在是太可爱了。和其他新英雄不同的是，萨勒芬妮在没上线时就被拳头当成虚拟偶像来...
- 人气TOP女团是?INS粉丝数见分晓;TWICE成员为何在演唱会落泪?
-
现在的人气TOP女团是？INS粉丝数见分晓！现在爱豆和粉丝之间的交流方法变得多种多样，但是Instagram依然是主要的交流手段。很多粉丝根据粉丝数评价偶像的人气，拥有数百、数千万粉丝的组合作为全球偶...
- 韩国女团MVaespa Drama MV_韩国女团穿超短裙子跳舞
-
WelcometoDrama.Pleasefollow4ruleswhilewatchingtheDrama.·1)Lookbackimmediatelywhenyoufe...
- aespa师妹团今年将出道! SM职员亲口曝「新女团风格、人数」
-
记者刘宛欣／综合报导南韩造星工厂SM娱乐曾打造出东方神起、SUPERJUNIOR、少女时代、SHINee、EXO等传奇团体，近年推出的aespa、RIIZE更是双双成为新生代一线团体，深受大众与粉丝...
- 南韩最活跃的女团aespa，新专辑《Girls》即将发布，盘点昔日经典
-
女团aespa歌曲盘点，新专辑《Girls》即将发布，期待大火。明天也就是2022年的7月8号，aespa新专辑《Girls》即将发行。这是继首张专辑《Savage》之后，时隔19个月的第二张专辑，这...
- 章泽天女团aespa出席戛纳晚宴 宋康昊携新片亮相
-
搜狐娱乐讯（山今/文玄反影/图科明/视频）法国时间5月23日晚，女团aespa、宋康昊、章泽天等明星亮相戛纳晚宴。章泽天身姿优越。章泽天肩颈线优越。章泽天双臂纤细。章泽天仪态端正。女团aespa亮...
- Aespa舞台暴露身高比例，宁艺卓脸大，柳智敏有“TOP”相
-
作为SM公司最新女团aespa，初舞台《BlackMamba》公开，在初舞台里，看得出来SM公司是下了大功夫的，虽然之前SM公司新出的女团都有很长的先导片，但是aespa显然是有“特殊待遇”。运用了...
- AESPA女团成员柳智敏karina大美女
-
真队内速度最快最火达成队内首个且唯一两百万点赞五代男女团中输断层第一（图转自微博）...
- 对来学校演出的女团成员语言性骚扰?韩国这所男高的学生恶心透了
-
哕了……本月4日，景福男子高中相关人士称已经找到了在SNS中上传对aespa成员进行性骚扰文章的学生，并开始着手调查。2日，SM娱乐创始人李秀满的母校——景福高中迎来了建校101周年庆典活动。当天，S...
- 一周热门
- 最近发表
-
- SM小分队Girls on Top，女神战队少了f(x)?
- 韩国女团 aespa 首场 VR 演唱会或暗示 Quest 3 将于 10 月推出
- 韩网热议!女团aespa成员Giselle在长腿爱豆中真的是legend
- 假唱而被骂爆的女团:IVE、NewJeans、aespa上榜
- 新女团Aespa登时尚大片 四个少女四种style
- 韩国女团aespa新歌MV曝光 画面梦幻造型超美
- 女网友向拳头维权，自称是萨勒芬妮的原型?某韩国女团抄袭KDA
- 人气TOP女团是?INS粉丝数见分晓;TWICE成员为何在演唱会落泪?
- 韩国女团MVaespa Drama MV_韩国女团穿超短裙子跳舞
- aespa师妹团今年将出道! SM职员亲口曝「新女团风格、人数」
- 标签列表
-
- filter函数js (37)
- filter函数excel用不了 (73)
- 商城开发 (40)
- 影视网站免费源码最新版 (57)
- 影视资源api接口 (46)
- 网站留言板代码大全 (56)
- java版软件下载 (52)
- java教材电子课本下载 (48)
- 0基础编程从什么开始学 (50)
- java是用来干嘛的 (51)
- it入门应该学什么 (55)
- java线上课程 (55)
- 学java的软件叫什么软件 (38)
- 程序开发软件有哪些 (53)
- 软件培训 (59)
- 机器人编程代码大全 (50)
- 少儿编程教程免费 (45)
- 新代系统编程教学 (61)
- 共创世界编程网站 (38)
- 亲测源码 (36)
- 三角函数积分公式表 (35)
- 函数的表示方法 (34)
- 表格乘法的公式怎么设置 (34)
- sumif函数的例子 (34)
- 图片素材 (36)