 wangxq
|
c50bbf0d0d
load_file.py测试通过，准备修改多节点依赖。
|
há 10 meses atrás |
|
wangxq
|
3b0e4b24a1
完成对csv文件加载的部分修改，未修改路径，测试调度
|
há 10 meses atrás |
|
wangxq
|
25d64887fd
增加了对load_file.py的支持
|
há 10 meses atrás |
|
wangxq
|
d0517d7a58
添加load_file.py，准备修改DAG，增加对csv的支持
|
há 10 meses atrás |
|
wangxq
|
89fbff1ca9
开始项目代码优化整合
|
há 10 meses atrás |
|
wangxq
|
832dbc08c2
修正了手工传参的大小写问题
|
há 10 meses atrás |
|
wangxq
|
c0f8b12ad4
pipeline版本的prepare/data代码修改了手工传参的日志
|
há 10 meses atrás |
|
wangxq
|
e3481c69da
pipeline 版本添加了手工传参的功能，修改了部分scripts.
|
há 10 meses atrás |
|
wangxq
|
7ba906cca4
pipeline 版本基本调试通过
|
há 10 meses atrás |
|
wangxq
|
c7c9aa395e
prepare和data已经可以正常工作，后面计划重新添加一个summary的DAG.
|
há 10 meses atrás |
|
wangxq
|
0c1735befc
准备修改airflow_exec_plan表，并测试时间戳的生成
|
há 10 meses atrás |
|
wangxq
|
22cb341bd1
准备修改两个文件中的时区，我发现ds和exection_time都是UTC时区的
|
há 10 meses atrás |
|
wangxq
|
93b2c15da7
删除了对airflow_dag_schedule的依赖，但是对json和json.ready的依赖没有删除干净
|
há 10 meses atrás |
|
wangxq
|
db9d2718b0
pipeline_data修改了一半
|
há 10 meses atrás |
|
wangxq
|
15bb995811
pipeline_data不再依赖json文件
|
há 10 meses atrás |
|
wangxq
|
935efc4d4b
pipeline_prepare 同时把plan写成json文件和数据库表
|
há 10 meses atrás |
|
wangxq
|
2e8886e1b7
从pipeline_prepare删除了与airflow_dag_schedule相关的操作
|
há 10 meses atrás |
|
wangxq
|
1e4838a523
修改pipeline_prepare代码中的支持多个版本的json文件，还未删除它把执行计划写入数据库表的功能
|
há 10 meses atrás |
|
wangxq
|
0846b2b64f
准备修改pipeline_data/prepare
|
há 10 meses atrás |
|
wangxq
|
85deb8de46
已经莫名其妙的修复了pipline_data_scheduler.py
|
há 10 meses atrás |
|
wangxq
|
09b2edddcd
更新执行时长的功能没有成功
|
há 10 meses atrás |
|
wangxq
|
e8a9e4711f
dag_dataops_pipeline_*_scheduler.py 的两个文件基本可以正常工作，data_scheduler.py的summary功能还有些问题。
|
há 10 meses atrás |
|
wangxq
|
61990f9b8d
准备把unified_data和unified_summary合并为一个DAG
|
há 10 meses atrás |
|
wangxq
|
a128852d15
unified 三个脚本调通，准备合并后两个脚本
|
há 10 meses atrás |
|
wangxq
|
2965e0e4ee
准备修改三个unified文件的触发机制
|
há 10 meses atrás |
|
wangxq
|
5e51972be7
单一文件的DAG我准备放弃了，目前unified三文件版本是可以正常工作的。
|
há 10 meses atrás |
|
wangxq
|
fd4f7e472c
做了两种尝试，效果均不满意，手工执行时合并后，查看脚本执行流程图。自动调度合并为一个DAG，并保留作业执行流程图。
|
há 10 meses atrás |
|
wangxq
|
6583bd530d
统一的DAG可以正常运行了
|
há 10 meses atrás |
|
wangxq
|
b1ec0a5232
有错误的unified四个脚本，准备合并三个unified脚本，手工unified已经宣告失败。
|
há 10 meses atrás |
|
wangxq
|
6f291ae161
完成对dag_dataops_*_scheduler.py 四个脚本的编写，后续需要研究airflow的系统执行时间，现在不同DAG中系统执行时间不一致。
|
há 10 meses atrás |
