Попытка создать динамический subdags из родительского dag на основе массива имен файлов

10

Я пытаюсь переместить файлы s3 из «не удаляющего» контейнера (то есть я не могу удалить файлы) в GCS, используя поток воздуха. Я не могу гарантировать, что новые файлы будут там каждый день, но я должен проверять новые файлы каждый день.

Моя проблема заключается в динамическом создании subdags. Если есть файлы ARE, мне нужны подзадачи. Если нет файлов, мне не нужны подзадачи. Моя проблема в настройках вверх / вниз по течению. В моем коде он обнаруживает файлы, но не запускает подзадачи, как они должны. Я что-то упустил.

вот мой код:

from airflow import models
from  airflow.utils.helpers import chain
from airflow.providers.amazon.aws.hooks.s3 import S3Hook
from airflow.operators.python_operator import PythonOperator, BranchPythonOperator
from airflow.operators.dummy_operator import DummyOperator
from airflow.operators.subdag_operator import SubDagOperator
from airflow.contrib.operators.s3_to_gcs_operator import S3ToGoogleCloudStorageOperator
from airflow.utils import dates
from airflow.models import Variable
import logging

args = {
    'owner': 'Airflow',
    'start_date': dates.days_ago(1),
    'email': ['sinistersparrow1701@gmail.com'],
    'email_on_failure': True,
    'email_on_success': True,
}

bucket = 'mybucket'
prefix = 'myprefix/'
LastBDEXDate = int(Variable.get("last_publish_date"))
maxdate = LastBDEXDate
files = []

parent_dag = models.DAG(
    dag_id='My_Ingestion',
    default_args=args,
    schedule_interval='@daily',
    catchup=False
)

def Check_For_Files(**kwargs):
    s3 = S3Hook(aws_conn_id='S3_BOX')
    s3.get_conn()
    bucket = bucket
    LastBDEXDate = int(Variable.get("last_publish_date"))
    maxdate = LastBDEXDate
    files = s3.list_keys(bucket_name=bucket, prefix='myprefix/file')
    for file in files:
        print(file)
        print(file.split("_")[-2])
        print(file.split("_")[-2][-8:])  ##proves I can see a date in the file name is ok.
        maxdate = maxdate if maxdate > int(file.split("_")[-2][-8:]) else int(file.split("_")[-2][-8:])
    if maxdate > LastBDEXDate:
        return 'Start_Process'
    return 'finished'

def create_subdag(dag_parent, dag_id_child_prefix, file_name):
    # dag params
    dag_id_child = '%s.%s' % (dag_parent.dag_id, dag_id_child_prefix)

    # dag
    subdag = models.DAG(dag_id=dag_id_child,
              default_args=args,
              schedule_interval=None)

    # operators
    s3_to_gcs_op = S3ToGoogleCloudStorageOperator(
        task_id=dag_id_child,
        bucket=bucket,
        prefix=file_name,
        dest_gcs_conn_id='GCP_Account',
        dest_gcs='gs://my_files/To_Process/',
        replace=False,
        gzip=True,
        dag=subdag)


    return subdag

def create_subdag_operator(dag_parent, filename, index):
    tid_subdag = 'file_{}'.format(index)
    subdag = create_subdag(dag_parent, tid_subdag, filename)
    sd_op = SubDagOperator(task_id=tid_subdag, dag=dag_parent, subdag=subdag)
    return sd_op

def create_subdag_operators(dag_parent, file_list):
    subdags = [create_subdag_operator(dag_parent, file, file_list.index(file)) for file in file_list]
    # chain subdag-operators together
    chain(*subdags)
    return subdags

check_for_files = BranchPythonOperator(
    task_id='Check_for_s3_Files',
    provide_context=True,
    python_callable=Check_For_Files,
    dag=parent_dag
)

finished = DummyOperator(
    task_id='finished',
    dag=parent_dag
)

decision_to_continue = DummyOperator(
    task_id='Start_Process',
    dag=parent_dag
)

if len(files) > 0:
    subdag_ops = create_subdag_operators(parent_dag, files)
    check_for_files >> decision_to_continue >> subdag_ops[0] >> subdag_ops[-1] >> finished


check_for_files >> finished
arcee123
источник
Какие виды заданий выполняются в бэкэнде этих DAGS: эти sparkзадания или какой-либо pythonсценарий, и что вы используете для его выполнения, как livyи какой-либо другой метод
Эшвин Агравал
Извините, я не понимаю вопроса. не могли бы вы переформулировать?
arcee123
Я имею в виду, что вы используете только простые сценарии Python и не используете искорку, не так ли?
Ашвин Агравал
Да. простые операторы, которые по умолчанию в воздушном потоке. Я хочу добавить существующие операторы с динамической скоростью на основе помеченных файлов в S3, которые я хочу использовать в GCS.
arcee123
Почему filesпустой список?
Олувафеми Суле

Ответы:

3

Ниже приведен рекомендуемый способ создания динамического DAG или вспомогательного DAG в потоке воздуха, хотя есть и другие способы, но я думаю, что это в значительной степени применимо к вашей проблеме.

Сначала создайте файл, (yaml/csv)который включает в себя список всех s3файлов и местоположений, в вашем случае вы написали функцию для сохранения их в списке, я бы сказал, сохранить их в отдельном yamlфайле и загрузить его во время выполнения в airflow env, а затем создать DAGs.

Ниже приведен пример yamlфайла: dynamicDagConfigFile.yaml

job: dynamic-dag
bucket_name: 'bucket-name'
prefix: 'bucket-prefix'
S3Files:
    - File1: 'S3Loc1'
    - File2: 'S3Loc2'
    - File3: 'S3Loc3'

Вы можете изменить свою Check_For_Filesфункцию, чтобы сохранить их в yamlфайле.

Теперь мы можем перейти к динамическому созданию даг:

Сначала определите две задачи, используя фиктивные операторы: начало и конец задачи. Такие задачи - те, в которых мы собираемся опираться DAG, динамически создавая задачи между ними:

start = DummyOperator(
    task_id='start',
    dag=dag
)

end = DummyOperator(
    task_id='end',
    dag=dag)

Динамический DAG: мы будем использовать PythonOperatorsв воздушном потоке. Функция должна получить в качестве аргументов идентификатор задачи; выполняемая функция python, то есть python_callable для оператора Python; и набор аргументов, которые будут использоваться во время выполнения.

Включите аргумент в task id. Таким образом, мы можем обмениваться данными между задачами, сгенерированными динамически, например, с помощью XCOM.

Вы можете указать свою операционную функцию в этом динамическом dag, как s3_to_gcs_op.

def createDynamicDAG(task_id, callableFunction, args):
    task = PythonOperator(
        task_id = task_id,
        provide_context=True,
        #Eval is used since the callableFunction var is of type string
        #while the python_callable argument for PythonOperators only receives objects of type callable not strings.
        python_callable = eval(callableFunction),
        op_kwargs = args,
        xcom_push = True,
        dag = dag,
    )
    return task

Наконец, в зависимости от местоположения, присутствующего в файле yaml, вы можете создать динамический даг, сначала прочитайте yamlфайл, как показано ниже, и создайте динамический даг:

with open('/usr/local/airflow/dags/config_files/dynamicDagConfigFile.yaml') as f:
    # use safe_load instead to load the YAML file
    configFile = yaml.safe_load(f)

    #Extract file list
    S3Files = configFile['S3Files']

    #In this loop tasks are created for each table defined in the YAML file
    for S3File in S3Files:
        for S3File, fieldName in S3File.items():

            #Remember task id is provided in order to exchange data among tasks generated in dynamic way.
            get_s3_files = createDynamicDAG('{}-getS3Data'.format(S3File), 
                                            'getS3Data', 
                                            {}) #your configs here.

            #Second step is upload S3 to GCS
            upload_s3_toGCS = createDynamicDAG('{}-uploadDataS3ToGCS'.format(S3File), 'uploadDataS3ToGCS', {'previous_task_id':'{}-'})

#write your configs again here like S3 bucket name prefix extra or read from yaml file, and other GCS config.

Окончательное определение DAG:

Идея в том, что

#once tasks are generated they should linked with the
#dummy operators generated in the start and end tasks. 
start >> get_s3_files
get_s3_files >> upload_s3_toGCS
upload_s3_toGCS >> end

Полный код воздушного потока в заказе:

import yaml
import airflow
from airflow import DAG
from datetime import datetime, timedelta, time
from airflow.operators.python_operator import PythonOperator
from airflow.operators.dummy_operator import DummyOperator

start = DummyOperator(
    task_id='start',
    dag=dag
)


def createDynamicDAG(task_id, callableFunction, args):
    task = PythonOperator(
        task_id = task_id,
        provide_context=True,
        #Eval is used since the callableFunction var is of type string
        #while the python_callable argument for PythonOperators only receives objects of type callable not strings.
        python_callable = eval(callableFunction),
        op_kwargs = args,
        xcom_push = True,
        dag = dag,
    )
    return task


end = DummyOperator(
    task_id='end',
    dag=dag)



with open('/usr/local/airflow/dags/config_files/dynamicDagConfigFile.yaml') as f:
    configFile = yaml.safe_load(f)

    #Extract file list
    S3Files = configFile['S3Files']

    #In this loop tasks are created for each table defined in the YAML file
    for S3File in S3Files:
        for S3File, fieldName in S3File.items():

            #Remember task id is provided in order to exchange data among tasks generated in dynamic way.
            get_s3_files = createDynamicDAG('{}-getS3Data'.format(S3File), 
                                            'getS3Data', 
                                            {}) #your configs here.

            #Second step is upload S3 to GCS
            upload_s3_toGCS = createDynamicDAG('{}-uploadDataS3ToGCS'.format(S3File), 'uploadDataS3ToGCS', {'previous_task_id':'{}-'})

#write your configs again here like S3 bucket name prefix extra or read from yaml file, and other GCS config.


start >> get_s3_files
get_s3_files >> upload_s3_toGCS
upload_s3_toGCS >> end
Эшвин Агравал
источник
Спасибо вам большое. одна из проблем, с которыми я столкнулся, заключалась в том, что происходит, если нет новых файлов? Одна из проблем, с которыми я сталкиваюсь, заключается в том, что в этом месте всегда будут файлы, но не гарантируется, что НОВЫЕ файлы будут извлечены, что означает, что раздел upload_s3_toGCSне будет существовать, и возникнет ошибка в потоке воздуха.
arcee123
Вы можете решить проблему, удалив файлы из yamlфайла, как только все эти файлы будут загружены в GCS, таким образом, в файле будут присутствовать только новые файлы yaml. И в случае, если нет новых файлов, yamlфайл будет пустым, и динамическая метка не будет создана. Вот почему yamlфайл является гораздо лучшим вариантом по сравнению с хранением файлов в списке.
Ашвин Агравал
Этот yamlфайл также поможет в ведении журнала файлов s3 таким образом, если предполагается, что часть файла s3 не была загружена в GCS, вы также можете сохранить флаг, соответствующий этому файлу, и затем повторить их при следующем запуске DAG.
Ашвин Агравал
И если нет новых файлов, вы можете поставить ifперед DAG условие, которое проверит наличие новых файлов в yamlфайлах, если появятся новые файлы, запустите его, в противном случае пропустите его.
Ашвин Агравал
проблема здесь в том, что нисходящие потоки установлены. если нисходящие потоки установлены без фактических заданий (потому что нет файлов), произойдет ошибка.
arcee123