Вопросы с тегом «airflow»

99
Правильный способ создания динамических рабочих процессов в Airflow

Проблема Есть ли способ в Airflow создать рабочий процесс, при котором количество задач B. * неизвестно до завершения задачи A? Я просмотрел вложенные теги, но похоже, что он может работать только со статическим набором задач, которые должны быть определены при создании Dag. Сработают ли...

16
Не удается запустить веб-сервер Airflow с sqlalchemy.exc.NoInspectionAvailable: система проверки недоступна

Установка выполнена правильно. БД запущена правильно и при попытке запустить веб-сервер выдает следующую ошибку. Я переустанавливал все, но он все еще не работает. Я буду признателен, если кто-нибудь поможет мне. Консольный вывод: $:~/airflow# airflow webserver -p 8080 ____________ _____________...

12
Ошибка при установке apache-airflow [закрыто]

Закрыто. Этот вопрос не воспроизводится или был вызван опечатками . В настоящее время он не принимает ответы. Хотите улучшить этот вопрос? Обновите вопрос, чтобы он соответствовал теме переполнения стека. Закрыто 3 месяца назад . Я получаю ошибку выше, когда я пытаюсь воздушный поток-версия и...

12
Планировщик воздушного потока не запускается с kubernetes executor

Я использую https://github.com/helm/charts/tree/master/stable/airflow helm chart и создаю puckle/docker-airflowобраз v1.10.8 с установленным на нем kubernetes и использую это изображение в helm chart, но я продолжаю получать File "/usr/local/bin/airflow", line 37, in <module> args.func(args)...

10
Попытка создать динамический subdags из родительского dag на основе массива имен файлов

Я пытаюсь переместить файлы s3 из «не удаляющего» контейнера (то есть я не могу удалить файлы) в GCS, используя поток воздуха. Я не могу гарантировать, что новые файлы будут там каждый день, но я должен проверять новые файлы каждый день. Моя проблема заключается в динамическом создании subdags....

9
Как вызвать задачу Airflow, только когда новый раздел / данные доступны в таблице athena AWS с использованием DAG в python?

У меня есть scenerio как ниже: Триггер а Task 1и Task 2только тогда, когда для них доступны новые данные в исходной таблице (Афина). Триггер для Task1 и Task2 должен произойти при новом разделении данных за день. Триггер Task 3только по завершении Task 1иTask 2 Запустить Task 4только завершениеTask...