Параметры пользовательского интерфейса Airflow не передаются в DAGPython

Программы на Python
Ответить
Anonymous
 Параметры пользовательского интерфейса Airflow не передаются в DAG

Сообщение Anonymous »

Я пытаюсь запустить группу обеспечения доступности баз данных с указанным пользователем значением параметра. Используйте эту документацию в качестве руководства.
В пользовательском интерфейсе Airflow, когда я нажимаю кнопку воспроизведения рядом с группой обеспечения доступности баз данных. Я вижу страницу, на которой мой параметр Schema_prefix отображается со значением по умолчанию.
Проблема: Группа обеспечения доступности баз данных всегда запускается со значением параметра по умолчанию. . Я попробовал изменить его, но он все еще использует значение по умолчанию. Я также попытался установить для этой переменной env AIRFLOW__CORE__DAG_RUN_CONF_OVERRIDES_PARAMS значение true, как упоминалось здесь, но это не дало никакого эффекта (DAG все еще запускается со значением по умолчанию).
Может ли кто-нибудь пожалуйста, помогите с этим? Или подскажите мне, как лучше всего запускать группу обеспечения доступности баз данных с параметрами, предоставленными пользователем из пользовательского интерфейса?
Здесь предлагается использовать переменные Airflow через вкладку администратора, но это не работает в мой вариант использования, так как тогда все группы обеспечения доступности баз данных будут работать с одинаковыми значениями параметров. Наш вариант использования требует, чтобы разные пользователи, использующие Airflow, могли запускать свои собственные конвейеры со своими конкретными параметрами для тестирования и других целей.
Спасибо
my_params = {
"schema_prefix": Param(
"ABC",
description="Prefix to schema",
type="string",
minLength=2)
}

with DAG(
dag_id="test_dag_1",
start_date=datetime(2024, 1, 1),
params=my_params,
) as dag:
python_task = PythonOperator(
python_callable=my_task_python_file,
task_id="python_task_id",
op_kwargs={k: v for k, v in my_params.items()},
)
)


Подробнее здесь: https://stackoverflow.com/questions/792 ... -on-to-dag
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»