Apache Airflow 3.2 вышел.
Ниже представлены ключевые нововведения:
• Партиционирование ассетов (Asset Partitioning)
Запуск DAG’ов при обновлении конкретных партиций данных.
• Поддержка нескольких команд (Multi-team support)
Изолированные секреты и ресурсы для разных команд в рамках одного инстанса Airflow.
• Уведомления о дедлайнах (Deadline Alerts)
Уведомления в случае, если выполнение DAG занимает больше времени, чем ожидалось; альтернатива SLA.
• Поддержка асинхронных функций в PythonOperator
Нативный запуск async-функций (особенно актуально для AI-задач), без необходимости создавать кастомные операторы.
• Сравнение изменений кода (Diff) в Code View
Возможность отслеживать различия между версиями DAG непосредственно в интерфейсе.
• Кнопка копирования логов
Упрощает работу с логами за счёт быстрого копирования.
• Новый механизм плагинов на React
Расширенные возможности кастомизации пользовательского интерфейса Airflow.
• История согласований Human-in-the-loop
Отслеживание действий пользователей при одобрении или отклонении результатов AI.
• Индикатор версий DAG
Явное отображение различий между версиями DAG в Grid View.
P.S. Вебинар по Airflow 3.2 проходит сегодня.
@tldr_data
Post #57
91