

Offre d'emploi Lead Data Orchestration Engineer (H/F) – Expert Apache Airflow & AWS
Sochaux (25)
Craftman data
Partager cette offre
Faire évoluer l'architecture Airflow existante.
Optimiser les performances d'exécution et les temps de traitement.
Industrialiser la génération des DAGs (DAG Factory).
Mettre en place les bonnes pratiques de développement et de CI/CD.
Optimiser les dépendances entre pipelines.
Renforcer l'observabilité de la plateforme.
Déployer des mécanismes avancés d'alerting et de supervision.
Optimiser le capacity planning.
Améliorer la gestion des secrets.
Renforcer la robustesse et la reprise automatique après incident.
Produire et maintenir les runbooks d'exploitation.
Étudier différentes architectures d'orchestration modernes.
Réaliser des benchmarks techniques.
Concevoir une architecture cible adaptée aux besoins de montée en charge.
Piloter les Proof of Concept.
Accompagner une éventuelle migration vers une nouvelle solution.
Garantir la continuité de service durant les phases de transition.
Définir les standards de développement.
Réaliser des revues de code.
Accompagner les équipes Data et DevOps.
Former les collaborateurs aux bonnes pratiques Airflow.
Participer aux décisions d'architecture.
Profil recherché
Vous justifiez d'au moins 6 ans d'expérience autour d'Apache Airflow en environnement de production.
Vous possédez une forte expérience sur des plateformes critiques nécessitant performance, résilience et industrialisation.
Une expérience de Lead technique ou d'Architecte Data Platform est fortement appréciée.
Environnement de travail
Apache Airflow (Scheduler, Executor, Pools, Triggers, Datasets…)
Python avancé
AWS
MWAA
CloudWatch
IAM
Secrets Manager
SNS
SQS
Optimisation de plateformes Airflow à grande échelle
Observabilité & monitoring
Gestion des incidents
CI/CD
Architecture Data Platform
Résilience des traitements
DAG Factory
Terraform (apprécié)
Une expérience sur une ou plusieurs solutions suivantes constitue un véritable atout :
Airflow sur ECS/EKS
Astronomer
Dagster
Prefect
Une expérience de migration d'une plateforme d'orchestration vers une autre sera particulièrement valorisée.
Soft skillsLeadership technique
Excellentes capacités de communication
Sens de l'organisation
Esprit d'analyse
Force de proposition
Autonomie
Esprit d'équipe
Capacité à accompagner le changement
Goût pour le partage de connaissances
Apache Airflow
Python
AWS
MWAA
ECS / EKS
CloudWatch
Secrets Manager
SNS
SQS
IAM
Terraform
CI/CD
Git
Découvrir Craftman data
Postulez à cette offre !
Trouvez votre prochaine mission parmi +10 000 offres !
Fixez vos conditions
Rémunération, télétravail... Définissez tous les critères importants pour vous.
Faites-vous chasser
Les recruteurs viennent directement chercher leurs futurs talents dans notre CVthèque.
100% gratuit
Aucune commission prélevée sur votre mission freelance.
Lead Data Orchestration Engineer (H/F) – Expert Apache Airflow & AWS
Craftman data