Share this job
• Concevoir et implémenter des pipelines d'ingestion et de transformation de données (batch et temps réel), robustes et scalables.
• Développer et maintenir les flux ETL Talend qui alimentent le datalake et les systèmes consommateurs.
• Développer des traitements Python / PySpark sur Databricks et mettre en œuvre les modèles de données cibles.
• Automatiser les transformations, la documentation et les tests de données avec dbt.
• Configurer les pipelines d'acheminement des données, y compris les flux CDC.
• Mettre en place les bonnes pratiques de qualité de données, de monitoring, d'alerting et de logging.
• Développer des modules réutilisables (templates de pipelines, librairies communes, CI/CD) et exploiter les modules existants dans les nouveaux projets.
• Réaliser les développements et les tests associés, et accompagner les mises en production.
Candidate profile
• Solide maîtrise de l'ETL Talend (développement, debug, industrialisation) et connaissance du langage Java.
• Bonne maîtrise de Python et PySpark.
• Expérience significative sur Databricks (jobs, workflows, Delta Lake, notebooks, optimisation).
• Très bonne maîtrise de SQL (requêtes analytiques complexes, optimisation).
• Pratique de dbt pour les modèles analytiques.
• Connaissance des outils CDC (Change Data Capture) ; Qlik Replicate (ex-Attunity) est un plus.
• Connaissance des plateformes de streaming ; Kafka est un plus.
• Expérience DevOps : CI/CD, versioning Git, automatisation des tests et des déploiements.
• Pratique des outils d'IA générative pour accélérer le développement (génération assistée de code PySpark, Python et SQL, refactoring, tests), avec une revue critique et une compréhension fine du code mis en production.
Working environment
Dans le cadre du renforcement de l'équipe Data, la mission vise à sécuriser la livraison des projets stratégiques et la mise en place de la nouvelle plateforme Databricks. Le consultant intégrera l'équipe IT Data en charge des spécifications, de la conception et de la réalisation des modules nécessaires à la mise en production dans le datalake), ainsi que des premiers cas d'usage Databricks. L'équipe travaille en mode agile, au plus près des métiers 3D et Business Development et en coordination avec les autres équipes IT. La mission se déroule dans un contexte anglophone : la maîtrise de l'anglais est obligatoire.
Apply to this job!
Find your next career move from +10,000 jobs!
Manage your visibility
Salary, remote work... Define all the criteria that are important to you.
Get discovered
Recruiters come directly to look for their future hires in our CV library.
Join a community
Connect with like-minded tech and IT professionals on a daily basis through our forum.
Data Engineer
Sijo