
Partager cette offre
Nous recherchons un(e) Data Engineer Confirmé(e) pour rejoindre une équipe produit agile au sein d'un acteur majeur du secteur de l'énergie.
Vous évoluerez dans un environnement innovant dédié au traitement et à la valorisation de données issues d'équipements connectés et d'infrastructures à l'échelle nationale. Votre terrain de jeu : des produits data en constante évolution, traitant des volumes massifs (plus de 25 millions d'adresses et 40 millions de clients), avec un enjeu stratégique majeur de migration vers le Cloud (Databricks) à l'horizon 2027.
Descriptif de la mission :
Développement & Industrialisation Big Data : Concevoir, développer et optimiser des pipelines de données massives en pySpark, gérer leur ordonnancement et garantir un haut niveau de qualité logicielle (couverture de tests > 80 %, CI/CD).
Supervision & Run : Mettre en place des tableaux de bord de suivi de performance et de qualité de données (en lien avec le DevOps), et assurer le maintien en condition opérationnelle (MCO) et la gestion des incidents en production.
Architecture & Accompagnement : Proposer des évolutions d'architecture de données (approche Médaillon compatible Cloud) et accompagner les Data Scientists de l'équipe dans l'industrialisation de leurs modèles et codes d'expérimentation.
Migration Cloud (Databricks) : Préparer, tester et réaliser la migration des pipelines existants (Hadoop/HDFS) vers Databricks / Delta Lake.
Conseil & Partage : Assurer une veille technologique active, animer des ateliers de bonnes pratiques (performance Spark, qualité de code) et jouer un rôle de référent technique auprès des autres équipes.
Profil recherché
Expérience significative en Data Engineering & pySpark massif : Au moins 5 ans d'expérience en Data Engineering, dont une pratique approfondie de pySpark (conception et mise en production de pipelines traitant plusieurs dizaines de millions de lignes).
Maîtrise Spark en production (Databricks / Hadoop) : Une expérience concrète et significative des traitements Spark en production sur Databricks (fortement privilégié) et/ou sur un cluster Hadoop.
Expérience avérée du Run en production : Une expérience significative en mise en production, optimisation, maintenance (MCO) et supervision de pipelines Spark (monitoring, contrôles qualité de données, gestion des incidents).
Environnement technique
Langages & Big Data : Python, pySpark, SQL (PostgreSQL)
Plateformes Data : Hadoop / HDFS (actuel) /Databricks / Delta Lake (cible 2027)
Orchestration & DevOps : Airflow, GitLab, GitLab-CI/CD
BI & Gestion de projet : PowerBI, Jira, Confluence
Compétences complémentaires & Savoir-être
Maîtrise des outils de l'écosystème : Bonne connaissance d'un outil d'ordonnancement (Airflow), de SQL (PostgreSQL) et des chaînes d'intégration/déploiement continu (GitLab-CI).
Les « plus » appréciés : Une expérience sur des référentiels d'adresses ou le traitement de données géospatiales (Apache Sedona, GeoPandas).
Soft skills : Autonome, rigoureux(se) et proactif(ve), vous avez le sens de l'industrialisation et savez communiquer avec pédagogie auprès d'interlocuteurs variés (Data Scientists, métiers, DevOps).
Environnement de travail
Grande entreprise dans le secteur industriel et de l'énergie.
Postulez à cette offre !
Trouvez votre prochaine mission parmi +10 000 offres !
Fixez vos conditions
Rémunération, télétravail... Définissez tous les critères importants pour vous.
Faites-vous chasser
Les recruteurs viennent directement chercher leurs futurs talents dans notre CVthèque.
100% gratuit
Aucune commission prélevée sur votre mission freelance.
Data Engineer Big Data Confirmé (H/F)
Insitoo Freelances
