La Direction des Systèmes d'Information recrute un Data Engineer pour concevoir, développer et maintenir les architectures Data nécessaires à l'exploitation des données par les analystes métiers et data scientists. Principales missions : - Mener les projets d'intégration (temps réel) et data (big data & insights) - Comprendre, analyser et proposer des solutions techniques répondant aux besoins des divers acteurs de la donnée (spécialistes métier, domain managers, architecte, data analystes et scientists) - Apporter un éclairage technique sur les architectures Cloud, dialoguer avec les fournisseurs de solutions et les consultants techniques - Dans une logique de mise en production, créer et déployer des pipelines de données robustes pour les data scientists et data analysts (collecte, stockage, transformation et exploitation) - Assurer une bonne qualité des données pour les projets Machine Learning (préparation, complétude, épuration, enrichissement) dans le but d'optimiser les performances des modèles - Améliorer les processus internes : localisation et traçabilité de la donnée, standardisation des flux et des scripts de traitement des données, documentation - Collaborer avec les équipes basées aux Pays-Bas pour faciliter le Data-Sharing, échanger sur les best-practices et les moyens d'optimiser les architectures - Contribuer à l'amélioration de la gouvernance sur la protection et la confidentialité des données Conception et mise en œuvre d'une plateforme d'intégration Azure à grande échelle, servant de hub central pour 20+ applications métier et orchestrant ~150 flux d'intégration batch et temps réel répartis sur 7 ODS. Développement de flux d'intégration avec Azure Service Bus, Azure Functions, Event Grid et Azure Data Factory pour synchroniser les données entre les différents systèmes. Développement d'orchestrations distribuées et persistantes avec Azure Durable Functions pour gérer des processus métier asynchrones. Conception et gouvernance des API d'intégration via Azure API Management selon une approche spec-first avec validation des contrats d'échange. Modélisation et optimisation des ODS afin de garantir la cohérence et la disponibilité des données opérationnelles. Optimisation des requêtes SQL et des traitements de données pour améliorer les performances et la fiabilité des flux. Développement de composants mutualisés (librairies Python, modules Bicep et Terraform) afin de standardiser les développements et accélérer l'intégration de nouveaux flux. Mise en place des pipelines CI/CD, automatisation des déploiements et amélioration de l'observabilité via la standardisation des logs et des métriques personnalisées.
Contexte de la missionNous cherchons un candidat capable de s'adapter à l'environnement technique du département Service & Données et aux pratiques de l'équipe qu'il va rejoindre : • Qui saura travailler de manière autonome • Disposant d'un bon sens de l'organisation et de la rigueur • Qui saura synthétiser ses travaux pour communiquer efficacement à ses commanditaires Objectifs et livrablesActivité principale A ce titre, le profil sera amené à assurer les activités suivantes : • Participation à des ateliers avec des experts métiers pour collecter le besoin et comprendre les données • Conception et développement de traitements de données • Réalisation d'études statistiques • Présentation de résultats sous la forme de rapports d'étude ou de tableaux de bord • Diffusion et vulgarisation des résultats d'études Le consultant sera également attendu sur les compétences suivantes : • Lien entre la partie métier et la partie data science • Conception fonctionnelle du besoin métier au sein d'un SI • Préparer et participer aux ateliers avec le métier et ses représentants utilisateurs Activité secondaire o Veille technologique sur les outils utilisés au sein du projet o Partage et formation sur les guides de bonnes conduites
Dans le cadre du renforcement d'une équipe Data intervenant sur des projets à forts enjeux, nous recherchons un Data Engineer confirmé. Vous participerez à la conception, au développement et à l'industrialisation de pipelines de données, depuis l'ingestion jusqu'à leur mise à disposition pour les différents usages métiers. Vos principales responsabilités : Concevoir et développer des pipelines Data robustes et industrialisés. Développer et maintenir des DAGs Apache Airflow. Réaliser les traitements de données avec Python / PySpark / Spark. Manipuler et optimiser les requêtes SQL. Mettre en œuvre les bonnes pratiques de qualité, tests et monitoring. Participer à la mise en production et à l'amélioration continue des traitements. Collaborer avec les équipes Data, métier, architecture et produit. Documenter les développements et contribuer aux standards techniques de l'équipe.
Intitulé : Data Engineer Senior IA (H/F) Expérience : +7 ans minimum Mode de travail : Hybride Localisation : Île-de-France Démarrage : ASAP Secteur : Services financiers Environnement : AWS, Spark, Python, SQL, DataOps, Gouvernance Data, CI/CD ContexteDans le cadre de l'accélération de sa stratégie Data, un grand groupe du secteur des services financiers recherche un(e) Data Engineer Senior pour rejoindre sa Direction Data & IA. Vous interviendrez au sein d'une équipe en charge de la conception, de l'industrialisation et de l'exploitation des plateformes de données destinées à soutenir les enjeux métiers, réglementaires et analytiques de l'entreprise. Votre rôle consistera à concevoir des architectures Data robustes, piloter l'industrialisation des pipelines de données et garantir la qualité, la gouvernance et la valorisation des données à grande échelle. Missions principalesPilotage des projets DataGérer un portefeuille de projets Data couvrant l'ensemble du cycle de vie de la donnée : ingestion, transformation, exposition et gouvernance. Accompagner les métiers dans l'identification et la formalisation de leurs besoins Data. Traduire les besoins fonctionnels, techniques et réglementaires en solutions concrètes et industrialisables. Être le référent technique Data auprès des chefs de projet, architectes, développeurs, data analysts, data scientists et parties prenantes métier. Piloter les choix techniques et garantir leur cohérence avec les standards de l'entreprise. Conception et développement des pipelines DataConcevoir, développer et maintenir des pipelines d'ingestion de données : Batch APIs Flux programmés Chargements de fichiers Développer des traitements ETL / ELT alimentant un Data Lake et des plateformes analytiques. Mettre en œuvre les bonnes pratiques de modélisation des données. Garantir la performance, la qualité, la résilience et la maintenabilité des traitements. Assurer l'industrialisation complète des développements réalisés. Challenger les choix techniques et méthodologiques proposés par les autres membres de l'équipe. Architecture Data et IndustrialisationConcevoir des architectures Data modernes, modulaires et évolutives. Définir et appliquer les principes DataOps : Automatisation Versionning CI/CD Reproductibilité Observabilité Favoriser la mutualisation et la réutilisation des composants existants avant tout nouveau développement. Construire et maintenir : Pipelines ETL / ELT Chaînes CI/CD APIs de diffusion de données Mécanismes de monitoring et d'alerting Collaborer avec les équipes Data, Cloud et IA afin d'harmoniser les pratiques et accélérer les déploiements. Gouvernance, qualité et conformité des donnéesDéfinir et promouvoir les standards de développement Data. Garantir la qualité, la traçabilité et la conformité des données. Structurer les pratiques autour de : Git et workflows de développement Tests automatisés Documentation Data Catalog Métadonnées Lignage des données Infrastructure as Code Réaliser des audits techniques des pipelines et jeux de données. Assurer la conformité des solutions avec les exigences réglementaires et les politiques internes de gouvernance. Garantir la reproductibilité attendue lors des contrôles et audits. Leadership technique et accompagnementEncadrer et accompagner les Data Engineers juniors et intermédiaires. Participer à la montée en compétences de l'équipe. Assurer un rôle de mentor et de référent technique. Vulgariser les enjeux Data auprès des utilisateurs métiers. Participer aux revues d'architecture et aux processus de validation technique. Contribuer à la diffusion des bonnes pratiques Data et DataOps. Innovation et veille technologiqueRéaliser une veille active sur les technologies Data, Cloud et IA. Identifier les opportunités d'amélioration des plateformes existantes. Proposer des solutions innovantes répondant aux enjeux métiers. Anticiper les évolutions réglementaires et les enjeux liés à la qualité, la gouvernance et la souveraineté des données.
RECHERCHE – DATA ENGINEER SENIOR Je recherche 2 Data Engineers Senior pour intervenir sur un projet Data ambitieux en Île-de-France. 🔹 Expérience : 8 ans minimum en Data Engineering 🔹 Localisation : IDF 🔹 Télétravail : 3 jours/semaine 🔹 Démarrage : ASAP 🔹 Mission longue durée 🛠️ Compétences indispensables : • Python • Spark • AWS (Glue, EMR, S3…) • Big Data • DBT • Architecture Lakehouse • Modélisation et collecte de données • Terraform • Airflow ⭐ Une expérience sur Iceberg et Starburst/Trino est fortement appréciée. Le poste implique également des sujets de pipelines Data à grande échelle, batch/streaming, industrialisation, qualité et observabilité des données. 📩 Vous êtes disponible ou connaissez un profil correspondant ? N'hésitez pas à me contacter en MP ou à m'envoyer votre CV.
La mission consiste à intervenir en tant que Data Engineer dans le cadre d'un projet de bascule vers une architecture Data Lakehouse autour de Snowflake pour un acteur du secteur transport. Le consultant participera à l'évolution d'un DataHub existant vers un modèle cible Lakehouse, avec la mise en place de nouvelles zones data telles que Landing Zone, Data Lake, Datamarts et Data Products. Il contribuera à la migration des flux existants, à l'industrialisation des pipelines, au décommissionnement progressif de Talend, ainsi qu'aux développements liés aux demandes évolutives sur le périmètre data existant.
Data Engineer Snowflake. TJM Max Confirmé (4ans+) = 430€ TJM Max Senior(7ans+) = 480€ Client : Transport Localisation : Issy les Moulineaux (3j sur site, 2j en TT) Démarrage : ASAP Durée : 3 mois renouvelable Dans le cadre de l'évolution du DataHub vers une architecture Data Lakehouse, le client engage une bascule progressive depuis une architecture BI classique (ETL Talend, DWH centralisé) vers un modèle cible de type Lakehouse. Cette trajectoire inclut la migration des flux existants, la mise en place de nouvelles zones data (Landing Zone, Data Lake, Datamarts, Data Products) et le décommissionnement de Talend. Le/la Data Engineer intervient sous la responsabilité du Responsable de l'équipe technique et en appui du Techlead sur le projet de bascule Lakehouse. Son périmètre couvre à la fois la contribution au projet de décommissionnement Talend et de nouvelle architecture Snowflake, la réalisation de projets et demandes évolutives sur le périmètre data existant, ainsi que le traitement des incidents et le support au Run. Compétences obligatoires : Snowflake : connaissance solide de l'environnement, langages et outils associés : SQL, Snowpipe, Snowpark, RBAC, supervision, Python, SQL avancé … etc Terraform : expérience confirmée Talend : connaissance de l'outil ou à défaut un ETL équivalent dans le cadre de la bascule de l'ETL vers l'ELT ou la gestion de la maintenance évolutive et corrective en parallèle Compétences appréciées : Power BI Expérience Data Lakehouse / Data Mesh AWS (Lambda, services serverless) Livrables attendus Inventaire et documentation des jobs Talend repris Pipelines Snowflake industrialisés issus de la migration Talend Modèles Lakehouse documentés Contribution à la stratégie de migration et de décommissionnement Talend Développements réalisés sur les projets et demandes évolutives traités Suivi et documentation des incidents traités (analyse de cause racine, correctifs)
Dans le cadre de l'évolution du DataHub vers une architecture Data Lakehouse, le client engage une bascule progressive depuis une architecture BI classique (ETL Talend, DWH centralisé) vers un modèle cible de type Lakehouse. Cette trajectoire inclut la migration des flux existants, la mise en place de nouvelles zones data (Landing Zone, Data Lake, Datamarts, Data Products) et le décommissionnement de Talend. Le/la Data Engineer intervient sous la responsabilité du Responsable de l'équipe technique et en appui du Techlead sur le projet de bascule Lakehouse. Son périmètre couvre à la fois la contribution au projet de décommissionnement Talend et de nouvelle architecture Snowflake, la réalisation de projets et demandes évolutives sur le périmètre data existant, ainsi que le traitement des incidents et le support au Run. Livrables attendus : - Inventaire et documentation des jobs Talend repris - Pipelines Snowflake industrialisés issus de la migration Talend - Modèles Lakehouse documentés - Contribution à la stratégie de migration et de décommissionnement Talend - Développements réalisés sur les projets et demandes évolutives traités - Suivi et documentation des incidents traités (analyse de cause racine, correctifs)
Dans le cadre du renforcement d'un Chapitre Data au sein d'un grand acteur du secteur bancaire, nous recherchons un.e Data Engineer expérimenté.e pour rejoindre une squad métier et intervenir sur la conception, le développement, l'industrialisation et l'exploitation de solutions Data. Votre rôle Intégré.e à une équipe Agile, vous travaillerez en collaboration avec les PO, BA, développeurs et architectes sur l'ensemble du cycle de vie des solutions Data. Vous serez notamment amené.e à : Participer à la définition et à l'évolution de l'architecture Data ; Analyser et affiner les besoins avec les PO et BA et les traduire en solutions techniques ; Concevoir et développer des pipelines de collecte, ingestion, transformation et stockage ; Développer des traitements Spark en batch et en streaming ; Automatiser l'ingestion et orchestrer les flux de données ; Intervenir dans des environnements Hadoop / Cloudera ; Concevoir et exécuter les tests unitaires et automatisés ; Industrialiser et déployer les développements sur les différents environnements ; Assurer le bon fonctionnement des solutions en production et participer à la gestion des incidents ; Mettre en place et optimiser le monitoring et l'observabilité ; Contribuer à l'amélioration continue de la qualité du code et des pratiques de développement ; Participer aux sujets de gouvernance, qualité, protection et traçabilité des données.
Contexte Dans le cadre des activités Data de la R&D Michelin, nous recherchons un Data Engineer Référent au sein du domaine DOTI / BS / RD / Analytics. Le rôle consiste à construire, transformer et fiabiliser les données afin d'alimenter les produits numériques utilisés par la Recherche & Développement, tout en jouant un rôle de leader technique et coach auprès des autres Data Engineers. L'environnement est en Agile à l'échelle (SAFe), avec des équipes proches des métiers. Positionnement Équipe : Data – Domaine Analytics R&D Rôle : Data Engineer Référent (Leader technique) Collaboration avec : Tech Lead du domaine Feature Teams DORD Data Engineers Niveau attendu : Leader / Coach (IS3) Missions principalesData Engineering Concevoir et développer des pipelines de données : intégration transformation nettoyage Connecter les systèmes sources et structurer les flux de données Mettre à disposition des données exploitables pour les produits Data Développement & intégration Développer des traitements en : Python Talend DI ponctuellement Java Spring Boot Intégrer les développements dans les pipelines CI/CD Participer à la gestion des versions (GitLab) Qualité & tests Réaliser : tests unitaires automatisés tests de qualification Rédiger les plans de tests Garantir la qualité et la fiabilité des données Documentation Rédiger la documentation : technique fonctionnelle Formaliser les modèles de données et les flux Support & maintien en conditions opérationnelles Assurer le support niveau 3 sur les flux Data (DataLake D1) Analyser et corriger les incidents Participer à l'amélioration continue des traitements Référent technique & coaching Accompagner les Data Engineers : bonnes pratiques de développement qualité de code industrialisation Contribuer à la montée en compétences de l'équipe Participer à la diffusion des standards techniques
Contexte de la mission Au sein de la DSI France, le département SI METIER & DATA souhaite renforcer sa capacitée à réaliser des projets Data. Au sein de l'équipe Data et de l'équipe projet, le Data Engineer réalise les intégrations de données, les traitements et les reportings dans PALANTIR Foundry. Il propose et recherche les meilleurs solutions techniques en collaboration avec l'équipe projet et participe au suivi quotidien des flux de données. Le projet concerne en particulier le traitement de données de consommations IT. Objectifs et livrables Comprendre les besoins métier et faire les investigations nécessaires pour une réalisation optimale Concevoir et réaliser les développements et configurations dans Palantir Documenter les réalisation, présenter le résultat et participer aux recettes Intégrer l'équipe BI, travailler en collaboration avec tous les membres et participer à la communité technique. Participer au suivi quotidien des applications Pour cette mission, l'expertise et les compétences attendues sont : · Manipulation et traitement des données : Python · Création de dashboard et fonction d'affichage (JavaScript/TypeScript) · Cloud, Base de données, stockage, automatisation · Framework SPARK · Manipulation d'APIs, etc... · Outil de versionning (GIT) · Comprendre la structure des bases de données mises en place (architecture en étoile, relation 1-N ou N-N..) · Methode Agile / Jira · Connaissance de PALANTIR serait un plus · Anglais : niveau professionnel · Outils bureautique : intermédiaire ou expert (faire un CR, une présentation,…) Compétences demandéesCompétencesNiveau de compétence JIRA / Agile Confirmé Data Engineering Expert AI-assisted development Confirmé Python/pyspark Expert LanguesNiveau de langue Anglais Courant
Contexte de la mission Au sein de la DSI France, le département SI METIER & DATA souhaite renforcer sa capacitée à réaliser des projets Data. Au sein de l'équipe Data et de l'équipe projet, le Data Engineer réalise les intégrations de données, les traitements et les reportings dans PALANTIR Foundry. Il propose et recherche les meilleurs solutions techniques en collaboration avec l'équipe projet et participe au suivi quotidien des flux de données. Le projet concerne en particulier le traitement de données de consommations IT.
Data Engineer / Expert Snowflake — Modélisation Décisionnelle (H/F) 📍 France | Mission | Secteur bancaire Contexte de la mission Au sein d'un grand groupe bancaire français, dans le cadre d'un train dédié aux refontes Financement & Innovation, nous recherchons un Expert Snowflake pour accompagner la construction de l'architecture de données du programme. Vos missions Accélérer l'appropriation de Snowflake par les équipes internes (montée en compétences, bonnes pratiques, patterns d'usage) Optimiser les coûts de compute : sizing des warehouses, stratégies de cache, clustering, suspension/reprise automatique, multi-cluster warehouses Concevoir une architecture décisionnelle autour de Snowflake à partir de sources AWS Mettre en place une stratégie d'historisation des données robuste et maîtrisée Comprendre et modéliser les données métier pour construire des vues exposées alignées avec les besoins fonctionnels Assurer le transfert de compétences vers les équipes internes tout au long de la mission Profil recherché Expertise avancée Snowflake : architecture interne, virtual warehouses, clustering, partitionnement Solide expérience en optimisation des coûts de compute (query profiling, cache, stratégies de warehouse) Expérience en modélisation décisionnelle / dimensionnelle Compétences Business Analyst : capacité à dialoguer avec les équipes fonctionnelles et à traduire des besoins métier en modèles de données Expérience dans la définition de vues sémantiques orientées usages (reporting, analyse, restitution) Stack technique Snowflake · DBT · SQL · AWS · Athena
Vos missions ? Intégré(e) à nos équipes ou chez nos clients, vous contribuez à développer et valoriser l'ensemble des données en résolvant des problématiques business concrètes via les technologies liées à la Data A ce titre, vos missions seront les suivantes : - Concevoir et mettre en place des architectures de données en choisissant les technologies adaptées aux besoins. - Gestion des bases de données en garantissant la performance et la scalabilité des solutions de stockage. - Analyser et explorer les données avec les différents outils. - Mettre en place des tableaux de bord avec Power BI ou Tableau en exploitant les données transformées via Talend. - Interagir avec les équipes métier pour comprendre et les besoins. - Utiliser TALEND pour extraire des données depuis plusieurs sources (SQL, API, Excel ...). - Automatiser les processus ETL pour centraliser les données dans un Data Wrehouse (Snowflake). - Participation aux projets IA. Compétences requises : - Snowflake, Talend - Analyse de données (PowerBI, Tableau) - Base de données (SQL, GCP) - Langages: Python, SQL
Dans le cadre de la modernisation de son SI, un partenaire en assurance recherche un(e) Data Engineer afin de contribuer à la structuration de sa plateforme de données et à la valorisation de ses patrimoines informationnels. Vous intégrerez une équipe IT en pleine évolution et participerez à des projets stratégiques visant à unifier, sécuriser et exploiter les données issues de multiples applications métiers. Missions : Concevoir et maintenir les flux d'alimentation des plateformes de données. Collecter et intégrer les données des applications historiques et nouvelles. Mettre en œuvre les processus ETL/ELT et assurer leur industrialisation. Concevoir et faire évoluer les modèles de données décisionnels. Garantir la qualité, la cohérence et la traçabilité des données. Optimiser les performances des traitements de données. Participer à la mise en place des bonnes pratiques DataOps et CI/CD. Collaborer avec techniques et métiers pour couvrir les besoins d'analyse et de pilotage. Contribuer à la documentation et à la gouvernance des données.
Nous recherchons un(e) data engineer capable de trouver des solutions innovantes et robustes à l'ensemble des problématiques Data. Vous aurez la charge de : • Participer à la conception et réalisation d'une solution Data depuis l'acquisition jusqu'à l'exploitation de la donnée en accompagnant la réflexion des directions métiers • Identifier, collecter et intégrer les données nécessaires à la résolution de problématiques métier et opérationnelles • Garantir la qualité des données en mettant en place les outils de mesure et de suivi adéquats en appliquant les règles de Data Gouvernance et de Data Management • Transcrire des besoins métier en règles de gestion data • Industrialiser le déploiement de vos réalisations à travers l'implémentation de tests unitaires, d'intégration et de non-régression Référence de l'offre : 9qqln2qz3p
