Find your next tech and IT Job or contract Delta Lake

Profil recherchéVous disposez d'une solide expérience en développement Python et en conception logicielle. Vous maîtrisez les principes de programmation orientée objet et savez concevoir des composants modulaires, réutilisables et maintenables. Vous avez une expérience significative dans le traitement de données volumineuses et l'optimisation de calculs. Vous maîtrisez les tests automatisés, les bonnes pratiques de développement et les processus d'intégration continue. Vous avez déjà travaillé avec au moins un framework de calcul distribué : Ray, PySpark ou Dask. Vous êtes capable d'analyser du code existant, d'en évaluer la qualité et de garantir sa conformité aux standards techniques. Qualités attenduesRigueur technique : capacité à faire respecter les standards de développement et de qualité, notamment lors de l'intégration de code produit par des tiers. Autonomie et adaptabilité : aptitude à investiguer des environnements complexes, à résoudre des problèmes techniques et à appréhender de nouveaux outils. Pragmatisme : capacité à concilier qualité logicielle, performance et contraintes de mise en production. Communication : aisance dans les échanges avec des interlocuteurs techniques et métier. Anglais technique : capacité à exploiter la documentation et à échanger avec des équipes internationales. Les connaissances de l'écosystème Azure, des problématiques réseau et de sécurité ainsi que des plateformes Databricks et Dataiku DSS constitueront des atouts supplémentaires.

Dans le cadre de projets de transformation et de modernisation des plateformes Data, nous recherchons un Consultant Senior Data Lakehouse orienté gestion de projet, disposant d'au moins 10 ans d'expérience dans le domaine de la Data. Vous intervenez sur des programmes de transformation Data complexes, de la phase de cadrage et de recueil des besoins jusqu'au déploiement des solutions, en assurant la coordination des équipes métiers, fonctionnelles et techniques. Vos missionsPilotage et gestion de projet DataPiloter des projets de transformation et de modernisation des plateformes Data. Coordonner les différents acteurs métiers, fonctionnels, techniques et IT. Définir et suivre les planning, jalons, livrables, risques, dépendances et actions. Préparer et animer les comités projet, comités de pilotage et instances de gouvernance. Assurer le suivi des décisions, arbitrages et plans d'actions. Accompagner les équipes dans la mise en œuvre des trajectoires Data définies. Garantir l'alignement entre les objectifs métiers, les enjeux Data et les contraintes techniques. Cadrage et expression des besoinsRecueillir, analyser et formaliser les besoins métiers. Animer des ateliers de cadrage et de conception avec les différentes parties prenantes. Challenger les besoins et exigences afin d'identifier les solutions les plus pertinentes. Rédiger les cas d'usage, Expressions de Besoin (EDB), spécifications fonctionnelles et technico-fonctionnelles. Assurer la traduction des besoins métiers en solutions Data concrètes et industrialisables. Transformation Data & LakehouseAccompagner les projets de migration de plateformes Data Legacy vers des architectures modernes, notamment de type Data Lakehouse. Participer à la définition et à la mise en œuvre de Data Products et plateformes Data modernes. Posséder une expertise confirmée sur au moins une des technologies suivantes : Databricks, Snowflake ou Microsoft Fabric. Être capable d'évaluer et de comparer les solutions technologiques afin d'orienter les choix d'architecture en fonction des besoins métiers et techniques. Participer aux arbitrages fonctionnels, techniques et applicatifs. Contribuer à la définition des trajectoires et feuilles de route Data. Gouvernance et qualité des donnéesMaîtriser les enjeux liés au Data Lineage, à la gouvernance et à la qualité des données. Comprendre et cartographier des flux de données complexes impliquant de multiples systèmes sources et applications. Veiller à la cohérence, à la traçabilité et à la qualité des données tout au long des projets. Accompagner la mise en place de pratiques permettant une meilleure valorisation et structuration de la donnée.

Positionné au sein de la DSI de l'entreprise, le Data Engineer intègrera l'équipe Conso Data qui traite les données de consommation des clients afin de les exposer sur les canaux digitaux. Il devra : - Être force de proposition et participer à la conception des solutions techniques en collaboration avec les membres de l'équipe. - Comprendre les enjeux métiers afin de concevoir des solutions répondant aux besoins fonctionnels. - Participer aux cérémonies Agile SAFe (PI Planning, macro-chiffrage, refinements, rétrospectives, etc.). - Concevoir et faire évoluer les architectures de données basées sur l'approche Databricks Medallion Architecture (Bronze, Silver, Gold). - Garantir la qualité, la fiabilité et la performance des traitements de données en production. (Jobs Databricks et APIs) - Contribuer à l'amélioration continue de la plateforme en proposant des optimisations techniques, des bonnes pratiques et des innovations. Il sera notamment amené à : - Concevoir, développer et maintenir des pipelines de données (ETL) pour les flux d'intégration et les flux métiers. - Mettre en œuvre et orchestrer les traitements de données à l'aide des outils Databricks. - Modéliser les données dans les tables Delta Lake en appliquant les bonnes pratiques de partitionnement, indexation, optimisation et gouvernance. - Optimiser les performances des traitements Databricks (Spark, Delta Lake, gestion des coûts et du temps d'exécution). - Assurer le développement, les tests et le déploiement des composants techniques via des processus CI/CD. - Concevoir, développer et maintenir des APIs permettant l'exposition et la consommation des données. - Mettre en place des mécanismes de contrôle qualité des données (Data Quality), de monitoring et d'alerting. - Identifier, analyser et résoudre les incidents de production tout en assurant le suivi des actions correctives. - Rédiger et maintenir la documentation technique des solutions mises en œuvre. - Accompagner les équipes dans l'adoption des bonnes pratiques Data Engineering Environnement Technique : - Python, SQL - Spark, PySpark, DBUtils - FastApi, Pytest - Databricks, Unity Catalog - Ariflow (migration vers Databricks Workflow) - AWS (Lambda, secrect manager, Bucket S3, ECS) - Git et gestion du versioning - Déploiement pipeline CI/CD

CONTEXTE Dans le cadre d'un environnement international de trading d'énergie, nous recherchons un Data Engineer Expert pour rejoindre une équipe Data Engineering basée à Genève. Vous interviendrez sur des enjeux data critiques pour les activités de trading de pétrole, biofuels, gaz naturel et électricité, dans un environnement à forte volumétrie et nécessitant un haut niveau de performance et de fiabilité. Vous collaborerez au quotidien avec les traders, charterers, opérateurs, analystes de marché et quants, ainsi qu'avec des équipes internationales basées notamment à Paris, Houston et Singapour. RESPONSABILITÉS Concevoir, maintenir et optimiser des pipelines de données batch et temps réel. Développer des solutions de streaming data à haute performance. Travailler sur des architectures Databricks / Spark Streaming / Structured Streaming / Delta Lake. Concevoir et exploiter des flux temps réel avec Kafka et/ou AWS Kinesis. Développer des pipelines et APIs en Python. Exploiter les services AWS : Kinesis, SQS, SNS, EventBridge, S3, Lambda, IAM. Garantir la disponibilité, l'intégrité, la qualité et la performance des données. Identifier et réduire les problèmes de latence, incidents et défaillances sur les flux temps réel. Participer à l'amélioration continue des pratiques de monitoring, CI/CD et observabilité. Collaborer avec les équipes métier et techniques dans un contexte international et exigeant. ENVIRONNEMENT TECHNIQUE Databricks · Spark · Structured Streaming · Delta Lake · Python · AWS · Kinesis · Kafka · S3 · Lambda · SQS · SNS · EventBridge · IAM · PySpark · Git · GitHub Actions · CloudWatch · Grafana

Missions principales ■ Être force de proposition et participer à la conception des solutions techniques avec les membres de l'équipe ■ Comprendre les enjeux métiers afin de concevoir des solutions répondant aux besoins fonctionnels ■ Participer aux cérémonies Agile SAFe : PI Planning, macro-chiffrage, raffinements, rétrospectives, etc. ■ Concevoir et faire évoluer les architectures de données selon l'approche Databricks Medallion Architecture (Bronze, Silver, Gold) ■ Garantir la qualité, la fiabilité et la performance des traitements en production : jobs Databricks et API ■ Contribuer à l'amélioration continue de la plateforme en proposant des optimisations, des bonnes pratiques et des innovations Activités ■ Concevoir, développer et maintenir des pipelines de données (ETL) pour les flux d'intégration et les flux métiers ■ Mettre en œuvre et orchestrer les traitements de données avec Databricks ■ Modéliser les données dans des tables Delta Lake en appliquant les bonnes pratiques de partitionnement, d'indexation, d'optimisation et de gouvernance ■ Optimiser les performances des traitements Databricks : Spark, Delta Lake, coûts et temps d'exécution ■ Assurer le développement, les tests et le déploiement des composants techniques via des processus CI/CD ■ Concevoir, développer et maintenir des API pour l'exposition et la consommation des données ■ Mettre en place des mécanismes de Data Quality, de monitoring et d'alerting ■ Identifier, analyser et résoudre les incidents de production, avec suivi des actions correctives ■ Rédiger et maintenir la documentation technique des solutions mises en œuvre ■ Accompagner les équipes dans l'adoption des bonnes pratiques de Data Engineering

Dans le cadre du développement et de l'évolution de sa plateforme Data, notre client recherche un Tech Lead Data Engineering disposant d'une expertise avancée sur Databricks, PySpark et Unity Catalog. Le consultant interviendra comme référent technique pour accompagner les équipes dans la conception, le développement et l'industrialisation des solutions Data. MissionsPiloter les choix techniques et accompagner la conception des architectures Data sur Databricks. Concevoir, développer et optimiser les pipelines de traitement de données avec PySpark et Spark SQL. Mettre en œuvre et administrer Unity Catalog pour structurer la gouvernance, la gestion des accès et la traçabilité des données. Garantir la qualité, la performance et la fiabilité des traitements Data, notamment sur les environnements Delta Lake. Encadrer techniquement les Data Engineers, réaliser les revues de code et diffuser les bonnes pratiques de développement. Accompagner l'industrialisation des pipelines, l'automatisation des déploiements et l'intégration des pratiques CI/CD.

Contexte Dans le cadre de notre croissance, Hexateam recrute deux Data Engineer pour intervenir sur des environnements Databricks sur AWS, avec des enjeux d'ingestion, de transformation et de fiabilité des données. Missions Développement et ingestion de données • Concevoir et développer des pipelines de données en Python et Spark sur Databricks • Mettre en place des flux entre sources externes (ex : Oracle) et un Data Lake (S3 / Delta Lake) • Optimiser les traitements et les performances Orchestration et qualité des données • Orchestrer les workflows avec AWS Airflow • Mettre en place des contrôles qualité et des mécanismes de validation • Développer des outils de monitoring et de gestion des anomalies Maintien en condition opérationnelle • Assurer la disponibilité et la performance des pipelines • Diagnostiquer et corriger les incidents • Participer à l'amélioration continue des traitements Contribution • Participer aux ateliers techniques et aux échanges avec les équipes • Documenter les pipelines, architectures et processus • Contribuer aux bonnes pratiques Data et Big Data

Contexte Dans le cadre de notre croissance, nous recrutons Deux Data Engineer pour intervenir sur des environnements Databricks sur AWS, avec des enjeux d'ingestion, de transformation et de fiabilité des données. Missions Développement et ingestion de données • Concevoir et développer des pipelines de données en Python et Spark sur Databricks • Mettre en place des flux entre sources externes (ex : Oracle) et un Data Lake (S3 / Delta Lake) • Optimiser les traitements et les performances Orchestration et qualité des données • Orchestrer les workflows avec AWS Airflow • Mettre en place des contrôles qualité et des mécanismes de validation • Développer des outils de monitoring et de gestion des anomalies Maintien en condition opérationnelle • Assurer la disponibilité et la performance des pipelines • Diagnostiquer et corriger les incidents • Participer à l'amélioration continue des traitements Contribution • Participer aux ateliers techniques et aux échanges avec les équipes • Documenter les pipelines, architectures et processus • Contribuer aux bonnes pratiques Data et Big Data

Dans le cadre du développement de projets Data stratégiques, nous recherchons un Consultant Databricks / Data Engineer confirmé pour accompagner la conception, le développement et l'optimisation de solutions de traitement et de valorisation des données. Vous interviendrez dans un environnement Cloud moderne, au sein d'une équipe Data, afin de contribuer à la mise en place de pipelines de données performants, fiables et évolutifs. Missions principalesConcevoir, développer et maintenir des pipelines de données sur Databricks. Développer et optimiser les traitements Data avec Python, PySpark et SQL. Mettre en place des processus ETL/ELT pour l'intégration et la transformation des données. Exploiter Delta Lake et les architectures Lakehouse. Participer à l'industrialisation et à l'automatisation des flux Data. Optimiser les performances des traitements Spark. Assurer la qualité, la fiabilité et la sécurité des données. Collaborer avec les Data Engineers, Data Analysts et équipes métiers. Participer aux bonnes pratiques de développement, de documentation et de CI/CD.

Contexte de la missionDans le cadre de projets stratégiques de transformation et de modernisation des plateformes Data, nous recherchons un Tech Lead Databricks Senior pour piloter techniquement la conception, le développement et l'industrialisation de solutions Data à grande échelle. Vous interviendrez en tant que référent technique auprès des équipes Data Engineering et participerez activement aux choix d'architecture, à l'optimisation des performances et à la mise en place des bonnes pratiques de développement. Missions principalesAssurer le leadership technique d'une équipe de Data Engineers. Concevoir et faire évoluer des architectures Data basées sur Databricks. Piloter le développement et l'industrialisation des pipelines de données. Définir les standards techniques et les bonnes pratiques de développement. Accompagner les équipes sur Python, PySpark, SQL et Apache Spark. Optimiser les performances des traitements Big Data. Mettre en place des architectures Lakehouse avec Delta Lake. Garantir la qualité, la sécurité et la gouvernance des données. Participer aux choix d'architecture Cloud et aux décisions techniques. Réaliser des revues de code et accompagner la montée en compétences des développeurs. Superviser l'intégration continue et le déploiement des solutions Data. Collaborer avec les architectes, Product Owners et équipes métiers.

Qui sommes-nous ?Anafi Consulting est un cabinet de conseil spécialisé dans les transformations technologiques et organisationnelles. Nous accompagnons nos clients grands comptes dans leurs projets stratégiques autour de la Finance, de la Data, du Cloud, du DevOps et du développement applicatif, en combinant expertise technique, compréhension métier et qualité du delivery. Votre rôleDans le cadre de projets stratégiques de transformation Data au sein d'un environnement bancaire international, nous recherchons un(e) Data Engineer Senior / Lead spécialisé(e) dans les technologies Apache Spark, Scala et Azure Databricks. Vous interviendrez sur la conception, le développement et l'optimisation de plateformes de traitement de données à grande échelle, notamment autour des données de marché et des reportings financiers réglementaires. Votre rôle couvrira l'ensemble du cycle de vie des traitements Data : ingestion, transformation, contrôle qualité, optimisation des performances, industrialisation et mise en production. Vous contribuerez également aux choix d'architecture et à l'accompagnement technique des équipes. Vos missions principales Data Engineering & Traitement de donnéesConcevoir et développer des pipelines de traitement de données avec Apache Spark et Scala. Collecter, transformer et consolider des données issues de sources multiples. Développer des traitements distribués pour des volumes importants de données financières. Mettre en œuvre des contrôles de qualité et de cohérence des données. Automatiser les traitements de rapprochement et les calculs financiers. Garantir la fiabilité et la traçabilité des données produites. Architecture Data Lake & AzureParticiper à la conception et à l'évolution d'architectures Data Lake sur Microsoft Azure. Mettre en œuvre des solutions Delta Lake selon une architecture médaillon Bronze / Silver / Gold. Développer et maintenir des traitements sur Azure Databricks. Contribuer à l'optimisation du stockage et de l'exploitation des données sur Azure Data Lake Storage Gen2. Participer aux projets de modernisation et de migration des plateformes Data. Performance & Optimisation SparkOptimiser les performances des traitements Spark. Analyser les plans d'exécution et améliorer les stratégies de partitionnement. Réduire les temps de traitement grâce à l'optimisation des opérations de shuffle et des agrégations. Participer aux migrations et montées de version des environnements Spark. Identifier les axes d'amélioration de la performance, de la stabilité et de la maintenabilité des pipelines. Données financières & Reporting réglementaireDévelopper des traitements de calcul et d'agrégation de données financières. Contribuer à la production de reportings réglementaires tels que NSFR et COREP. Participer à la fiabilisation des données de marché et des référentiels financiers. Développer des mécanismes de rapprochement entre différentes sources de données. Garantir la qualité et la non-régression des calculs. Industrialisation & DevOpsIndustrialiser les traitements Data à travers des pipelines CI/CD. Automatiser les tests unitaires et d'intégration. Participer au déploiement des applications sur Kubernetes / AKS. Utiliser Helm pour la gestion des déploiements. Contribuer à l'amélioration continue des pratiques de développement et de livraison. Expertise technique & AccompagnementParticiper aux choix d'architecture et aux orientations techniques. Accompagner les ingénieurs Data dans leur montée en compétence. Réaliser des revues de code et promouvoir les bonnes pratiques de développement. Collaborer avec les équipes métiers, Data Analysts et équipes IT. Animer des ateliers techniques dans le cadre des évolutions et migrations technologiques. Environnement techniqueData Engineering & Big Data Scala Apache Spark Azure Databricks Delta Lake SQL Cloud & Stockage Microsoft Azure Azure Data Lake Storage Gen2 (ADLS) Architecture Data Lake Architecture médaillon Bronze / Silver / Gold Bases de données & Restitution ClickHouse OpenSee DevOps & Industrialisation Jenkins GitHub Kubernetes / Azure AKS Helm Oozie CI/CD Développement Java Spring Boot Angular Qualité & Performance Tests unitaires et d'intégration Optimisation Spark Partitionnement et shuffle Monitoring des traitements Qualité et fiabilité des données

Contexte Pour un acteur majeur disposant d'enjeux forts autour de la logistique et de la supply chain, nous recherchons un Data Architect pour concevoir et faire évoluer des solutions data complexes. Vous interviendrez dans un environnement Cloud techniquement mature pour accompagner la structuration et la scalabilité des architectures de données. Ce rôle stratégique nécessite une vision d'ensemble couplée à une solide gouvernance IT, afin d'aligner les feuilles de route technologiques sur des exigences métiers exigeantes. Vos missions Concevoir des solutions Analytics et Advanced Analytics scalables (traitements batch, event-driven, architecture Medallion). Modéliser les données aux niveaux conceptuel, logique et physique dans une approche orientée domaine (Domain-Driven). Définir les standards d'architecture, les architectures cibles et les trajectoires technologiques. Animer les revues d'architecture et garantir une gouvernance IT rigoureuse. Créer des data products, des modèles de données canoniques, des flux et des patterns d'intégration réutilisables. Sécuriser la gestion des accès, des métadonnées et le cycle de vie de l'information. Traduire les besoins métiers en décisions d'architecture pragmatiques en collaborant avec les Product Managers et les ingénieurs. Mentorer les équipes techniques pour accroître la maturité architecturale et l'alignement global des pratiques. Environnement technique Azure, Databricks, Data Lakehouse, SQL, Delta Lake, Python, Spark, API, intégration event-driven, ETL/ELT, outils d'IA (assistance au développement).