Trouvez votre prochaine offre d’emploi ou de mission freelance Apache Spark

163 résultats
Freelance
CDI

Offre d'emploiData Engineering Talend / Starburst Senior

VISIAN
Publiée le
Apache Spark
Talend

1 an
40k-45k €
400-630 €
Paris, France
Le bénéficiaire souhaite une prestation d'accompagnement dans l'objectif d'assurer une mission dans le cadre de notre transition vers une architecture Data Mesh. Nous recherchons un(e) Data Product Engineer spécialisé(e) dans le développement de pipelines sur la plateforme Talend Real Time BigData et de data products sur la plateforme Starburst. Votre mission sera de concevoir, collecter, intégrer, construire et opérer des jeux de données fiables, auto-descriptifs et interopérables, en collaboration avec les domain métiers et les data owners. Missions clés : - Conception de flux de données et de Data Products Développement des pipelines d'intégration de données optimisés via la Talend Data Fabric / Talend Real Time BigData ou encore Spark / Astronomer Documentation des pipelines d'ingestion de données Intégration des données dans l'écosystème Data Mesh Collaboration avec les domaines métiers pour identifier les sources de données et les cas d'usage. Développement des data products / data sets (vues & vues matérialisées) répondant à des cas d'usage identifiées avec les responsables de domaines métiers Développement des requêtes SQL optimisées pour Starburst (push-down predicates, partitionnement, formats de fichiers comme Iceberg/Parquet). Documentation les data products (métadonnées, ownership, qualité) Contribution à l'amélioration continue des data produts dans de la plateforme Starburst Mise en place des alertes et des dashboards pour le suivi des data products.
Voir cette offre
Freelance

Mission freelancePRODUCT OWNER

HAYS France
Publiée le
Apache Spark
Backlog management
Copilot

1 an
Lille, Hauts-de-France
Dans le cadre de l'évolution d'un produit stratégique de gestion de stock magasin, nous recherchons un Product Owner Senior pour accompagner les équipes produit et développement dans un contexte international. Vous serez responsable de la construction et de l'animation de la roadmap produit, de la gestion du backlog ainsi que de la priorisation des besoins métier. En collaboration avec les différentes parties prenantes, vous contribuerez à la définition des fonctionnalités et à leur mise en œuvre afin de garantir la création de valeur pour les utilisateurs. Vos missions principales seront les suivantes : Construire et faire évoluer la roadmap produit. Définir, prioriser et maintenir le backlog. Challenger et formaliser les besoins métier. Rédiger les epics, user stories et critères d'acceptation. Animer les cérémonies Agile/Scrum. Organiser et piloter les ateliers de conception. Accompagner les équipes de développement tout au long des sprints. Réaliser les démonstrations produit et recueillir les retours utilisateurs. Assurer le suivi des indicateurs de performance et contribuer à l'amélioration continue du produit. Exploiter les outils d'intelligence artificielle générative afin d'améliorer la formalisation des besoins, la documentation, la conception fonctionnelle et la productivité des équipes.
Voir cette offre
Freelance

Mission freelance448 - Data Engineer Java / Scala – Data Platform (H/F)

Nicholson SAS
Publiée le
Agile Scrum
Apache Kafka
Apache Spark

12 mois
330 €
Lyon, Auvergne-Rhône-Alpes
Localisation : Lyon Démarrage : ASAP Fin de mission : 16/11/2027 Télétravail : 3 jours par semaine (2 jours sur site) TJM : 330 € HT/jour Expérience : 3 à 7 ans Contexte de la missionDans le cadre du développement de sa Data Platform, notre client recherche un Data Engineer Java / Scala pour concevoir et développer des services digitaux centrés sur la donnée. L'objectif est de mettre à disposition des équipes des données fiables et accessibles via API, de simplifier les traitements analytiques et de renforcer l'alignement entre les besoins opérationnels et décisionnels. Le consultant interviendra notamment sur des projets liés aux référentiels articles et magasins. Missions principalesConcevoir, développer et maintenir des pipelines de données performants et fiables. Participer à la mise à disposition des données via des API et des services adaptés aux besoins métiers. Développer des traitements distribués et des flux de données en temps réel. Exploiter les environnements Cloud et les services de la plateforme data. Optimiser les requêtes SQL et les traitements sur des volumes importants de données. Mettre en œuvre les bonnes pratiques de qualité, de tests et d'industrialisation du code. Contribuer à l'amélioration continue de la plateforme et partager les bonnes pratiques au sein de l'équipe. Compétences techniques requisesLangages : Java et/ou Scala, avec une bonne compréhension de la programmation fonctionnelle. Traitement de données : Apache Spark, Apache Kafka. Cloud & Data : Google Cloud Platform (GCP), BigQuery, SQL avancé. Pipelines de données : DBT (Data Build Tool). Streaming : Pub/Sub et gestion des flux en temps réel. Industrialisation : GitLab CI/CD, Docker Compose. Environnement : Linux, ligne de commande et Git. Méthodologie : Agile / Scrum.
Voir cette offre
CDI
Freelance

Offre d'emploiData Engineer Senior Lead Python / PySpark / AWS - F/H

INGENIANCE
Publiée le
AWS Glue
AWS Step Functions
CI/CD

1 mois
Paris, France
Nous recherchons pour une mission longue chez notre client secteur banque/finance en région parisienne un Data Engineer Senior à posture de lead, pour porter une plateforme de données AWS lancée from scratch pour une équipe des marchés actions. Chaque nuit, des batchs produisent des prix, des sensibilités et du PnL sur plusieurs centaines de millions de lignes. Les équipes métier connaissent ces données, mais ont besoin d'un expert pour construire des pipelines industriels. Vous pilotez le projet au quotidien, en appui du Tech Lead qui valide les grandes orientations. Vos missions : - Porter le projet de bout en bout : cadrage avec le métier, découpage, priorisation et plan de livraison. - Proposer et défendre les choix d'architecture, et arbitrer en autonomie. - Encadrer deux développeurs (un junior, un confirmé) : standards de code, revues, montée en compétences. - Définir la stratégie de refactoring d'un projet existant, priorisée par risque et par valeur. - Construire un framework commun piloté par configuration et développer les pipelines Python / PySpark sur AWS Glue. - Orchestrer avec Step Functions et EventBridge, organiser le stockage S3 (Parquet ou Iceberg) et l'exposition via Glue Data Catalog et Athena. - Mettre en place la qualité des données et le monitoring, et optimiser performances et coûts. - Industrialiser avec l'équipe DevOps : Terraform, CI/CD, tests. Vous rejoignez Ingéniance en CDI et intégrez une communauté d'experts de la data et de la finance de marché. Ref : O-SIYUA
Voir cette offre
CDI

Offre d'emploiData engineer Databricks

Hexateam
Publiée le
Amazon S3
Apache Airflow
Apache Spark

Paris, Île-de-France
Missions principales ■ Être force de proposition et participer à la conception des solutions techniques avec les membres de l'équipe ■ Comprendre les enjeux métiers afin de concevoir des solutions répondant aux besoins fonctionnels ■ Participer aux cérémonies Agile SAFe : PI Planning, macro-chiffrage, raffinements, rétrospectives, etc. ■ Concevoir et faire évoluer les architectures de données selon l'approche Databricks Medallion Architecture (Bronze, Silver, Gold) ■ Garantir la qualité, la fiabilité et la performance des traitements en production : jobs Databricks et API ■ Contribuer à l'amélioration continue de la plateforme en proposant des optimisations, des bonnes pratiques et des innovations Activités ■ Concevoir, développer et maintenir des pipelines de données (ETL) pour les flux d'intégration et les flux métiers ■ Mettre en œuvre et orchestrer les traitements de données avec Databricks ■ Modéliser les données dans des tables Delta Lake en appliquant les bonnes pratiques de partitionnement, d'indexation, d'optimisation et de gouvernance ■ Optimiser les performances des traitements Databricks : Spark, Delta Lake, coûts et temps d'exécution ■ Assurer le développement, les tests et le déploiement des composants techniques via des processus CI/CD ■ Concevoir, développer et maintenir des API pour l'exposition et la consommation des données ■ Mettre en place des mécanismes de Data Quality, de monitoring et d'alerting ■ Identifier, analyser et résoudre les incidents de production, avec suivi des actions correctives ■ Rédiger et maintenir la documentation technique des solutions mises en œuvre ■ Accompagner les équipes dans l'adoption des bonnes pratiques de Data Engineering
Voir cette offre
Freelance
CDI

Offre d'emploiData engineer Databricks

UCASE CONSULTING
Publiée le
Apache Spark
AWS Cloud
Azure

3 ans
40k-71k €
400-550 €
Île-de-France, France
Data Engineer Senior — Databricks — Descriptif du poste Dans le cadre du développement de nos activités data, nous recrutons un Data Engineer Senior spécialisé sur la plateforme Databricks. Vous intervenez sur la conception et l'industrialisation de plateformes de données lakehouse : vous cadrez les besoins avec les équipes métiers, vous définissez les architectures cibles, vous construisez les pipelines d'ingestion et de transformation, et vous assurez leur mise en production ainsi que leur optimisation en coût et en performance. Vous êtes l'interlocuteur technique direct des équipes métiers sur votre périmètre et vous accompagnez la montée en compétences des profils plus juniors. — Parmi vos missions 🛠 Concevoir et industrialiser les plateformes de données sur Databricks Concevoir des architectures lakehouse en couches (bronze / silver / gold) sur Delta Lake Développer et optimiser les pipelines d'ingestion et de transformation en PySpark et en SQL Industrialiser les traitements avec Databricks Workflows, Delta Live Tables et une chaîne CI/CD Optimiser les coûts et les performances : dimensionnement des clusters, partitionnement, Photon, gestion du cache Mettre en place la gouvernance et la qualité des données Structurer Unity Catalog : catalogues, schémas, gestion des droits, lignage Définir les règles de qualité, les tests et le monitoring des pipelines en production Documenter les modèles de données et les contrats d'interface avec les systèmes amont et aval Cadrer les besoins avec les équipes métiers Animer les ateliers de recueil de besoins et traduire les exigences en solutions data Préconiser les architectures cibles et arbitrer les choix techniques (batch ou streaming, build ou buy) Présenter et défendre vos recommandations auprès des interlocuteurs techniques comme métiers Piloter la livraison et faire monter l'équipe en compétences Piloter un lot de bout en bout : conception, chiffrage, livraison, respect des délais Encadrer les profils juniors en revue de code et en pair programming Diffuser les bonnes pratiques d'engineering : versioning, tests, revue, documentation — Modalités pratiques Lieu : Ile de France Type de contrat : CDI Date de démarrage : A définir Télétravail : Fonction des contraintes opérationnelles (en moyenne : 2 jours)
Voir cette offre
Freelance

Mission freelanceAzure Data Engineer Senior

WIKEYS
Publiée le
Apache Spark
Architecture
Azure

12 mois
650 €
Bruxelles, Bruxelles-Capitale, Belgique
Contexte de la missionAprès la migration des données non-SAP vers Azure,nous souhaitons renforcer son architecture Data, développer de nouveaux cas d'usage métiers et améliorer la gouvernance, la sécurité et la performance de notre plateforme Pour accompagner ces évolutions, elle recherche un Azure Data Engineer Senior, disposant d'une expertise approfondie en Azure Databricks, Databricks Unity Catalog et Azure Data Architecture Missions et responsabilitésConcevoir, développer et maintenir des pipelines de données avec Azure Data Factory, Databricks et les services Azure. Mettre en place des architectures modernes de données : Data Lake, Delta Lake et Lakehouse. Développer et industrialiser des solutions Data répondant aux besoins métiers, analytiques et Data Science. Participer à l'implémentation et à l'administration de Databricks Unity Catalog : catalogues, schémas, permissions, partage et gouvernance des données. Contribuer au développement d'une stratégie de Data en libre-service (Self-Service Analytics). Garantir la sécurité, la fiabilité, la scalabilité et la performance de la plateforme Data. Surveiller et optimiser la consommation des ressources ainsi que les coûts Azure et Databricks. Automatiser les processus d'ingestion, de transformation et de déploiement des données. Collaborer avec les Data Analysts, Data Scientists et les équipes métiers. Documenter les architectures, les flux de données et les bonnes pratiques. Assurer la maintenance et l'amélioration continue de la plateforme Azure Data
Voir cette offre

Au service des talents IT

Free-Work est une plateforme qui s'adresse à tous les professionnels des métiers de l'informatique.

Ses contenus et son jobboard IT sont mis à disposition 100% gratuitement pour les indépendants et les salariés du secteur.

Free-workers
Ressources
A propos
Espace recruteurs
2026 © Free-Work / AGSI SAS
Suivez-nous