Trouvez votre prochaine offre d’emploi ou de mission freelance PySpark

Votre recherche renvoie 45 résultats.
Freelance
CDI

Offre d'emploiData Engineer Senior AWS / Data Platform

AVA2I
Publiée le
AWS Cloud
CI/CD
Data Engineering

1 an
Île-de-France, France
Dans le cadre d'un programme stratégique de transformation Data & IA au sein d'un grand groupe international, nous recherchons un Data Engineer Senior AWS pour contribuer à l'évolution et à l'industrialisation d'une plateforme Data Cloud déjà en production. Cette plateforme constitue le socle technologique permettant d'alimenter des solutions analytiques avancées et des cas d'usage innovants basés sur l'intelligence artificielle. Vous intégrerez une équipe Data multidisciplinaire évoluant dans un environnement international et fortement orienté Cloud. MissionsParticiper à la conception et à l'évolution de l'architecture Data Platform et Data Lake/Lakehouse. Développer et maintenir des pipelines de données robustes et performants. Concevoir et implémenter des traitements de données à grande échelle à l'aide des services AWS. Participer à l'intégration de nouvelles sources de données internes et externes. Mettre en œuvre les bonnes pratiques de Data Management, Data Quality et DataOps. Participer à l'automatisation des déploiements et à l'amélioration continue des chaînes CI/CD. Garantir la performance, la sécurité et la maintenabilité des solutions développées. Accompagner les équipes métiers dans la traduction des besoins fonctionnels en solutions techniques. Participer aux phases de mise en production et au support des environnements critiques. Contribuer aux travaux d'amélioration continue de la plateforme.
Voir cette offre
Freelance

Mission freelance267 - Data Engineer / Architecte Databricks (H/F)

Nicholson SAS
Publiée le
Apache Kafka
Azure DevOps
CI/CD

5 mois
660 €
Paris, France
Date de démarrage : ASAP Date de fin : 31/10/2026 Localisation : Paris Tarif Journalier Moyen (TJM) Max : 660 € Descriptif de la MissionAu sein des équipes Data, vous interviendrez sur la conception, le développement, la gouvernance et l'optimisation de nos plateformes de données. Vos activités principales s'articuleront autour de quatre grands piliers : 1. Développement & Architecture DataConcevoir et développer des pipelines de données robustes et scalables sur Databricks (PySpark, Spark SQL, Delta Live Tables). Mettre en place des architectures Lakehouse basées sur Delta Lake. Industrialiser et orchestrer les workflows ETL/ELT à l'aide de Databricks Workflows. 2. Gestion et Administration de la Plateforme DatabricksAdministrer l'espace de travail (gestion des workspaces, configuration des clusters, gestion des permissions). Assurer l'optimisation des coûts (finops) via la configuration fine, l'autoscaling et le monitoring des clusters. Implémenter et faire respecter les bonnes pratiques de sécurité (Unity Catalog, gestion des accès, lineage de la donnée). 3. Gouvernance & Qualité des DonnéesMettre en place des mécanismes stricts de qualité et de validation des données (expectations, tests automatisés). Documenter rigoureusement les modèles et les flux sur la plateforme. Garantir la fiabilité, la cohérence et la fraîcheur des données mises à disposition. 4. Collaboration & SupportCollaborer étroitement avec les Data Analysts, Data Scientists et les équipes métiers. Accompagner et former les utilisateurs clés dans l'adoption et la prise en main de l'écosystème Databricks. Participer activement aux revues de code, à la standardisation et au partage des bonnes pratiques d'ingénierie. Compétences RequisesTechniques (Incontournables) :Développement : Excellente maîtrise de PySpark ou Spark SQL. Écosystème : Forte expérience pratique avec Databricks (pipelines, clusters, notebooks, Unity Catalog). Architecture : Solides connaissances des architectures Lakehouse, du data modeling, des concepts ETL/ELT et des stratégies d'ingestion (batch & streaming). Cloud : Connaissance approfondie d'au moins un des principaux fournisseurs cloud (Azure, AWS ou GCP). DevOps : Maîtrise de Git et des pratiques de CI/CD (Azure DevOps, GitHub Actions, etc.). Souhaitées (Un plus) :Connaissances en MLflow, orchestration de modèles et pratiques MLOps. Notions avancées en DataOps, cost optimization (FinOps) et outils de monitoring. Expérience dans l'exploitation d'APIs et l'ingestion de données en temps réel (ex: Kafka).
Voir cette offre
Freelance
CDI

Offre d'emploiData Engineer / Data Ops

VISIAN
Publiée le
AWS Cloud
AWS CloudFormation
Azure

1 an
Paris, France
MissionsLe rôle vise à apporter l'expertise nécessaire pour soutenir les projets data et l'écosystème Databricks au sein du groupe. L'équipe met à disposition des environnements d'évaluation et de test, définit les standards et bonnes pratiques d'usage, et accompagne les entités ayant des besoins spécifiques sur des périodes dédiées. Les interlocuteurs sont principalement des Data Specialists et Data Citizens. Les environnements techniques s'appuient sur Databricks AWS et Azure. Les activités se structurent autour de trois axes : Data Engineering : développement et opérations data DevOps / DataOps : déploiement, automatisation, Infrastructure-as-Code, administration des plateformes Expertise : veille technologique, anticipation des évolutions, test et validation des nouvelles fonctionnalités Dans ce contexte, les responsabilités confiées sont les suivantes : Administrer, surveiller et maintenir les espaces de travail Databricks du COE. Élaborer, documenter et faire évoluer les standards, bonnes pratiques et blueprints groupe. Garantir la qualité et la conformité des services fournis aux entités. Accompagner les équipes métiers et data dans l'adoption de l'écosystème Databricks et leur transition vers les normes groupe. Tester, évaluer et recommander les nouvelles fonctionnalités de l'éditeur ou d'outils complémentaires pour améliorer l'expérience globale. Veiller au respect des politiques groupe et accompagner leur mise en œuvre. Contribuer à la conception et à la réalisation des use cases stratégiques portés par les entités.
Voir cette offre
Freelance
CDI
CDD

Offre d'emploiData engineer AWS/Databricks/Terraform TJM MAX 550

Craftman data
Publiée le
AWS Cloud
CI/CD
Python

2 ans
40k-45k €
400-550 €
Paris, France
Contexte de la mission Dans le cadre de l'évolution d'une plateforme Data stratégique, notre client recherche un Senior Software Engineer afin de participer à la modernisation d'une application centrale dédiée à la configuration et à l'orchestration de traitements de données. Cette mission s'inscrit dans un contexte de transformation visant à améliorer la qualité logicielle, renforcer la robustesse de l'application, optimiser ses performances et faciliter l'intégration de nouveaux cas d'usage. Le consultant travaillera en étroite collaboration avec les équipes Data Engineering, Architecture et Produit dans un environnement Agile. Missions Le consultant interviendra notamment sur les sujets suivants : Concevoir, développer et maintenir une application Python dédiée au traitement et à l'orchestration des données. Moderniser l'architecture applicative afin d'améliorer sa maintenabilité, sa performance et sa scalabilité. Réduire la dette technique grâce à des actions de refactoring et d'optimisation du code existant. Concevoir et mettre en œuvre une stratégie complète de tests : Tests unitaires Tests d'intégration Validation des traitements métier Automatisation dans les pipelines CI/CD Développer des composants génériques et configurables favorisant la réutilisabilité et limitant les développements spécifiques. Participer à l'intégration des traitements dans les pipelines Data. Contribuer aux choix d'architecture et à la définition des bonnes pratiques de développement. Accompagner les équipes dans l'amélioration continue des pratiques de développement logiciel. Environnement techniqueCloud AWS (S3, ECS, Fargate...) Data Engineering Python Apache Spark PySpark SQL Databricks Delta Lake Lakehouse Architecture Orchestration Apache Airflow DevOps GitLab CI/CD Docker Infrastructure as Code Terraform Terragrunt Gouvernance Data Databricks Unity Catalog Gestion des accès Monitoring Optimisation des coûts Méthodologie Agile Scrum Compétences techniquesIndispensables Python AWS SQL Apache Spark / PySpark Databricks Airflow Docker GitLab CI/CD Terraform Architecture logicielle Data Engineering Monitoring Appréciées Fargate Terragrunt Unity Catalog Lakehouse Architecture Soft Skills Excellente capacité d'analyse et de conception. Force de proposition. Autonomie et rigueur. Esprit collaboratif. Capacité à accompagner et faire monter en compétence les équipes. Excellente communication. Langues Anglais courant (niveau C1 minimum).
Voir cette offre
Freelance

Mission freelanceSenior data engineer | Dataiku DSS v14, big data & EBA stress testing

Mon Consultant Indépendant
Publiée le
Gestion de projet

4 mois
480-520 €
Paris, France
Mission de l'équipe : Au sein de l'équipe Stress Testing and Data Analytics, la mission consiste à renforcer les capacités de développement et d'industrialisation des traitements de données utilisés dans les exercices de stress testing réglementaires. L'équipe est responsable de la collecte, de la structuration, de la transformation et de la mise à disposition des données nécessaires aux projections réglementaires, aux exercices de stress testing et aux productions associées. Dans le cadre de la préparation de l'EBA Stress Test 2027, le consultant interviendra sur le périmètre Credit Risk afin de contribuer à la fiabilisation des données, à l'automatisation des traitements et à la sécurisation des livrables réglementaires dans un environnement Big Data. La mission s'inscrit dans un contexte international impliquant une collaboration étroite avec les équipes Data, IT, Finance, Risque et Modèles. 1. Développement et industrialisation des traitements de données_ _L'équipe est responsable du développement, de l'évolution et de la maintenance des pipelines de données nécessaires aux exercices réglementaires. Elle conçoit des traitements robustes et industrialisés sous Dataiku DSS v14, en s'appuyant sur Python, PySpark et SQL, afin d'assurer la production de données fiables, reproductibles et auditables. Les traitements développés doivent répondre à des exigences élevées de qualité, de performance et de traçabilité conformément aux principes BCBS 239. 2. Intégration et contrôle de la qualité des données_ _L'équipe assure l'intégration de données provenant de différentes sources réglementaires et internes. Elle est responsable de la transformation des données, de la mise en œuvre des contrôles de qualité, des contrôles de cohérence ainsi que des rapprochements entre les différentes sources. Les écarts détectés doivent être analysés puis faire l'objet d'actions de remédiation afin de garantir la fiabilité des livrables réglementaires. 3. Contribution aux exercices réglementaires_ _L'équipe contribue directement à la construction du Credit Starting Point dans le cadre de l'EBA Stress Test 2027. Elle participe à la préparation des datasets réglementaires, à l'alimentation des templates attendus ainsi qu'à la sécurisation des différentes phases de production jusqu'aux livraisons. Une forte implication est attendue durant les périodes critiques de préparation, de validation, de re-run et de remédiation. 4. Documentation et traçabilité_ _L'équipe est responsable de la documentation technique et fonctionnelle des traitements développés. Elle garantit la traçabilité complète des données, des règles de transformation et des contrôles mis en œuvre afin de répondre aux exigences d'audit et de conformité réglementaire. Prestations demandées : La mission interviendra principalement sur les activités suivantes : Développer et maintenir les pipelines de données sous Dataiku DSS v14. Concevoir, optimiser et exécuter des traitements en Python, PySpark et SQL. Contribuer à la construction du Credit Starting Point dans le cadre de l'EBA Stress Test 2027. Intégrer, transformer et contrôler des données réglementaires et internes. Automatiser les contrôles de qualité et les contrôles de cohérence des données. Réaliser les analyses d'écarts et participer aux actions de remédiation. Produire une documentation technique et fonctionnelle des traitements développés. Garantir la traçabilité et l'auditabilité des données conformément aux principes BCBS 239. Collaborer avec les équipes Data, IT, Finance, Risque, Modèles et les différentes parties prenantes du programme. Participer aux phases de recette, validation, re-run et sécurisation des livrables réglementaires. Expertises : Data Engineering Dataiku DSS v14 Développement de pipelines de données Python PySpark SQL Big Data Data Quality Data Lineage Data Transformation Data Remediation Stress Testing BCBS 239
Voir cette offre
Freelance

Mission freelanceData Engineer Confirmé - Azure / Microsoft Fabric - Bordeaux H/F (Indépendant / Freelance)

█ █ █ ██ █ █
Publiée le
Apache Spark
DevOps
JIRA

Bordeaux, Nouvelle-Aquitaine

Offre importée

Offre issue du marché tech, identifiée automatiquement pour vous donner une vue complète des opportunités.

Accès restreint à la communauté

Rejoignez notre plateforme pour accéder aux détails de cette offre et obtenir un accès aux meilleures offres du marché.

Voir cette offre
CDI

Offre d'emploiData engineer H/F

█ █ █ ██ █ █
Publiée le
CI/CD
Github
Kanban

Lille, Hauts-de-France

Offre importée

Offre issue du marché tech, identifiée automatiquement pour vous donner une vue complète des opportunités.

Accès restreint à la communauté

Rejoignez notre plateforme pour accéder aux détails de cette offre et obtenir un accès aux meilleures offres du marché.

Voir cette offre

Au service des talents IT

Free-Work est une plateforme qui s'adresse à tous les professionnels des métiers de l'informatique.

Ses contenus et son jobboard IT sont mis à disposition 100% gratuitement pour les indépendants et les salariés du secteur.

Free-workers
Ressources
A propos
Espace recruteurs
2026 © Free-Work / AGSI SAS
Suivez-nous