Find your next tech and IT Job or contract Apache Spark

Your search returns 40 results.
Permanent

Job VacancyLead Data Engineer (Contract, Full-Time) [HR208] (UK)

█ █ █ ██ █ █
Published on
Apache Airflow
Apache Kafka
Apache Spark

London, England, United Kingdom

Imported from

Job from the tech market, identified automatically to give you a complete view of the opportunities.

Restricted access to the community

Join our platform to access the details of this job and get access to the best offers on the market.

View this job
Permanent

Job VacancyData Engineer Databricks - Lyon

KOMEET TECHNOLOGIES
Published on
Apache Spark
Databricks

45k-55k €
Lyon, Auvergne-Rhône-Alpes
En tant que Data Engineer, vous intervenez sur la conception, le développement et l'optimisation de pipelines de données robustes et scalables. Vous travaillez au cœur des plateformes Data afin de garantir la qualité, la disponibilité et la performance des données utilisées par les équipes métiers, BI et Data Science. Expérience attendue : 3 à 8+ ans en ingénierie Data. Vous correspondez au/à la Data Engineer que nous recherchons si : Vous évoluez efficacement au sein d'équipes agiles et pluridisciplinaires, en collaboration étroite avec les équipes Data, IT et métiers Vous faites preuve d'un fort esprit analytique et d'une grande rigueur Vous êtes autonome, proactif et doté d'un solide sens des responsabilités Vous êtes capable de communiquer clairement avec des interlocuteurs techniques comme non techniques Vous savez prioriser vos tâches, gérer les contraintes et respecter vos engagements Vous disposez d'un bon esprit de synthèse et êtes orienté résultats et valeur métier Vous avez une bonne connaissance des environnements Business Intelligence, Big Data et des architectures Lakehouse Vous avez déjà travaillé sur des plateformes Data modernes (Cloud) Vous maîtrisez SQL comme langage d'interrogation des données et avez des notions de modélisation de données (architecture médaillon, modèle en étoile …) Vous disposez d'un bagage en software engineering, vous permettant d'écrire un code robuste, lisible, maintenable et testable, notamment en Python Vous appliquez les bonnes pratiques de développement : structuration du code, modularité, gestion des dépendances, conventions de nommage Vous êtes sensibilisé aux principes de qualité logicielle (tests unitaires, tests d'intégration, revue de code) Vous êtes à l'aise avec les outils de versioning (Git) et les workflows collaboratifs associés Vous savez concevoir des pipelines Data comme de véritables produits logiciels, en tenant compte de la maintenabilité, de l'évolutivité et de l'observabilité
View this job
Contractor
Permanent

Job VacancyArchitecte / Tech Lead Big Data (H/F)

CBX Conseil ( CBX Group )
Published on
Apache Spark
Java
Mongodb

2 years
45k-66k €
550-680 €
Paris, France
Dans le cadre d'un programme de transformation digitale et de la mise en place d'une plateforme data Big Data, un grand groupe d'assurance français renforce son dispositif avec un Architecte / Tech Lead Big Data. Vous serez le référent technique de la plateforme : vous porterez la conception des solutions data avec les métiers, encadrerez les équipes de développement et garantirez la qualité des traitements batch et streaming, depuis les sources jusqu'à leur exposition dans des zones dédiées ou via des API. Vos missions : • Concevoir les solutions et les usages Big Data avec les métiers • Animer les ateliers et les comités multi-acteurs (métiers, POs, équipes techniques, partenaires) • Coordonner les mises en place et les recettes • Définir les architectures cibles des traitements batch et streaming (Spark SQL, Java Spark) • Encadrer techniquement les développeurs de la Squad (revues de code, bonnes pratiques, montée en compétences) • Analyser les spécifications et les besoins des métiers avec les Product Owners • Produire et maintenir la documentation d'architecture sous Confluence • Assurer le support de niveau 3 et la maintenance des produits en production • Participer à l'ensemble des cérémonies agiles de votre Squad (Scrum) Environnement technique : distribution Big Data Cloudera/MapR, Spring Boot, Java 11, Kafka, MongoDB, Jenkins, K8S, ArgoCD, Sonar, et plusieurs autres technologies à la pointe
View this job
Contractor
Permanent

Job Vacancy🚀 Opportunité – Expert Hadoop / Cloudera CDP / Ansible (H/F)

OMICRONE
Published on
Apache NiFi
Apache Spark
Big Data

1 year
40k-45k €
400-510 €
Ile-de-France, France
🚀 Opportunité – Expert Hadoop / Cloudera CDP / Ansible (H/F)Dans le cadre du renforcement d'une plateforme Big Data stratégique d'un grand groupe bancaire, nous recherchons un Expert Hadoop / Cloudera CDP pour intervenir sur des projets d'évolution, d'industrialisation et de maintien en conditions opérationnelles d'une infrastructure critique. Vos missionsAdministrer, maintenir et optimiser des clusters Hadoop (Cloudera CDP). Assurer la disponibilité, la performance et la sécurité de la plateforme Big Data. Automatiser les déploiements, patchs et configurations avec Ansible et Terraform. Participer aux montées de version des composants Hadoop. Intervenir sur des incidents complexes et contribuer aux task forces techniques. Déployer de nouvelles fonctionnalités d'infrastructure. Collaborer avec l'éditeur et les équipes techniques internes. Produire et maintenir la documentation technique. Environnement techniqueHadoop / Cloudera CDP 7.1.x Apache Kafka Apache NiFi Spark Ansible Terraform / Terragrunt Shell scripting GitHub / AWX Profil recherchéSolide expérience d'administration de plateformes Hadoop / Cloudera. Très bonne maîtrise d'Ansible et de l'automatisation d'infrastructure. Expérience sur Kafka, NiFi et Spark. Bonne connaissance des environnements Linux et des pratiques DevOps. Capacité à intervenir sur des problématiques techniques complexes et à accompagner les évolutions d'une plateforme Big Data. Informations complémentaires📍 Localisation : Île-de-France 🏢 Mission en présentiel 📅 Démarrage : ASAP ⏳ Mission longue durée (12 mois renouvelables) 📩 Si cette opportunité vous intéresse, n'hésitez pas à me contacter en message privé ou à envoyer votre CV.
View this job
Contractor
Permanent

Job VacancyData engineer DevOps sur Saint-Quentin-en-Yvelines

EterniTech
Published on
Apache Spark
AWS Cloud
Dataiku

3 months
Yvelines, France
La mission consiste à contribuer à la conception, l'industrialisation, l'exploitation et l'évolution des plateformes et services Data. Le consultant interviendra aussi bien sur les projets DATA que sur les activités de RUN. Il devra être capable de travailler dans un environnement technique large, sans nécessairement être expert sur chaque technologie, mais avec une bonne culture Data / Big Data / DevOps / Cloud. Une forte capacité d'autonomie, de curiosité et de proposition est attendue afin d'accompagner les équipes dans leurs choix techniques et leur évolution. MISSIONS PRINCIPALESParticiper aux projets Data et aux activités de RUN. Concevoir et faire évoluer les solutions Data Engineering. Participer à l'industrialisation et à l'automatisation des traitements et infrastructures. Développer et maintenir les pipelines CI/CD. Participer à la gestion et à l'exploitation des environnements Docker / Kubernetes. Automatiser les opérations à l'aide d'Ansible et/ou Terraform. Intervenir sur les bases de données SQL Server, PostgreSQL et MongoDB. Participer à l'exploitation et à l'évolution des environnements Big Data. Contribuer aux sujets Cloud public AWS / GCP. Participer à la supervision et à l'observabilité des plateformes. Analyser les problématiques de production et contribuer à leur résolution. Proposer des améliorations techniques et opérationnelles. Challenger l'existant et orienter les choix techniques lorsque nécessaire. Collaborer avec les équipes Data, DevOps, infrastructure et projets.
View this job
Contractor
Permanent

Job VacancyTech Lead Data Engineer

Ecco Technologies
Published on
Apache Spark
Google Cloud Platform (GCP)
Java

1 year
Haute-Garonne, France
EccoTechnologies est une ESN à taille humaine spécialisée dans les métiers de l'IT et de la transformation digitale. Nous accompagnons nos partenaires sur des projets à forte valeur ajoutée en mettant l'expertise technique, la proximité et l'humain au cœur de notre démarche. Dans le cadre du développement de nos activités, nous recherchons un Tech Lead Data Engineer pour intervenir auprès de l'un de nos partenaires sur un projet stratégique de modernisation d'une plateforme Data, au sein d'un environnement Agile, Cloud et international. Vous intégrerez une équipe Agile avec des équipes réparties en France et à l'international. Vous participerez à l'évolution d'une plateforme Big Data récemment migrée vers Google Cloud Platform. Dans un contexte de transformation et d'amélioration continue, vous contribuerez à l'optimisation des traitements de données, à la modernisation de l'architecture technique et à l'accompagnement de l'équipe sur les choix techniques. Missions : Concevoir, développer et maintenir des pipelines de traitement de données. Développer et optimiser des traitements Java et Apache Spark. Participer aux évolutions fonctionnelles et techniques de la plateforme. Contribuer aux travaux de refactoring et d'amélioration continue. Participer aux choix d'architecture et être force de proposition. Accompagner l'équipe sur les sujets techniques et partager les bonnes pratiques. Collaborer avec les équipes Produit, Architecture et Ops. Garantir la qualité, la performance et la maintenabilité des développements.
View this job
Contractor
Permanent

Job VacancyData Analyst (H.F)

NSI France
Published on
Apache Spark
PySpark
Python

1 year
Ile-de-France, France
Acteur majeur dans le domaine IT, depuis notre création en 1993, nous n'avons cessé de croître et d'évoluer. Avec une équipe dévouée de près de 1.400 collaborateurs répartis sur plusieurs sites en Belgique, au Luxembourg, en France et au Canada, NSI a suivi une trajectoire exceptionnelle. Notre entreprise est à la pointe de la révolution numérique, offrant une gamme complète de services IT, de l'analyse au développement de logiciels, en passant par l'architecture et la gouvernance IT. Votre rôle au sein de NSI Nous recherchons un(e) Consultant(e) Data Analyst – Big Data H/F afin d'intervenir au sein d'un grand acteur du secteur des télécoms, sur le pilotage de la qualité de service de son réseau fixe. Descriptif des missions Au sein d'une cellule dédiée à la qualité de service, vous produisez des analyses à partir de datasets que vous constituez sur les données issues des plateformes Big Data du client. Vous avez également la responsabilité de rendre disponibles les données une fois celles-ci nettoyées, préparées et formatées, sous forme de datasets ou de tables mis à disposition des Data Scientists de l'équipe. Vous développez enfin des tableaux de bord de suivi des KPI. Missions Constituer des datasets à partir des données des plateformes Big Data Nettoyer, préparer et formater les données Mettre à disposition des Data Scientists des datasets et des tables exploitables Développer des tableaux de bord de suivi des KPI Produire des analyses commentées
View this job
Contractor

Contractor jobDatabricks Engineer

Phaidon London- Glocomms
Published on
Apache Spark
Azure
Databricks

12 months
600-750 €
Paris, France
Data Engineer – Gestion d'ActifsNotre client, un acteur mondial majeur de la gestion d'actifs, recherche un Data Engineer expérimenté pour rejoindre son département Investment Accounting & Administration au sein de l'activité Investment Management. Il s'agit d'une opportunité stratégique de contribuer au développement et à l'évolution d'une plateforme de données cloud au cœur des opérations d'investissement, de l'analytique et du reporting. Le candidat retenu participera à la conception, au développement et à l'optimisation d'un hub de données d'entreprise complexe, permettant aux équipes d'investissement d'exploiter pleinement les données Bloomberg ainsi que d'autres sources de données financières. En collaboration avec des équipes internationales, vous développerez des solutions de données évolutives qui soutiennent la prise de décision et la création de valeur à partir des données. Principales ResponsabilitésConcevoir, développer et maintenir des pipelines de données et des produits data cloud robustes au service d'opérations d'investissement critiques et d'applications analytiques à grande échelle. Renforcer et étendre les capacités de la plateforme de données de l'entreprise à l'aide de technologies modernes de Data Engineering. Collaborer étroitement avec les équipes d'investissement et les parties prenantes métiers afin de comprendre leurs besoins et fournir des solutions adaptées. Développer des solutions performantes basées sur Databricks, Spark, Delta Lake et les technologies cloud natives. Promouvoir les meilleures pratiques en matière de développement et de gouvernance des données : qualité de code, CI/CD, tests automatisés et fiabilité des plateformes. Contribuer à l'adoption de technologies innovantes, notamment l'Intelligence Artificielle, les Large Language Models (LLM) et les outils d'analyse avancée. Assurer une veille technologique continue afin d'accompagner l'évolution de la plateforme et des capacités de l'équipe. Compétences et Expérience RequisesMinimum 5 ans d'expérience en Data Engineering, dont au moins 5 ans sur Databricks dans la conception et le développement de pipelines de données. Solide expérience du cloud, idéalement Microsoft Azure ; une expérience sur AWS ou GCP sera également considérée. Maîtrise de Python, PySpark, SparkSQL et/ou Scala. Expérience dans la mise en place et l'orchestration de pipelines Big Data avec des outils tels qu'Azure Data Factory, Airflow, dbt ou équivalents. Expertise de Spark, particulièrement Databricks Spark et Delta Lake. Expérience dans l'implémentation de solutions Big Data dans un environnement cloud, incluant les Data Lakes et architectures Lakehouse. Excellentes compétences SQL avec la capacité de développer et d'optimiser des requêtes complexes sur de très grands volumes de données. Maîtrise de GitHub, du contrôle de version et des processus de déploiement CI/CD. Expérience des technologies d'IA, des LLM, de Databricks Genie ou d'outils similaires. Compétences SouhaitéesExpérience en architecture de bases de données et en modélisation de données (modèles conceptuels, logiques et physiques). Expérience préalable dans la gestion d'actifs, l'asset management, l'investissement ou un environnement de services financiers. Qualités PersonnellesExcellentes capacités d'analyse et de résolution de problèmes. Forte capacité d'apprentissage et adaptation rapide aux nouvelles technologies. Aisance relationnelle et aptitude à collaborer avec des équipes et parties prenantes internationales. Cette opportunité offre la possibilité de rejoindre une équipe Data en forte croissance et de contribuer à une plateforme stratégique au cœur des activités d'un leader mondial de la gestion d'actifs.
View this job
Permanent

Job VacancyLead Data Engineer

█ █ █ ██ █ █
Published on
Apache Kafka
Apache Spark
Big Data

Imported from

Job from the tech market, identified automatically to give you a complete view of the opportunities.

Restricted access to the community

Join our platform to access the details of this job and get access to the best offers on the market.

View this job
Contractor
Permanent

Job VacancyArchitecte Solution Databricks / Tech Lead Data (H/F)

UCASE CONSULTING
Published on
Apache Spark
AWS Cloud
Databricks

1 year
40k-42k €
400-800 €
Ile-de-France, France
Bonjour à tous 😀 Contexte : Dans le cadre de l'évolution d'une plateforme Data stratégique de l'un de nos clients, nous recherchons un Architecte Solution Databricks / Tech Lead afin d'accompagner les équipes dans la conception, l'industrialisation et la gouvernance des solutions Data. L'environnement est fortement orienté plateforme Data, avec des enjeux de : conformité réglementaire et sécurité des données ; gouvernance et intégration des données à l'échelle du groupe ; industrialisation des pipelines Data ; Le consultant jouera un rôle de référent technique Databricks auprès des équipes de développement et des métiers. Vos missions : Vous interviendrez notamment sur : Concevoir l'architecture technique des solutions Databricks Accompagner les équipes de développement sur les bonnes pratiques Développer et industrialiser des pipelines Data batch et temps réel Participer aux choix techniques et aux études d'architecture Réaliser des audits techniques et analyses de risques Produire la documentation d'architecture (DAT, dossiers techniques...) Accompagner les PoC Participer aux cérémonies Agile Être le référent technique Databricks de la plateforme Les livrables : Développements Scripts techniques DAT Documents de cadrage Reporting Estimations techniques Analyses de risques Audits Supports de PoC Cahiers de tests Procédures d'installation Documentation d'exploitation Rapport de fin de mission Profil recherché : MUST HAVE : Expérience : 6 ans minimum en Data Engineering / Architecture Data Expérience significative en environnement DSI Au moins 2 ans au sein d'équipes Agile Scrum Expertise technique : Databricks (5 ans minimum) Spark / Scala Développement de pipelines batch et streaming Certification officielle Databricks Terraform Jenkins ou Docker ou Kubernetes Gouvernance Data RGPD Connaissances appréciées : AWS Power BI GitLab CI Okta Jira Confluence Soft Skills : Excellent relationnel Leadership technique Forte capacité rédactionnelle Organisation Gestion de plusieurs sujets en parallèle Animation de réunions techniques Capacité à intervenir lors des Go/NoGo Les + : Databricks sur AWS Data Mesh Animation de formations Databricks Coaching technique Audit d'architecture Accompagnement d'équipes de développement Environnement technique : Databricks Spark Scala AWS Terraform Jenkins Docker Kubernetes GitLab CI Power BI Jira Confluence Okta
View this job
Permanent

Job Vacancy Développeur Big Data & Cloud (H/F) 

NSI France
Published on
Apache Spark
AWS Cloud
Azure

40k-55k €
Ile-de-France, France
Acteur majeur dans le domaine IT, depuis notre création en 1993, nous n'avons cessé de croître et d'évoluer. Avec une équipe dévouée de près de 1.400 collaborateurs répartis sur plusieurs sites en Belgique, au Luxembourg, en France et au Canada, NSI a suivi une trajectoire exceptionnelle. Notre entreprise est à la pointe de la révolution numérique, offrant une gamme complète de services IT, de l'analyse au développement de logiciels, en passant par l'architecture et la gouvernance IT. Votre rôle au sein de NSI Nous recherchons un(e) Développeur(se) Big Data & Cloud (H/F) afin d'intervenir au sein d'un grand acteur du secteur bancaire, sur le développement d'applications Big Data s'appuyant sur les API et l'automatisation. Descriptif des missions Vous rejoignez un centre de services partagés dédié aux solutions Digital et Data, qui accompagne les entités et filières du groupe dans la valorisation et l'accès agile aux données. Au sein de cette équipe, vous développez des solutions informatiques basées sur les technologies Big Data et les API, en validant la faisabilité technique des cas d'usage, en précisant leur intérêt métier et en définissant leur aspect opérationnel. Missions Développer des applications et des API REST avec le framework Spring Mettre en place et implémenter une stratégie de test (TDD/BDD) Assurer le déploiement automatisé des applications (containers) Réaliser le fine-tuning de la JVM afin d'optimiser et de garantir la stabilité des applications sous forte charge Développer sur les technologies Big Data (HDFS, Spark, Oozie) Intervenir sur les environnements Cloud (AWS, Azure) Rédiger la documentation nécessaire au partage et à la maintenance du code Assister les Business Analysts lors des tests fonctionnels et contribuer à l'aide au diagnostic Maintenir la production opérationnelle dans le respect des SLA
View this job
Contractor

Contractor job273 - Data Engineer Senior Databricks / GCP

Nicholson SAS
Published on
Apache Spark
CI/CD
Databricks

6 months
430 €
Meudon, Ile-de-France
Rôle : Data Engineer Senior Databricks / GCP TJM : 430 € / jour Localisation : Meudon (3 jours par semaine sur site / 2 jours de télétravail) Date de début : ASAP Durée de la mission : Jusqu'au 31/12/2026 Contexte de la missionAu sein d'une équipe pluridisciplinaire (chefs de projet, architectes, DevOps, Data Engineers), vous interviendrez sur la conception et le développement de projets d'intégration de données à forte valeur ajoutée. Vos principales responsabilités incluent : Développement de jobs d'intégration de données en PySpark, Spark et Python (modes streaming et batch) sur la plateforme Databricks. Mise en œuvre du CI/CD (GitHub, DevOps, Databricks Asset Bundles), de l'orchestration, du data management et de la sécurité. Optimisation des jobs existants et des ressources Cloud (GCP et Databricks). Mise en place de Dashboards FinOps afin de suivre et piloter l'usage des ressources GCP / Databricks. Participation aux astreintes et au support en production de l'application. Assurer une formation continue, le partage de connaissances et la rédaction de la documentation technique. Compétences clés requisesDatabricks : Excellente maîtrise de l'administration, de la gestion des catalogues (Unity Catalog), de Delta Lake et de l'optimisation des performances. Technologies Data : Maîtrise approfondie de PySpark, Spark, Python, SQL et GIT. Cloud (GCP) : Bonne connaissance de l'écosystème Google Cloud Platform, notamment GCS, Pub/Sub, GKE et les outils d'Alerting. Qualités professionnellesEsprit d'équipe, curiosité intellectuelle et envie d'évoluer dans un environnement collaboratif. Excellente capacité à communiquer, à vulgariser et à partager vos connaissances avec les différents membres de l'équipe.
View this job

Connecting Tech-Talent

Free-Work, THE platform for all IT professionals.

Free-workers
Resources
About
Recruiters area
2026 © Free-Work / AGSI SAS
Follow us