Trouvez votre prochaine offre d’emploi ou de mission freelance Apache Spark

167 résultats
CDI

Offre d'emploiIngénieur DATA F/H

█ █ █ ██ █ █
Publiée le
Docker
Elasticsearch
MLOps

45k-50k €
e Arrondissement, Auvergne-Rhône-Alpes

Offre importée

Offre issue du marché tech, identifiée automatiquement pour vous donner une vue complète des opportunités.

Accès restreint à la communauté

Rejoignez notre plateforme pour accéder aux détails de cette offre et obtenir un accès aux meilleures offres du marché.

Voir cette offre
Freelance
CDI

Offre d'emploiTech Lead Databricks

DATAMED RESEARCH
Publiée le
Databricks

25 mois
Niort, Nouvelle-Aquitaine
Contexte de la missionDans le cadre de projets stratégiques de transformation et de modernisation des plateformes Data, nous recherchons un Tech Lead Databricks Senior pour piloter techniquement la conception, le développement et l'industrialisation de solutions Data à grande échelle. Vous interviendrez en tant que référent technique auprès des équipes Data Engineering et participerez activement aux choix d'architecture, à l'optimisation des performances et à la mise en place des bonnes pratiques de développement. Missions principalesAssurer le leadership technique d'une équipe de Data Engineers. Concevoir et faire évoluer des architectures Data basées sur Databricks. Piloter le développement et l'industrialisation des pipelines de données. Définir les standards techniques et les bonnes pratiques de développement. Accompagner les équipes sur Python, PySpark, SQL et Apache Spark. Optimiser les performances des traitements Big Data. Mettre en place des architectures Lakehouse avec Delta Lake. Garantir la qualité, la sécurité et la gouvernance des données. Participer aux choix d'architecture Cloud et aux décisions techniques. Réaliser des revues de code et accompagner la montée en compétences des développeurs. Superviser l'intégration continue et le déploiement des solutions Data. Collaborer avec les architectes, Product Owners et équipes métiers.
Voir cette offre
Freelance
CDI

Offre d'emploiTech Lead Data Retrieval / RAG – Python & Search (F/H)

CELAD
Publiée le
Data Engineering
Go (langage)
IA

12 mois
La Défense, Île-de-France
Envie de relever un nouveau défi autour de la Data et de l'IA ? CELAD vous attend ! 🚀 Vous êtes passionné(e) par la recherche d'information, les architectures data et l'IA générative ? Vous souhaitez intervenir sur des problématiques de volumétrie, d'indexation et de pertinence à grande échelle ? Nous recherchons un Tech Lead Data Retrieval / RAG pour rejoindre un acteur du secteur de l'édition juridique et de la Legaltech, basé à La Défense. Au sein d'une équipe spécialisée dans les services IA, vous contribuerez à la conception du socle data qui alimente des applications intelligentes destinées aux professionnels du droit. 🎯 Votre rôleVous serez le référent technique sur la collecte, l'ingestion, la transformation et l'indexation de corpus documentaires volumineux. Votre objectif : concevoir des pipelines fiables et scalables, tout en optimisant la pertinence des résultats issus de moteurs de recherche hybrides et de systèmes RAG. 🚀 Vos principales missionsIngestion de données : concevoir des pipelines capables de collecter et de traiter des sources hétérogènes, d'assurer le parsing, le nettoyage, le chunking et la normalisation des documents. Indexation : industrialiser les mécanismes d'indexation et d'embeddings sur des corpus volumineux, en garantissant la fraîcheur et la cohérence des index. Recherche d'information : concevoir des stratégies de recherche combinant recherche lexicale, recherche sémantique, BM25, embeddings et reranking. Optimisation de la pertinence : définir des métriques et des jeux de tests pour mesurer et améliorer la qualité du retrieval. Architecture RAG : structurer la récupération des documents et du contexte transmis aux LLM, en gérant les citations, la déduplication et les fenêtres de contexte. Qualité et traçabilité : mettre en place le versioning des datasets et des index, le lignage des données et des mécanismes de supervision. Sécurité : contribuer à la protection des données, au cloisonnement des traitements et au respect des exigences réglementaires. Leadership technique : accompagner les équipes, promouvoir les bonnes pratiques de développement et contribuer aux choix d'architecture. 🛠️ Environnement techniqueLangages : Python 3.11+, Go apprécié. Recherche et indexation : OpenSearch, Elasticsearch, pgvector, Weaviate, Qdrant, BM25, recherche hybride. IA et NLP : embeddings, sentence-transformers, tokenisation, parsing documentaire, reranking, RAG, LangChain. LLM : OpenAI, Mistral, Bedrock ou technologies équivalentes. Data engineering : PostgreSQL, Airflow, Spark ou équivalents. Infrastructure : Kafka, Redis, Docker, CI/CD, Kubernetes. Tests et évaluation : Pytest, precision, recall, nDCG, MRR.
Voir cette offre
CDI
Freelance

Offre d'emploiTech Lead Data GCP (H/F)

Signe +
Publiée le

24 mois
35k-40k €
250-400 €
Toulouse, Occitanie
Rejoignez une grande entreprise du secteur de la mobilité et des services de fidélisation pour piloter techniquement une équipe agile dédiée à l'intelligence métier et à la donnée. Dans un contexte de transformation cloud, vous contribuerez à la migration progressive d'une infrastructure traditionnelle BI et Big Data vers la plateforme GCP, tout en assurant la qualité, les bonnes pratiques et le succès des projets critiques. Vous intégrerez une équipe de 6 personnes au sein du pôle BI et rejoindrez un environnement techniquement riche, où les architectures héritées coexistent avec des stacks modernes (Spark, Java, GCP). Votre mission combinera expertise technique poussée, participation aux décisions architecturales, mentorat d'équipe et garantie de la qualité des solutions livrées. Responsabilités : - Piloter techniquement l'équipe agile dédiée aux projets BI et données, en tant que point focal architectural et technique - Participer activement aux décisions d'architecture système et données dans le cadre de la migration vers GCP - Concevoir et valider les solutions techniques, en garantissant les bonnes pratiques de développement et d'infrastructure - Mentorer les membres de l'équipe sur les technologies Big Data (Spark, Java), les patterns cloud (GCP) et les standards de qualité - Assurer la qualité des livrables techniques et la conformité aux standards de sécurité et performance - Collaborer avec les équipes transversales (DevOps, Data Engineering, BI) pour intégrer les outils et processus (CI/CD, monitoring, tests) - Supporter la transition progressive des workloads depuis les systèmes traditionnels vers GCP, en planifiant et validant les migrations - Contribuer à l'amélioration continue des processus et de la stack technique Télétravail : 2 jours par semaine Localisation : Toulouse
Voir cette offre
CDI

Offre d'emploiSenior Data Engineer H/F

█ █ █ ██ █ █
Publiée le
Python
Scala
SQL

Offre importée

Offre issue du marché tech, identifiée automatiquement pour vous donner une vue complète des opportunités.

Accès restreint à la communauté

Rejoignez notre plateforme pour accéder aux détails de cette offre et obtenir un accès aux meilleures offres du marché.

Voir cette offre
Freelance
CDI

Offre d'emploiAdministrateur dataplateforme/Workspace/ Expert databricks

Mosofty
Publiée le
Azure DevOps
Databricks

1 an
La Défense, Île-de-France
Nous recherchons actuellement un Administrateur dataplateforme/Workspace/ Expert databricks pour une mission longue dans le secteur de l'énergie ! Missions & Stack technique : Administration Databricks & Workspaces : Administrer les workspaces et ressources de calcul, gérer les habilitations, appliquer les politiques de sécurité, suivre les coûts et assurer le support opérationnel (RUN). Gouvernance Data (Unity Catalog) : Structurer et déployer Unity Catalog, organiser les catalogues/schémas, définir les règles d'accès, les conventions de nommage et garantir la qualité des données. Migration Data Lake Legacy : Analyser l'existant, concevoir l'architecture cible, définir la stratégie de migration par vagues et coordonner les bascules sans interruption de service. Industrialisation & DataOps : Mettre en place et maintenir des pipelines CI/CD avec Git et Databricks Asset Bundles, et automatiser les déploiements (Dev, Test, Prod). Développement & Qualité : Industrialiser les pipelines de données avec Python et Apache Spark, et optimiser la modélisation et la fiabilité des flux. Accompagnement & Documentation : Rédiger la documentation technique (guides, blueprints) et accompagner la montée en compétences des Data Engineers et profils métiers (Data Citizens). (Compétences appréciées : Terraform avec provider Databricks, Cloud AWS/Azure, briques IA / GenAI intégrées).
Voir cette offre
CDI

Offre d'emploiData Architect - Tech Lead Data Engineering H/F

█ █ █ ██ █ █
Publiée le

Toulouse, Occitanie

Offre importée

Offre issue du marché tech, identifiée automatiquement pour vous donner une vue complète des opportunités.

Accès restreint à la communauté

Rejoignez notre plateforme pour accéder aux détails de cette offre et obtenir un accès aux meilleures offres du marché.

Voir cette offre
CDI
Freelance

Offre d'emploiData Engineer Java (H/F)

Signe +
Publiée le
Java

24 mois
30k-35k €
215-350 €
Lyon, Auvergne-Rhône-Alpes
Rejoignez une grande plateforme data au sein d'un acteur majeur du secteur de la grande distribution. Vous contribuerez à la conception et au développement de services digitaux centralisés, permettant aux équipes métier d'accéder à des données fiables, accessibles et exploitables via API, tout en accélérant les traitements analytiques et renforçant l'alignement entre les besoins opérationnels et décisionnels. Vous interviendrrez dans un environnement technique moderne, basé sur le cloud et l'écosystème big data, au sein d'une équipe agile et collaborative. Vos missions porteront notamment sur des projets à forte valeur ajoutée liés à la gestion de référentiels critiques (articles, points de vente) et à l'optimisation des pipelines de données. Responsabilités : - Concevoir et développer des services de traitement de données robustes et scalables en Java et/ou Scala, en appliquant les principes de programmation fonctionnelle - Architcter et maintenir des pipelines de données complexes utilisant Apache Spark et Apache Kafka, en garantissant performance et fiabilité sur de grands volumes - Piloter l'ingestion et le traitement de flux de données en temps réel via Pub/Sub, en assurant la cohérence et la qualité des données - Optimiser les requêtes et les modèles de données dans BigQuery, en maîtrisant le SQL avancé pour extraire des insights sur des volumes massifs - Orchestrer et automatiser les workflows de données avec DBT (Data Build Tool), en structurant les transformations et les dépendances - Mettre en place et maintenir les chaînes CI/CD via GitLab CI/CD et Docker Compose, en garantissant des déploiements fiables et reproductibles - Contribuer à l'évolution de l'infrastructure cloud sur Google Cloud Platform (GCP), en suivant les bonnes pratiques de sécurité et d'optimisation - Collaborer activement avec les équipes métier, data science et infrastructure dans un contexte Agile/Scrum, en partageant les connaissances et en proposant des améliorations continues - Documenter et maintenir les standards de qualité et de performance des solutions développées Télétravail : 2 jours par semaine Localisation : Lyon
Voir cette offre
CDI

Offre d'emploiDATA OPS / CDI / (H/F)

FINAXYS
Publiée le
Ansible
Apache Kafka
Hadoop

Boulogne-Billancourt, Île-de-France
🚀 Qui sommes-nous ? Finaxys est un cabinet de conseil spécialisé dans les secteurs Banque, Finance et Assurance. Depuis plus de 15 ans, nous intervenons auprès des plus grandes institutions telles que BNP Paribas, Crédit Agricole, Société Générale, AXA, Malakoff Humanis, etc. en proposant des solutions technologiques innovantes (IA, Machine Learning, Data, Cloud, DevSecOps, etc.). Notre mission ? Accompagner nos clients dans leur transformation digitale et répondre aux défis IT les plus complexes grâce à l'expertise de nos équipes. 🎯 Votre mission : En tant que DataOps, vous rejoindrez les équipes techniques de nos clients grands comptes pour : Industrialiser et automatiser les déploiements avec Ansible Mettre en production de nouveaux clusters et mettre à l'échelle les clusters existants (scale horizontal et vertical) Documenter les offres Apporter une expertise technique aux utilisateurs de la plateforme Participer à la définition des architectures des futures briques de la plateforme Streaming Construire un MVP de ces services puis enrichir l'offre Prendre des éléments de la backlog qui ont été formalisés par le Squad Lead et mettre en œuvre les éléments de la backlog Réaliser l'intégration dans le SI (observabilité, alerting, gestion des droits, backup, etc) Rendre compte des difficultés auxquelles il est confronté et proposer des solutions pour les résoudre Participer à l'ensemble des rituels agiles de la Squad (Rétro, Démos, Pi Planning) Environnement technique / fonctionnel : Python, Java, Hadoop, Spark, Kafka, Flink, Kubernetes, Gitlab, Ansible, Vault, Artifactory, CI/CD, Jira
Voir cette offre
CDI
Freelance

Offre d'emploiData Engineer – Azure DataLake – H/F

STORM GROUP
Publiée le

1 mois
45k-55k €
500-550 €
75002, Paris, Île-de-France
#StormYourCareer ✨ Rejoins STORM GROUP et construis ta carrière avec nous ! Aligne les enjeux métiers et les solutions SINous recherchons un(e) Data Engineer pour renforcer nos équipes et piloter la valorisation de la donnée au sein d'écosystèmes Big Data complexes. Référent(e) technique de premier plan, ton rôle combinera l'intégration massive de flux de données dans un DataLake Azure, la conception d'architectures distribuées scalables et le support avancé des solutions décisionnelles de nos clients. Ton futur environnementTu évolueras au sein d'une entité de pointe dédiée à l'ingénierie des données et aux infrastructures Cloud. En interface directe avec les utilisateurs métiers et les équipes de delivery, tu travailleras sur des environnements Cloud Azure de grande envergure et des technologies de conteneurisation modernes. C'est un cadre idéal pour exprimer ton expertise en développement (Python, Java, Spark), automatiser des cycles de release via des chaînes CI/CD et révéler la valeur ajoutée de données multi-sources. Tes missions clésIngénierie de Données & Architecture Big Data : Assurer la gestion, la modélisation et l'intégration continue des données au sein du DataLake Azure. Analyser, croiser et corréler des flux de données complexes provenant de sources hétérogènes (SQL, NoSQL, Hadoop). Définir l'architecture et maintenir les composants de traitement distribué et de streaming de données en temps réel. Développement, Déploiement & Industrialisation : Rédiger les spécifications techniques générales et détaillées. Concevoir, développer et optimiser les codes de traitement de données (pipelines ETL/ELT). Construire les packages de livraison, gérer les releases applicatives et documenter l'ensemble des processus associés sous JIRA. Collaborer à l'automatisation des déploiements au sein d'environnements conteneurisés et managés. Qualité, Restitution & Support : Élaborer les plans de tests, formaliser les procès-verbaux (PV) de tests et accompagner les utilisateurs lors des phases d'UAT (User Acceptance Tests). Analyser les restitutions responsives et travailler en synergie avec les outils de Dataviz pour mettre en avant la valeur ajoutée des indicateurs. Assurer le support technique de niveau supérieur, la maintenance corrective de la solution et l'assistance aux utilisateurs. Ton profilFormation : Diplôme d'Ingénieur ou Bac+5 spécialisé en informatique, Big Data ou Data Engineering. Expérience : Tu justifies d'une expérience significative et réussie en ingénierie de données dans des environnements d'entreprise exigeants. Expertise Cloud & Big Data : Parfaite maîtrise de l'écosystème Cloud MS Azure (Azure DataLake) et des environnements Hadoop et Spark pour le traitement de volumes massifs. Développement & Streaming : Solides compétences de programmation en Python et Java, ainsi qu'une maîtrise de Kafka pour la gestion des flux temps réel. Conteneurisation & DevOps : Pratique opérationnelle des outils Docker, Kubernetes, GitHub, Jenkins et de la plateforme Azure DevOps. Indexation & Dataviz : Connaissance de la suite ElasticSearch & Kibana pour la journalisation/recherche, et maîtrise de Microsoft PowerBI pour la restitution. Systèmes & Bases de données : Maîtrise des environnements Linux et des technologies NoSQL. Langues : Anglais professionnel opérationnel. Tes atoutsRigueur de Développement : Capacité à produire un code propre, documenté et optimisé pour des traitements à forte volumétrie. Esprit d'Analyse et d'Innovation : Aptitude à comprendre les problématiques métiers pour structurer les modèles de données les plus performants. Sens du Collectif : Excellente communication pour collaborer efficacement avec les équipes de recette (UAT) et assurer un support de qualité. Nos avantagesRemboursement des titres de transport à hauteur de 75%. Tickets restaurant pris en charge par STORM GROUP à hauteur de 50% (10,5€ / jour). Accès Gymlib / Wellpass (sport et bien-être). Contrat Santé / Prévoyance mis en place auprès de la compagnie Alan. Formation continue : Accès à Udemy Business. Prime de cooptation, prime d'intéressement et de participation. Deux à trois jours de télétravail par semaine. 5 raisons de nous rejoindreParcours sur mesure : Co-construis une trajectoire professionnelle unique, adaptée à tes ambitions. Missions Stratégiques : Interviens sur des projets d'envergure, en parfaite cohérence avec ton expertise. Suivi Dédié : Bénéficie d'un pilotage annuel structuré pour garantir ta progression continue. Excellence Continue : Développe tes compétences au quotidien au sein d'un écosystème exigeant. Performance Durable : Évolue dans un cadre où l'exigence métier respecte ton équilibre de vie. Notre processus de sélectionÉchange introductif avec un chargé de recrutement. Entretien métier avec évaluation technique approfondie. Rencontre finale pour validation du fit et projection sur la mission. Storm Group encourage une culture inclusive et multiculturelle où la diversité des profils nourrit notre intelligence collective. En rejoignant la Storm Team, tu intègres un écosystème engagé qui place le développement de tes talents au cœur de sa stratégie, tout en agissant concrètement pour la solidarité et la réduction de l'empreinte environnementale, aussi bien au sein de nos bureaux que dans les projets d'envergure que nous menons chez nos clients.
Voir cette offre
CDI
Freelance

Offre d'emploiData Engineer IA – H/F

STORM GROUP
Publiée le

1 mois
45k-55k €
480-530 €
75002, Paris, Île-de-France
#StormYourCareer ✨ Rejoins STORM GROUP et construis ta carrière avec nous ! Bâtis les pipelines de données massives et alimente les moteurs de l'IA générativeDans le cadre du développement et du passage à l'échelle des cas d'usage IA d'un grand compte, nous recherchons un(e) Data Engineer IA. Ton rôle sera hautement structurant et central : tu concevras, développeras et industrialiseras les pipelines de données volumineux et temps réel qui alimentent les modèles de Machine Learning et les applications d'IA générative, en garantissant la qualité, la traçabilité et la performance des flux de données. Ton futur environnementTu évolueras au sein d'une équipe pluridisciplinaire réunissant data engineers, data scientists, architectes data et ingénieurs MLOps. En prise directe avec les équipes plateformes et les squads de développement GenAI, tu travailleras sur des architectures Lakehouse modernes en environnement Cloud. C'est le cadre idéal pour manipuler des volumes de données massifs, mettre en œuvre des flux événementiels temps réel et concevoir des pipelines avancés de préparation documentaire (chunking, vectorisation) pour les architectures RAG. Tes missions clésConception & Développement des Pipelines de Données (Mode BUILD) : Concevoir, développer et automatiser des pipelines ETL/ELT robustes depuis des sources hétérogènes (APIs, bases relationnelles, flux événementiels) en modes batch (Spark, PySpark, Databricks, dbt) et temps réel (Kafka). Structurer, nettoyer et enrichir les jeux de données destinés à l'entraînement des modèles de Machine Learning et au feature engineering. Construire les chaînes de préparation de données textuelles et multimodales pour les architectures RAG : ingestion documentaire automatisée, stratégies de découpage (chunking) et pipelines d'embedding/vectorisation. Alimenter, optimiser et administrer les bases de données vectorielles du groupe. Mettre en œuvre les architectures de stockage modernes (Delta Lake / Lakehouse, Snowflake, BigQuery). Industrialisation, Qualité & Optimisation (Mode RUN & MLOps) : Industrialiser l'orchestration des flux de données via des outils dédiés (Airflow) en garantissant la sécurité, la haute disponibilité et la reproductibilité du code (Git, CI/CD). Optimiser les performances de traitement et piloter les coûts de calcul et de stockage dans le Cloud. Garantir la qualité, la gouvernance, la sécurité et la traçabilité (data lineage) des données manipulées. Rédiger la documentation technique des pipelines et contribuer activement à l'amélioration des standards d'ingénierie de l'équipe. Ton profilFormation : Diplôme d'Ingénieur ou Bac+5 universitaire en informatique, Data Engineering, génie logiciel ou systèmes d'information. Expérience : Tu justifies d'une expérience confirmée de 3 à 5 ans en Data Engineering en environnement Cloud, avec idéalement une première mise en pratique sur des cas d'usage IA/ML ou GenAI (pipelines RAG, feature engineering). Expertise Data Engineering Impérative : Excellente maîtrise de la programmation en Python et des requêtes complexes en SQL. Solide expérience de traitement distribué avec Spark / PySpark et de l'environnement Databricks. Maîtrise des outils d'orchestration de flux (Airflow) et de transformation de données (dbt). Pratique confirmée d'un entrepôt de données moderne (Snowflake, BigQuery, Delta Lake). Culture Cloud & IA : Expérience sur au moins une plateforme Cloud majeure (Azure, AWS ou GCP). Compréhension des flux streaming (Kafka) et des pratiques DevOps (Git, CI/CD). Notions ou expérience pratique des architectures RAG et de la manipulation de bases vectorielles. Langues : Anglais professionnel opérationnel. Tes atoutsRigueur d'Ingénierie Logicielle : Attachement fort aux bonnes pratiques de développement (code propre, testé, versionné et reproductible). Sens de la Qualité et de la Sécurité : Souci permanent de l'intégrité, de la gouvernance et de la confidentialité des données traitées. Collaboration Transverse : Capacité naturelle à dialoguer avec les data scientists pour traduire leurs besoins algorithmiques en pipelines scalables. Nos avantagesRemboursement des titres de transport à hauteur de 75%. Tickets restaurant pris en charge par STORM GROUP à hauteur de 50% (10,5€ / jour). Accès Gymlib / Wellpass (sport et bien-être). Contrat Santé / Prévoyance mis en place auprès de la compagnie Alan. Formation continue : Accès à Udemy Business. Prime de cooptation, prime d'intéressement et de participation. Deux à trois jours de télétravail par semaine. 5 raisons de nous rejoindreParcours sur mesure : Co-construis une trajectoire professionnelle unique, adaptée à tes ambitions. Missions Stratégiques : Interviens sur des projets d'envergure, en parfaite cohérence avec ton expertise. Suivi Dédié : Bénéficie d'un pilotage annuel structuré pour garantir ta progression continue. Excellence Continue : Développe tes compétences au quotidien au sein d'un écosystème exigeant. Performance Durable : Évolue dans un cadre où l'exigence métier respecte ton équilibre de vie. Storm Group encourage une culture inclusive et multiculturelle où la diversité des profils nourrit notre intelligence collective. En rejoignant la Storm Team, tu intègres un écosystème engagé qui place le développement de tes talents au cœur de sa stratégie, tout en agissant concrètement pour la solidarité et la réduction de l'empreinte environnementale, aussi bien au sein de nos bureaux que dans les projets d'envergure que nous menons chez nos clients.
Voir cette offre

Au service des talents IT

Free-Work est une plateforme qui s'adresse à tous les professionnels des métiers de l'informatique.

Ses contenus et son jobboard IT sont mis à disposition 100% gratuitement pour les indépendants et les salariés du secteur.

Free-workers
Ressources
A propos
Espace recruteurs
2026 © Free-Work / AGSI SAS
Suivez-nous