Trouvez votre prochaine offre d’emploi ou de mission freelance Data Warehouse à Lille

Vos missions✅ Qualité & tests data Définir la stratégie de tests sur les flux data (Snowflake) Exécuter les tests : unitaires, intégration, non-régression Contrôler la qualité des données (cohérence, complétude, exactitude) Vérifier l’intégrité des données entre systèmes sources et DWH Valider les traitements ETL / ELT ⚙️ Automatisation & technique Développer des scripts de tests automatisés ( SQL ) Tester les pipelines data (ingestion → DWH → datamarts) Participer aux chaînes CI/CD 📊 Suivi & amélioration Identifier et suivre les anomalies Réaliser des analyses de causes racines Produire les KPI qualité Contribuer à l’amélioration continue Profil recherché🔧 Technique Expérience en QA / Test Data (3 ans min) Excellente maîtrise de SQL Expérience sur Snowflake ou datawarehouse cloud Connaissances ETL / ELT Data quality / data validation Outils QA : Jira, Xray, Squash… Notions CI/CD & automatisation 🧠 Fonctionnel Connaissance du secteur bancaire Capacité à intervenir sur : B2C, Risk, Finance Sensibilité aux enjeux de qualité & conformité des données Environnement Snowflake SQL / Python (optionnel) ETL : Talend, DBT, Airflow… Méthodologie Agile

Contexte : Dans le cadre de la structuration et de la gouvernance des données au sein d’un système d’information complexe et fortement interconnecté, nous recherchons un Data Steward. Le Data Steward joue un rôle clé dans la qualité, la fiabilité et la bonne utilisation des données au sein de l’organisation. Il agit en interface entre les équipes métiers, les équipes IT et les data owners afin de garantir la cohérence, la traçabilité et la conformité des données tout au long de leur cycle de vie. Missions principales :Gouvernance et qualité des données Définir, formaliser et maintenir les règles de gestion des données Mettre en place et suivre les indicateurs de qualité (complétude, unicité, cohérence, fraîcheur) Identifier, analyser et corriger les anomalies de données Participer à la mise en place de processus de Master Data Management (MDM) Assurer le suivi des référentiels de données et des données de référence Modélisation et référentiels Contribuer à la définition des modèles de données conceptuels et logiques Participer à la structuration des dictionnaires de données et catalogues Garantir l’uniformisation des définitions entre les systèmes Collaborer avec les Data Architects et Data Owners sur la définition des objets métier Qualité et exploitation des flux de données Suivre les flux de données issus des systèmes sources (API, ETL, ESB, streaming) Contrôler la qualité des données injectées dans les plateformes analytiques Participer à la mise en place de contrôles automatisés (data quality checks, profiling, dédoublonnage) Contribuer au monitoring des flux et à la détection d’anomalies Support aux métiers Accompagner les utilisateurs métiers dans la compréhension et l’usage des données Garantir la bonne utilisation des référentiels dans les outils opérationnels et décisionnels Participer à la diffusion d’une culture data au sein des équipes Environnement technique :Data & Intégration API REST / SOAP ETL (type Azure Data Factory ou équivalent) ESB / Message Broker (Kafka ou équivalent) Bases de données relationnelles (PostgreSQL, SQL Server, MySQL) Bases NoSQL (MongoDB) Cloud & Data Platform Environnements Cloud (Azure principalement, éventuellement AWS ou GCP) Data Warehouse / Data Lake Solutions de gouvernance et catalogage de données BI & exploitation Outils de visualisation (Power BI, équivalent) SQL avancé pour analyse et contrôle qualité Outils de monitoring des flux et de data quality

4. Description de la prestation et des missions attendues Le/La Data Engineer sera intégré(e) à l'équipe produit TOPASE NLS et interviendra sur les missions suivantes : 🔹 Conception, développement et optimisation des pipelines de données (GCP) Concevoir, développer et maintenir des pipelines robustes et performants pour la collecte, la transformation et le chargement des données depuis diverses sources (Oracle, fichiers, API, etc.) vers BigQuery et autres cibles. Exploiter et orchestrer les services Google Cloud Platform (Dataflow, Dataproc, Cloud Composer/Airflow, Pub/Sub, Cloud Storage, BigQuery) afin de construire des architectures data scalables et fiables. Automatiser les traitements, gérer les dépendances et orchestrer les jobs de données. Optimiser les performances des pipelines ainsi que la consommation des ressources GCP. 🔹 Modélisation et gestion des données Participer à la conception et à l'évolution des modèles de données dans BigQuery, en lien avec les Data Analysts et les équipes métiers. Garantir la qualité, la cohérence et l'intégrité des données. Mettre en œuvre des stratégies de versioning des schémas et de gestion du cycle de vie des données. 🔹 Run opérationnel, maintenance et support N2/N3 Assurer le support opérationnel de niveau 2/3 de la solution TOPASE (environnement GCP + solution éditeur). Développer et maintenir des scripts Bash pour automatiser les tâches récurrentes (supervision, traitement de données, maintenance). Rédiger, optimiser et exécuter des requêtes SQL complexes (BigQuery et Oracle) pour l'analyse, le diagnostic d'incidents et la restitution de données. Gérer les incidents en collaboration avec les équipes internes et l'éditeur. Participer à la qualification des livraisons de patchs éditeur impactant les flux de données. Suivre les incidents via le CRM éditeur et contribuer aux comités de suivi. 🔹 Monitoring, logging et alerting Mettre en place et maintenir des dispositifs de supervision des flux de données, de la qualité, des performances et de l'utilisation des ressources (Stackdriver, Grafana, Looker Studio). Définir et implémenter des alertes permettant la détection proactive des anomalies. Concevoir des tableaux de bord pour le suivi des KPI opérationnels et métier. 🔹 Infrastructure as Code (IaC) Contribuer à la définition et à l'implémentation de l'infrastructure data via Terraform. Garantir la reproductibilité et la traçabilité des environnements (Dev, Recette, Pré-prod, Prod). 🔹 Collaboration et conseil Travailler en étroite collaboration avec les équipes Data (Data Scientists, Data Analysts), les Product Owners et les métiers. Proposer des solutions techniques adaptées et conseiller sur les bonnes pratiques en Data Engineering. Participer aux rituels Agile/Kanban de l'équipe produit. 5. Compétences et expériences requises5.1 Expertise technique Cloud GCP : Expertise confirmée des services data (BigQuery, Dataflow, Cloud Storage, Pub/Sub, Composer/Airflow, Stackdriver, Data Catalog). Bases de données : Maîtrise avancée SQL (optimisation, requêtes complexes), expérience sur BigQuery et Oracle 19 (MySQL/PostgreSQL appréciés). Scripting : Excellente maîtrise de Bash (indispensable pour le run). Systèmes : Bonne maîtrise des environnements Linux (RedHat). IaC : Solide expérience avec Terraform. CI/CD : Maîtrise d'un outil comme GitLab CI. Monitoring/Logging : Stackdriver, Grafana, ELK, Looker Studio. Versioning : Git (GitLab). Réseaux : Connaissances solides (TCP/IP, HTTP/S, DNS, load balancing, firewall). Data Engineering : Maîtrise des concepts ETL/ELT, Data Warehouse, Data Lake et streaming. 5.2 Environnement technique TOPASE NLS OS : RedHat Enterprise 9.4 Cloud : Azure (solution éditeur) & GCP (data, monitoring, pipelines) CI/CD : GitLab CI IaC : Terraform Monitoring : Looker Studio, GANTI, Grafana, ELK Bases : Oracle, BigQuery Langage : Bash 5.3 Méthodologies et soft skills Expérience en environnement Agile (Scrum, Kanban). Excellentes capacités d'analyse et de résolution de problèmes, notamment en situation d'incident. Autonomie, proactivité et sens de l'amélioration continue. Bonnes compétences de communication (français courant, anglais technique). Esprit d'équipe et partage des connaissances. Sens des responsabilités, notamment en environnement de production. 5.4 Expérience Minimum 3 ans d'expérience en tant que Data Engineer, idéalement sur GCP. Expérience sur des environnements à forte volumétrie, avec des enjeux de performance, fiabilité et disponibilité.