Share this job
Dans le cadre du développement et de l’industrialisation des plateformes de données, le Data Engineer intervient sur la conception, le développement et l’exploitation de chaînes de traitement de données dans un environnement Cloud GCP.
Ses principales missions sont les suivantes :
Collecte et traitement des donnéesRécupérer et intégrer des données provenant de différentes sources externes.
Exploiter les capacités d’un Datalake pour le stockage et le traitement des données.
Mettre en œuvre des traitements permettant de produire automatiquement des agrégats journaliers, hebdomadaires et mensuels.
Concevoir et maintenir les chaînes :
d’ingestion des données ;
de validation et de contrôle de la qualité des données ;
de croisement et d’enrichissement des données ;
de déversement des données enrichies dans le Datalake.
Développer les solutions dans le respect des règles et principes d’architecture définis.
Concevoir et documenter les user stories en collaboration avec le Product Owner et les chefs de projet.
Développer les scripts nécessaires au déploiement des solutions.
Participer à la mise en œuvre et à l’amélioration de la chaîne de Continuous Delivery.
Automatiser les tests fonctionnels afin de garantir la qualité et la fiabilité des traitements.
Assurer la maintenance corrective et évolutive des développements.
Analyser et prioriser les corrections d’anomalies.
Assurer le suivi des incidents liés aux traitements de données.
Accompagner et assister les équipes d’exploitation.
Contribuer à l'amélioration continue des processus, outils et pratiques de développement.
Assurer une veille sur les évolutions technologiques liées aux environnements et frameworks utilisés.
Candidate profile
Formation supérieure en informatique, ingénierie des données ou domaine équivalent.
Expérience significative en tant que Data Engineer, idéalement dans un environnement Cloud.
Solide capacité à travailler en équipe dans un contexte Agile, notamment en mode Scrum ou Kanban.
Bonnes qualités relationnelles et excellente capacité de communication.
Capacité à échanger avec différents interlocuteurs et à entrer dans le détail des problématiques techniques.
Curiosité technique et intérêt pour les évolutions des technologies et des architectures Data.
GCP : indispensable.
GKE.
Stockage : HDFS, GCS.
Maîtrise de l’écosystème Apache Spark.
Maîtrise de Kafka.
Bonne maîtrise de Scala.
Orchestration et planification : Airflow / Cloud Composer.
SQL.
BigQuery.
Bigtable.
Git.
Ansible.
Docker.
Terraform.
Jenkins et/ou Cloud Build.
Pratique des méthodologies Scrum et/ou Kanban.
Maîtrise des pratiques de développement collaboratif et de gestion de versions avec Git.
Working environment
Apply to this job!
Find your next career move from +10,000 jobs!
Manage your visibility
Salary, remote work... Define all the criteria that are important to you.
Get discovered
Recruiters come directly to look for their future hires in our CV library.
Join a community
Connect with like-minded tech and IT professionals on a daily basis through our forum.
Data Engineer GCP
VISIAN