Partager cette offre
Dans le cadre du développement et de l’industrialisation des plateformes de données, le Data Engineer intervient sur la conception, le développement et l’exploitation de chaînes de traitement de données dans un environnement Cloud GCP.
Ses principales missions sont les suivantes :
Collecte et traitement des donnéesRécupérer et intégrer des données provenant de différentes sources externes.
Exploiter les capacités d’un Datalake pour le stockage et le traitement des données.
Mettre en œuvre des traitements permettant de produire automatiquement des agrégats journaliers, hebdomadaires et mensuels.
Concevoir et maintenir les chaînes :
d’ingestion des données ;
de validation et de contrôle de la qualité des données ;
de croisement et d’enrichissement des données ;
de déversement des données enrichies dans le Datalake.
Développer les solutions dans le respect des règles et principes d’architecture définis.
Concevoir et documenter les user stories en collaboration avec le Product Owner et les chefs de projet.
Développer les scripts nécessaires au déploiement des solutions.
Participer à la mise en œuvre et à l’amélioration de la chaîne de Continuous Delivery.
Automatiser les tests fonctionnels afin de garantir la qualité et la fiabilité des traitements.
Assurer la maintenance corrective et évolutive des développements.
Analyser et prioriser les corrections d’anomalies.
Assurer le suivi des incidents liés aux traitements de données.
Accompagner et assister les équipes d’exploitation.
Contribuer à l'amélioration continue des processus, outils et pratiques de développement.
Assurer une veille sur les évolutions technologiques liées aux environnements et frameworks utilisés.
Profil recherché
Formation supérieure en informatique, ingénierie des données ou domaine équivalent.
Expérience significative en tant que Data Engineer, idéalement dans un environnement Cloud.
Solide capacité à travailler en équipe dans un contexte Agile, notamment en mode Scrum ou Kanban.
Bonnes qualités relationnelles et excellente capacité de communication.
Capacité à échanger avec différents interlocuteurs et à entrer dans le détail des problématiques techniques.
Curiosité technique et intérêt pour les évolutions des technologies et des architectures Data.
GCP : indispensable.
GKE.
Stockage : HDFS, GCS.
Maîtrise de l’écosystème Apache Spark.
Maîtrise de Kafka.
Bonne maîtrise de Scala.
Orchestration et planification : Airflow / Cloud Composer.
SQL.
BigQuery.
Bigtable.
Git.
Ansible.
Docker.
Terraform.
Jenkins et/ou Cloud Build.
Pratique des méthodologies Scrum et/ou Kanban.
Maîtrise des pratiques de développement collaboratif et de gestion de versions avec Git.
Environnement de travail
Postulez à cette offre !
Trouvez votre prochaine mission parmi +10 000 offres !
Fixez vos conditions
Rémunération, télétravail... Définissez tous les critères importants pour vous.
Faites-vous chasser
Les recruteurs viennent directement chercher leurs futurs talents dans notre CVthèque.
100% gratuit
Aucune commission prélevée sur votre mission freelance.
Data Engineer GCP
VISIAN