Job Vacancy Expert DevSecOps / LLMOps – Gitlab

CONTEXTE

Nous recherchons une expertise technique DevSecOps/LLMOps afin de maintenir

et faire évoluer le Portail Multi-IAG face aux besoins croissants d’industrialisation, de sécurité, de conformité et de performance, et de contribuer à la montée en compétence de l’équipe sur les pratiques propres aux modèles génératifs.

La mission s’exécute dans un contexte multi-environnements (Landing Zone GCP, On-Prem, cloud de confiance/ SecNumCloud à venir) et s’interface avec les briques internes du groupe (API Gateway, observabilité, etc.).

La prestation s'articule autour de cinq missions clés :

Fiabilisation et accélération du Portail V1

• Objectif : Améliorer et industrialiser les pratiques opérationnelles pour sécuriser et optimiser les services  existants.

• Périmètre : Mise en œuvre de la CI/CD, renforcement de la sécurité (IAM, secrets), structuration de l'observabilité (traces, métriques, logs) et des pratiques FinOps.

Conception et préparation du Portail V2 (cible 2026)

• Objectif : Définir et construire les fondations techniques de la future version du portail.

• Périmètre : Conception de l'architecture DevSecOps cible, production des artefacts documentaires (HLD/LLD), développement de l'Infrastructure as Code (IaC) et des pipelines, et pilotage de la migration.

Structuration de la filière LLMOps

• Objectif : Définir et mettre en œuvre les standards, outils et processus pour industrialiser le cycle de vie des modèles génératifs.

• Périmètre : Intégration des évaluations continues (qualité, sécurité, coûts) dans la CI, mise en place de "guardrails" et de politiques de sécurité (Policies as Code), et garantie de la conformité (RGPD / AI Act).

Anticipation de l'IA Agentique

• Objectif : Préparer la plateforme à l'intégration future des technologies d'agents IA.

• Périmètre : Veille technologique, prototypage des briques d'orchestration et de contrôle (HITL, guardrails

spécifiques), et contribution à l'architecture cible.

Accompagnement et transfert de compétences

• Objectif : Assurer la montée en compétence et l'autonomie des équipes internes (Portail et Plateforme Data).

• Périmètre : Acculturation, production de documentation (playbooks, runbooks), formation et support  méthodologique.

Activités détaillées

Pour réaliser ces missions, le prestataire mènera les activités suivantes :

• Ingénierie et industrialisation : Développement de pipelines CI/CD (GitLab), de scripts d'automatisation, d'Infrastructure as Code (Terraform), et de charts Helm.

• Qualité et sécurité : Mise en œuvre des tests (unitaires, performance, SAST/SCA/SBOM), intégration des évaluations de LLM et des "guardrails" (input/output, LLMGuard) comme étapes bloquantes dans la CI.

• Déploiement : 

o Gestion et déploiement des modèles d’IA génératif 

o Gestion et déploiement applicatif (solutions open source : LangFlow, LangFuse, OpenWebUI, n8n, LiteLLM, etc…) à l’échelle de l’entreprise.

• Support et MCO : Résolution d'incidents de niveau 2/3, optimisation des performances et des coûts, assistance technique aux équipes.

Exigences transverses

• Respect du référentiel technique et méthodologique de l’Entreprise, des procédures en vigueur (tests/validation),

des contraintes & délais du présent document et du cadre contractuel associé.

• Respect des exigences sécurité & conformité (IAM, Vault/KMS, réseau privé, DPIA, RGPD/AI Act,

journalisation/audit, résidence des données).

PERIMETRE/COMPETENCES :

• Jenkins (périmètre à harmoniser)

Stack d'observabilité et d'évaluation LLM :

• Prometheus, Grafana, Loki, OpenTelemetry…

• LangSmith, Langfuse

Environnements d'hébergement :

• Google Cloud Platform (Landing Zone, Vertex AI, GKE)

• Infrastructures On-Premise