Partager cette offre
Au sein d'une équipe dédiée aux technologies de l'IA et de la Data, vous participerez au développement et à l'exploitation d'une plateforme centrale permettant aux équipes internes de consommer et d'exposer différents modèles d'intelligence artificielle de manière sécurisée et unifiée.
Cette plateforme joue le rôle de point d'entrée unique vers plusieurs fournisseurs de LLM, modèles européens souverains et modèles hébergés en privé. Elle permet notamment de gérer le routage des requêtes, la sécurité, les coûts, la gouvernance et l'intégration des agents IA.
Vous intégrerez une équipe qui place également l'IA au cœur de ses pratiques de développement, notamment à travers l'utilisation quotidienne d'agents de programmation.
Missions principalesDéveloppement et exploitation de l'AI Gateway
Concevoir, développer et maintenir les fonctionnalités de la plateforme en Python.
Développer des API unifiées compatibles avec les standards OpenAI.
Mettre en place le routage multi-fournisseurs, les mécanismes de fallback, le streaming et le caching.
Gérer les accès, clés API, quotas, limitations de débit et budgets par équipe et cas d'usage.
Intégrer de nouveaux modèles et fournisseurs d'IA.
Évaluer et comparer les modèles selon leur qualité, leur latence et leurs coûts.
Mettre en place le suivi des consommations et l'attribution des coûts.
Sécurité, performance et observabilité
Garantir la sécurité des échanges : authentification, autorisation, gestion des secrets et protection des données.
Mettre en œuvre des mécanismes de protection contre les injections de prompts et le filtrage des données sensibles (PII).
Assurer la traçabilité et l'auditabilité des interactions.
Développer les dispositifs de supervision : logs, traces, métriques, tableaux de bord et alertes.
Garantir la performance, la disponibilité et la fiabilité de la plateforme.
Participer aux tests de charge, à la gestion des incidents et à l'amélioration continue.
IA agentique et intégration
Faire évoluer la plateforme pour prendre en charge les usages agentiques : tool calling, serveurs MCP, gestion des identités et permissions des agents.
Exposer les services IA via des API et des interfaces MCP.
Développer des SDK, templates et plugins facilitant l'adoption de la plateforme par les équipes produit.
Contribuer aux choix d'architecture et aux études de solutions techniques.
Pratiques de développement AI-first
Utiliser quotidiennement des agents de programmation (Claude Code, Codex, Cursor, GitHub Copilot…) pour accélérer le développement, les tests et les refactorisations.
Rédiger des spécifications précises et découper les sujets en tâches exploitables par les agents.
Piloter plusieurs agents en parallèle et contrôler rigoureusement la qualité de leurs productions.
Contribuer aux bonnes pratiques de développement, aux revues de code, aux tests automatisés et à la documentation.
Participer au partage de connaissances et à l'amélioration des pratiques de l'équipe.
Profil recherché
Vous justifiez d'au moins 5 ans d'expérience en ingénierie logicielle, avec une solide maîtrise du développement Backend Python.
Vous maîtrisez FastAPI, la programmation asynchrone et la conception d'API.
Vous possédez de bonnes connaissances en Machine Learning et Deep Learning : entraînement, évaluation, métriques, biais et surapprentissage.
Vous comprenez le fonctionnement des LLM : tokenisation, embeddings, context windows, sampling, fine-tuning et quantification.
Vous avez déjà développé et exploité des systèmes basés sur des LLM en production : APIs fournisseurs, streaming, tool calling et gestion des tokens et des coûts.
Vous avez une expérience concrète du développement avec des agents IA et savez spécifier, déléguer et contrôler leurs réalisations.
Vous connaissez les protocoles et frameworks agentiques : MCP, A2A, LangGraph, Google ADK ou équivalents.
Vous maîtrisez les environnements Cloud et les architectures conteneurisées : GCP, Docker, Kubernetes, Terraform.
Vous avez une bonne connaissance des pratiques CI/CD, notamment GitHub Actions.
Vous êtes sensibilisé aux enjeux de sécurité API : OAuth2, OIDC, authentification, autorisation et gestion des secrets.
Vous connaissez les outils d'observabilité et de monitoring, ainsi que les tests automatisés et les tests de charge.
Vous êtes autonome, proactif et appréciez le travail en équipe et le partage de connaissances.
Vous maîtrisez l'anglais professionnel. Le français est un plus.
Compétences complémentaires appréciées :
Expérience sur des solutions de LLM Gateway ou API Gateway : LiteLLM, Kong, Envoy AI Gateway, Apigee.
Connaissances en Model Serving : vLLM, Vertex AI et inférence sur GPU.
Expérience avec Kafka, PostgreSQL, Redis ou MongoDB.
Contributions à des projets open source autour des agents IA ou des outils de développement.
Python, FastAPI, LLM, Machine Learning, Deep Learning, Kubernetes (GKE), Docker, Terraform, GitHub Actions, Google Cloud Platform, Vertex AI, PostgreSQL, Kafka, MCP, A2A, LangGraph, agents IA.
Informations sur la missionDémarrage : ASAP
Durée : 36 mois
Présence sur site : 3 jours par semaine
Langues de travail : français et anglais
Postulez à cette offre !
Trouvez votre prochaine mission parmi +10 000 offres !
Fixez vos conditions
Rémunération, télétravail... Définissez tous les critères importants pour vous.
Faites-vous chasser
Les recruteurs viennent directement chercher leurs futurs talents dans notre CVthèque.
100% gratuit
Aucune commission prélevée sur votre mission freelance.
AI Engineer Python
ESENCA