
Offre d'emploi AI Engineer - Paris ou Rennes
Paris (75)
OCTOGONE
Partager cette offre
Dans le cadre du renforcement d’une équipe AI Solutions en charge de la conception, de l’optimisation et de l’exploitation de produits IA, une prestation d’AI Engineer est recherchée.
L’environnement concerne notamment AI Endpoints, permettant la mise à disposition par API de modèles open source optimisés et hébergés dans le cloud, ainsi que des produits Machine Learning Services : AI Notebooks, AI Training et AI Deploy.
Lieux de réalisation : Paris ou Rennes
La prestation sera intégrée au fonctionnement de l’équipe et à ses sprints.
Les interventions porteront sur les sujets suivants :
- Intégration et déploiement de nouveaux modèles open source sur AI Endpoints (LLM, embeddings, speech-to-text, text-to-speech, ...)
- Optimisation de l’inférence avec vLLM et SGLang : quantization, batching, KV cache, prefix caching, speculative decoding
- Réalisation de benchmarks de performance sur les GPU actuels et sur les nouvelles générations à venir
- Amélioration de l’autoscaling, de l’observabilité et de la fiabilité des services en production
- Participation au run sur les produits
Livrables :
- Nouveaux modèles déployés en production sur AI Endpoints, avec une configuration d’inférence optimisée et documentée
- Rapports de benchmark par modèle et par GPU, avec des recommandations
- Code livré par pull requests revues et intégrées (Python, Rust)
- Dashboards et alertes de supervision des services
- Documentation technique et transfert de connaissances à l’équipe
Profil recherché
- Expérience confirmée du déploiement de LLM en production sur GPU
- Maîtrise de vLLM et/ou SGLang
- Optimisation d’inférence : quantization (AWQ, GPTQ, FP8), KV cache, batching, speculative decoding
- Python et Rust
- Environnements GPU NVIDIA, Docker, Kubernetes
- Observabilité : Prometheus, Grafana, OpenTelemetry
- Git, CI/CD, revues de code, méthodes agiles
- Usage maîtrisé des assistants de code IA
Découvrir OCTOGONE
Postulez à cette offre !
Trouvez votre prochain job parmi +10 000 offres !
Fixez vos conditions
Rémunération, télétravail... Définissez tous les critères importants pour vous.
Faites-vous chasser
Les recruteurs viennent directement chercher leurs futurs talents dans notre CVthèque.
100% gratuit
Aucune commission prélevée sur votre mission freelance.
AI Engineer - Paris ou Rennes
OCTOGONE