Contractor job Devéloppeur AI (H/F)
Paris
Mindquest
Share this job
Intégré à l’équipe et à ses sprints, le consultant interviendra sur les sujets suivants :
- Intégration et déploiement de nouveaux modèles open source sur AI Endpoints (LLM, embeddings, speech-to-text, text-to-speech, ...)
- Optimisation de l’inférence avec vLLM et SGLang : quantization, batching, KV cache, prefix caching, speculative decoding
- Benchmarks de performance sur nos GPU actuels et sur les nouvelles générations à venir
- Amélioration de l’autoscaling, de l’observabilité et de la fiabilité des services en production
- Participer au run sur les produits
Livrables
- Nouveaux modèles déployés en production sur AI Endpoints, avec une configuration d’inférence optimisée et documentée
- Rapports de benchmark par modèle et par GPU, avec des recommandations
- Code livré par pull requests revues et intégrées (Python, Rust)
- Dashboards et alertes de supervision des services
- Documentation technique et transfert de connaissances à l’équipe
Candidate profile
- Expérience confirmée du déploiement de LLM en production sur GPU
- Maîtrise de vLLM et/ou SGLang
- Optimisation d’inférence : quantization (AWQ, GPTQ, FP8), KV cache, batching, speculative decoding
- Python et Rust
- Environnements GPU NVIDIA, Docker, Kubernetes
- Observabilité : Prometheus, Grafana, OpenTelemetry
- Git, CI/CD, revues de code, méthodes agiles
- Usage maîtrisé des assistants de code IA
Working environment
Nous recherchons un AI Engineer externe pour renforcer la capacité de l'équipe.
L’équipe AI Solutions conçoit, optimise et opère les produits IA de la gamme : AI Endpoints, qui met à disposition par API des modèles open source, et les produits Machine Learning Services (AI Notebooks, AI Training, AI Deploy).
Discover Mindquest
Apply to this job!
Find your next career move from +10,000 jobs!
Manage your visibility
Salary, remote work... Define all the criteria that are important to you.
Get discovered
Recruiters come directly to look for their future hires in our CV library.
Join a community
Connect with like-minded tech and IT professionals on a daily basis through our forum.
Devéloppeur AI (H/F)
Mindquest