Trouvez votre prochaine offre d’emploi ou de mission freelance vLLM

Ce qu’il faut savoir sur vLLM

vLLM est une bibliothèque open source d'inférence pour grands modèles de langage, conçue pour optimiser le débit et réduire la latence. Grâce à PagedAttention, vLLM, elle permet de déployer efficacement des LLM en production.

9 résultats
Freelance
CDI

Offre d'emploiIngénieur MLOps / LLMOps (H/F) – Plateforme IA on-premise

RIDCHA DATA
Publiée le
Kubernetes
MLflow
Openshift

1 an
Sophia Antipolis, Provence-Alpes-Côte d'Azur
Description du poste Pour un grand groupe, nous recherchons un(e) Ingénieur MLOps qui viendra renforcer l'équipe MLOps interne. Le projet consiste à construire la plateforme IA Factory V3, hébergée on-premise. Vous contribuerez à garantir un haut niveau de disponibilité, de performance et de sécurité de la plateforme. Vous industrialiserez et fiabiliserez ses différentes briques, et ferez le lien avec les équipes socle, data et produit. Vous travaillerez en mode Agile à l'échelle (SAFe, au sein d'un train agile cloud). Vos missions Sécuriser les déploiements de modèles ML et IA générative sur Kubernetes / OpenShift. Améliorer en continu les performances et la qualité de service de la plateforme (gestion des GPU, MIG, load balancing, cold start). Mettre en place et maintenir les pipelines CI/CD des applications, de la data et de l'IA, en approche GitOps avec ArgoCD. Assurer la gouvernance des modèles (versioning, model registry MLflow, tests automatisés). Contribuer au monitoring de la plateforme : logs, métriques, tracing, dashboards, alerting, suivi des coûts et de la dérive des modèles (drift). Accompagner les cas d'usage d'IA générative : RAG, embeddings, bases vectorielles, workflows agentiques, MCP, tool calling. Garantir la sécurité et une IA responsable : gestion des secrets, guardrails, sécurité des prompts, PII/RGPD, auditabilité. Favoriser l'adoption de la plateforme on-premise / hybride. Livrables Participation active aux sprints et traitement des tickets du backlog Jira. Documentation technique du produit dans Confluence. Présentations PowerPoint pour les réunions projet. Compétences techniques requises Code : Python, Bash/Shell, Linux, tests, revue de code. MLOps / LLMOps : vLLM, llm-d, GitOps, ArgoCD, MLflow, Hugging Face, pipelines data et IA. Infra : Kubernetes / OpenShift, déploiement de modèles, APISIX Gateway, orchestration, GPU scheduling, MIG. IA générative : RAG, bases vectorielles, recherche hybride et reranking, agents, MCP, évaluation des agents. Observabilité : OpenTelemetry, VictoriaMetrics/Logs, Prometheus, Grafana. Sécurité : secrets, guardrails, isolation des données, RGPD. Compétences appréciées Scikit-learn, PyTorch. CUDA : compréhension des enjeux logiciels et matériels des GPU. Multimodalité.
Voir cette offre
CDI
Freelance

Offre d'emploiLead Data Scientist IA agentique / LLM - F/H

INGENIANCE
Publiée le
FastAPI
IA agentique
Jenkins

1 mois
Paris, France
Nous recherchons pour une mission longue chez notre client secteur banque/finance en région parisienne un Lead Data Scientist senior pour renforcer une équipe spécialisée dans l'intégration de solutions d'intelligence artificielle au cœur d'applications de banque de financement et d'investissement. Vous rejoignez Ingéniance en CDI cadre et intégrez une communauté d'experts de la data et de l'IA. Vos missions : - Définir et mettre en œuvre des solutions agentiques pour simplifier et accélérer des processus métiers complexes. - Extraire des données à partir de documents variés (états financiers, documents de crédit) grâce à des pipelines IA agentiques. - Mettre en place l'évaluation et l'observabilité de ces pipelines. - Déployer des LLM et des modèles sur GPU. - Améliorer en continu les performances d'extraction, dans une approche itérative et incrémentale. - Définir des stratégies de test pour garantir la qualité des développements. - Industrialiser la data science avec les architectes et les équipes de production. - Échanger avec les métiers pour maximiser l'impact et l'adoption des solutions. - Transmettre votre expertise et porter la responsabilité technique des cas d'usage jusqu'à la mise en production. Environnement : Python, FastAPI, Google ADK, LangGraph, DSPy, Phoenix Arize, pytest, vLLM, Kubernetes, Jenkins. Ref : O-SBRVD
Voir cette offre
Freelance

Mission freelanceARCHITECTE IA GÉNÉRATIVE & AGENTIQUE ( H/F)

Freelance.com
Publiée le
Claude
CrewAI
Docker

1 an
720 €
Île-de-France, France
🎯 Contexte de la mission Nous recherchons un Architecte IA Générative & Agentique Senior pour accompagner la conception, l'architecture et l'industrialisation de solutions d'intelligence artificielle générative et agentique au sein d'un environnement technologique innovant. 🔹 Principales responsabilités Concevoir les architectures de solutions IA générative et agentique : LLM, RAG, assistants, agents autonomes et multi-agents. Définir les architectures de référence, les patterns techniques et les composants réutilisables. Participer à la conception et à l'évolution de la plateforme IA (serving LLM, vector databases, orchestration d'agents). Concevoir et prototyper des agents et workflows agentiques. Mettre en place l'intégration des outils et données du SI via MCP et les API. Piloter l'industrialisation des POC vers la production. Déployer les solutions selon les approches CI/CD et GitOps. Garantir la sécurité, la conformité et la gouvernance des solutions IA. Définir les stratégies d'évaluation, d'observabilité LLMOps et de maîtrise des coûts FinOps. Accompagner les équipes de développement dans l'adoption de l'IA et des assistants de code. 🔹 Compétences techniques recherchées Développement : Python, FastAPI, Java, Quarkus, LangChain4j. IA générative & agentique : GPT, Claude, Gemini, Mistral, Llama, RAG, LangChain, LangGraph, LlamaIndex, CrewAI, AutoGen, Google ADK. Protocoles : MCP, A2A. Plateformes IA : Vertex AI, Azure OpenAI, Amazon Bedrock, OpenShift AI, vLLM, KServe, LiteLLM. Bases vectorielles : pgvector, Milvus, Qdrant, OpenSearch, Elasticsearch, PostgreSQL. LLMOps : Ragas, DeepEval, Langfuse, OpenTelemetry, MLflow, Guardrails. DevOps & Cloud : Docker, Kubernetes, OpenShift, GitOps, ArgoCD, Jenkins. Sécurité & gouvernance : OWASP Top 10 for LLM, RBAC, AI Act, RGPD, DORA, IA responsable.
Voir cette offre
CDD
CDI
Freelance

Offre d'emploiArchitecte IA générative & agentique

KEONI CONSULTING
Publiée le
CI/CD
Claude
Claude Code

18 mois
20k-40k €
400-600 €
Paris, Île-de-France
Contexte Seniorité 9 ans et plus Contexte Rattachement à l'équipe Architecture et Cloud privé, en charge de l'accompagnement des projets autour des applications conteneurisées sur les volets architecture, conception et CI/CD, pour les différents métiers du Groupe et au bénéfice des collaborateurs internes comme des clients. L'Architecte IA est responsable de la conception et de la cohérence des architectures des solutions d'IA générative et agentique du Groupe. Il ou elle accompagne leur industrialisation sur le cloud privé et le cloud public, oriente les choix technologiques (modèles, frameworks, plateformes), garantit la sécurité, la conformité et la maîtrise des coûts, et diffuse les bonnes pratiques au sein des équipes. MISSIONS : • Architecture des solutions IA : concevoir les architectures cibles des cas d'usage d'IA générative et agentique (assistants, RAG, agents autonomes, multi-agents) ; définir les patterns de référence et les briques réutilisables. • Veille et communauté : assurer une veille technologique constante sur l'écosystème IA ; être force de proposition sur les solutions du marché ; contribuer à l'animation de la communauté IA agentique du Groupe. • Plateforme IA : contribuer à la conception et à l'évolution de la plateforme IA du Groupe (serving de LLM, gateway de modèles, bases vectorielles, orchestration d'agents) sur OpenShift et sur le cloud public de confiance. • Sécurité, conformité et gouvernance : intégrer les exigences de sécurité (prompt injection, fuite de données, gestion des habilitations des agents), les exigences réglementaires (AI Act, DORA, RGPD) et les principes d'IA responsable ; participer aux comités de validation sécurité. • Qualité et performance : définir les stratégies d'évaluation des modèles et des agents (pertinence, hallucinations, latence) ; mettre en place l'observabilité LLMOps et le suivi FinOps de la consommation des modèles. • Rédaction et collaboration : rédiger les dossiers d'architecture et les spécifications techniques ; travailler en étroite collaboration avec les équipes IT et métiers ; participer aux revues d'architecture. • Industrialisation : piloter techniquement le passage des POC et pilotes à la production, en lien avec les équipes infrastructure, sécurité et production ; garantir la stabilité, le run et l'évolution des solutions déployées. En particulier, le poste contribue à la mise en œuvre du plan IA agentique du Groupe et facilite l'intégration de l'IA dans la chaîne de développement. À ce titre, les missions comprennent : • Concevoir et prototyper des agents et des workflows agentiques, et participer à la définition de l'architecture modulaire de la plateforme IA. • Mettre en place l'exposition des outils et des données du SI aux agents via le protocole MCP (Model Context Protocol) et les API du Groupe, de manière sécurisée et gouvernée. • Industrialiser le déploiement des modèles et des agents selon une approche GitOps (ArgoCD, OpenShift GitOps) et automatiser les pipelines LLMOps (évaluation, versioning des prompts, monitoring). • Assurer le rôle de référent IA de l'équipe ; encadrer et accompagner les développeurs dans l'adoption de l'IA et des assistants de code. • Prendre en charge le support et l'accompagnement des projets.
Voir cette offre
CDI
CDD

Offre d'emploiAI Engineer - Paris ou Rennes

OCTOGONE
Publiée le
CI/CD
Docker
Git

6 mois
45k-60k €
Paris, Île-de-France
Dans le cadre du renforcement d'une équipe AI Solutions en charge de la conception, de l'optimisation et de l'exploitation de produits IA, une prestation d'AI Engineer est recherchée. L'environnement concerne notamment AI Endpoints, permettant la mise à disposition par API de modèles open source optimisés et hébergés dans le cloud, ainsi que des produits Machine Learning Services : AI Notebooks, AI Training et AI Deploy. Lieux de réalisation : Paris ou Rennes La prestation sera intégrée au fonctionnement de l'équipe et à ses sprints. Les interventions porteront sur les sujets suivants : - Intégration et déploiement de nouveaux modèles open source sur AI Endpoints (LLM, embeddings, speech-to-text, text-to-speech, ...) - Optimisation de l'inférence avec vLLM et SGLang : quantization, batching, KV cache, prefix caching, speculative decoding - Réalisation de benchmarks de performance sur les GPU actuels et sur les nouvelles générations à venir - Amélioration de l'autoscaling, de l'observabilité et de la fiabilité des services en production - Participation au run sur les produits Livrables : - Nouveaux modèles déployés en production sur AI Endpoints, avec une configuration d'inférence optimisée et documentée - Rapports de benchmark par modèle et par GPU, avec des recommandations - Code livré par pull requests revues et intégrées (Python, Rust) - Dashboards et alertes de supervision des services - Documentation technique et transfert de connaissances à l'équipe
Voir cette offre
Freelance
CDI

Offre d'emploiAI Engineer / Data Scientist Senior H/F

Aleysia
Publiée le
Agent IA
IA Générative
Large Language Model (LLM)

1 an
Montreuil, Île-de-France
Le contexteDans le cadre de projets en intelligence artificielle générative, nous recherchons un(e) AI Engineer / Data Scientist Senior afin d'accompagner l'un de nos clients du secteur bancaire sur des enjeux de conception, de développement et d'industrialisation de solutions d'IA basées sur les grands modèles de langage (LLM). Quelques éléments pour mieux comprendre l'environnement : Secteur d'activité : 🏦 Banque et services financiers Organisation : Collaboration avec les équipes techniques et métiers autour de la conception et du déploiement de solutions d'intelligence artificielle. Enjeux : Développer des solutions d'IA générative et des agents IA fiables, performants et adaptés aux besoins métiers, en intégrant les enjeux de qualité, de sécurité et de mise en production. Ce que tu feras concrètementDans le cadre de cette mission, tu seras notamment amené(e) à : ➞ Concevoir et développer des solutions basées sur des LLM, notamment des applications utilisant le RAG (Retrieval-Augmented Generation). ➞ Développer et orchestrer des agents IA capables d'utiliser des outils, des API et des sources de données externes. ➞ Mettre en production des applications d'IA générative et optimiser leurs performances, leur latence et leurs coûts. ➞ Évaluer la qualité et la fiabilité des solutions développées, notamment en travaillant sur la validation des réponses, la gestion des erreurs et les mécanismes de contrôle. ➞ Contribuer à l'industrialisation des solutions IA en intégrant les bonnes pratiques de développement, de déploiement et de sécurité. Ton environnementTechnologies : Python, LLM, RAG, IA générative, agents IA. Outils : LangChain, LangGraph, vLLM ou solutions équivalentes de déploiement de modèles, outils d'orchestration et d'intégration d'API. Méthodologies : Bonnes pratiques de développement, industrialisation et déploiement de solutions IA.
Voir cette offre
Freelance
CDI

Offre d'emploiArchitecte IA Générative & Agentique

TEOLIA CONSULTING
Publiée le
Agent IA
FastAPI
Large Language Model (LLM)

12 mois
Paris, France
Au sein d'une équipe Architecture et Cloud, vous interviendrez sur la conception et l'industrialisation de solutions d'IA générative et agentique, en garantissant leur sécurité, leur performance et leur conformité. Vous contribuerez également à l'évolution de la plateforme IA et à l'intégration de l'intelligence artificielle dans les pratiques de développement. Missions Concevoir les architectures de solutions IA générative et agentique : LLM, RAG, assistants IA et systèmes multi-agents. Définir les architectures de référence, les composants réutilisables et les choix technologiques. Concevoir et prototyper des agents IA et des workflows agentiques. Participer à l'évolution de la plateforme IA : serving LLM, gateways, bases vectorielles et orchestration. Sécuriser les interactions entre les agents, les outils et les données du SI via MCP et les API. Industrialiser le déploiement des modèles et agents sur des environnements cloud privés et publics (LLMOps, CI/CD, GitOps). Mettre en place les dispositifs d'évaluation, d'observabilité et de maîtrise des coûts. Garantir la prise en compte des enjeux de sécurité, de gouvernance et de conformité réglementaire. Piloter le passage des POC en production et accompagner les équipes de développement dans l'adoption des outils IA. Compétences requises Expertise en architecture logicielle et en solutions d'IA générative et agentique (LLM, RAG, multi-agents). Excellente maîtrise de Python et FastAPI ; connaissances de Java appréciées. Maîtrise des frameworks agentiques : LangChain, LangGraph, LlamaIndex, CrewAI, AutoGen ou Google ADK. Connaissance du protocole MCP et des architectures d'interopérabilité A2A. Expérience des plateformes IA cloud : Vertex AI, Azure OpenAI ou Amazon Bedrock. Maîtrise des environnements Docker, Kubernetes et OpenShift. Connaissance des outils de serving LLM (vLLM, KServe, LiteLLM), des bases vectorielles et des solutions d'observabilité (Langfuse, MLflow, OpenTelemetry). Maîtrise des pratiques CI/CD et GitOps (Jenkins, ArgoCD). Sensibilité forte aux enjeux de sécurité et de conformité IA (OWASP, AI Act, DORA, RGPD).
Voir cette offre

Au service des talents IT

Free-Work est une plateforme qui s'adresse à tous les professionnels des métiers de l'informatique.

Ses contenus et son jobboard IT sont mis à disposition 100% gratuitement pour les indépendants et les salariés du secteur.

Free-workers
Ressources
A propos
Espace recruteurs
2026 © Free-Work / AGSI SAS
Suivez-nous