Contexte client
Notre client est un grand opérateur de services publics et de mobilité basé à Bruxelles, engagé dans une transformation digitale visant à renforcer l’efficacité opérationnelle et l’accès à la connaissance interne. Dans ce cadre, il lance une plateforme bilingue de recherche et génération de connaissances à destination de plus de 10 000 collaborateurs, s’appuyant sur une architecture RAG (Retrieval-Augmented Generation). Premier service déployé à l’échelle d’un nouveau Centre d’Excellence IA, cette initiative pilote nécessite un renfort senior pour traduire les designs d’architecture en un service robuste et exploitable en production.
Contexte & Objectifs de mission
La mission s’inscrit dans les phases de « Construction » et de « Déploiement initial » d’un service IA stratégique, appelé à devenir un socle réplicable pour une feuille de route plus large de cas d’usage IA (knowledge management, assistance aux agents, support aux opérations, etc.).
L’objectif principal est d’industrialiser une solution RAG hybride (services Azure managés et composants auto-hébergés sur AKS) en garantissant : (i) la performance et la pertinence des réponses, (ii) la sécurité et la conformité (accès aux documents, garde-fous, modération), (iii) la maintenabilité et l’observabilité, et (iv) une capacité d’évolution (scalabilité, extensibilité des connecteurs et des sources documentaires). Le consultant interviendra en binôme étroit avec l’architecte de plateforme et l’architecte de solutions afin de livrer un service évalué, monitoré et prêt pour un passage à l’échelle.
Périmètre de la mission
* Implémenter l’architecture RAG de bout en bout : stratégie de retrieval, reranking, orchestration LLM, gestion des citations/sources et traçabilité des réponses.
* Concevoir et développer les pipelines d’ingestion : connecteurs (CMS, SharePoint), extraction, nettoyage, segmentation/chunking, enrichissement (métadonnées), indexation dans le vector store.
* Assurer la propagation et l’application des droits d’accès (ACL) de la source au moteur de recherche (security trimming) afin de garantir la confidentialité et le respect des habilitations.
* Mettre en place les patterns de prompting (templates, system prompts), garde-fous et contrôles de sécurité : filtrage, prévention des fuites d’informations, gestion des contenus sensibles, intégration d’AI Content Safety.
* Définir et implémenter un cadre d’évaluation RAG/LLM : métriques de pertinence (retrieval et génération), jeux de tests représentatifs (bilingues), campagnes de tests automatisées et intégration dans le cycle CI/CD.
* Industrialiser le déploiement sur un modèle hybride :
* Services managés Azure : Azure OpenAI, API Management, AI Content Safety.
* Composants auto-hébergés sur AKS : vector store, orchestration, pipelines.
* Produire les artefacts d’Infrastructure as Code : Terraform (Azure) et Helm/Kubernetes (AKS), en cohérence avec les standards DevSecOps.
* Contribuer à l’observabilité et à l’exploitation initiale : logs, métriques, traces, alerting, suivi des coûts (FinOps), optimisation des performances (latence, taux de succès, qualité des réponses).
* Participer aux rituels de delivery (revues de conception, revues de code, démonstrations), documenter les choix techniques et assurer le transfert de connaissances vers l’équipe du Centre d’Excellence IA.
* Identifier les risques (qualité des données, dérives de réponses, sécurité, montée en charge) et proposer des plans de mitigation pragmatiques.
Profil recherché
Compétences techniques :
* Expérience avérée de mise en production d’une solution RAG/LLM (architecture, implémentation, exploitation)
* Azure : Azure OpenAI, API Management, intégration sécurité/identités, bonnes pratiques cloud
* Kubernetes (AKS) : déploiement et exploitation, manifestes, charts Helm
* Infrastructure as Code : Terraform sur Azure, pipelines CI/CD (Azure DevOps)
* Conception de pipelines d’ingestion documentaire (SharePoint/CMS), traitement de texte, chunking, indexation vectorielle
* Vector stores et recherche sémantique (indexation, filtering, reranking, hybrid search le cas échéant)
* Mise en place de garde-fous et sécurité IA (content safety, prompt hardening, contrôles d’accès)
* Observabilité et optimisation : monitoring, logging, alerting, performance & coûts
Compétences fonctionnelles :
* Compréhension des enjeux de knowledge management à grande échelle (adoption, qualité, gouvernance des contenus)
* Maîtrise des exigences de sécurité et conformité dans un environnement de services publics (confidentialité, habilitations, auditabilité)
* Capacité à travailler en environnement produit/plateforme et à livrer un service réutilisable (standards, patterns, documentation)
* Collaboration avec des architectes et parties prenantes IT (sécurité, infrastructure, exploitation) pour aligner design et contraintes opérationnelles
* Approche orientée qualité : définition d’indicateurs, stratégie de tests, amélioration continue
Qualités personnelles :
* Autonomie et sens des responsabilités sur un périmètre critique de mise en production
* Rigueur d’ingénierie (qualité du code, documentation, testabilité, maintenabilité)
* Esprit de synthèse et capacité à transformer une conception haut niveau en implémentation robuste
* Excellente communication et posture de coopération (travail en équipe pluridisciplinaire)
* Orientation résultats et pragmatisme (priorisation, gestion des risques, arbitrages)
Modalités de mission
* Date de démarrage : ASAP
* Durée : Jusqu’au 31/12/2026 (longue durée, première phase annoncée 9 mois temps plein, prolongation possible)
* Localisation : Bruxelles (gare centrale)
* Télétravail : Hybride – 2 à 3 jours sur site par semaine
* TJM : Selon profil