RAG en entreprise : définition, fonctionnement et pièges à éviter

Le RAG en une phrase

Un modèle de langage comme Claude, GPT ou Mistral connaît beaucoup de choses, mais rien de vos contrats, de vos procédures internes ou de votre catalogue. Le RAG lui fournit, au moment de chaque question, les extraits de vos documents qui contiennent la réponse. Le modèle ne « sait » pas vos données : il les lit, comme un consultant à qui l'on tend le bon dossier.

Résultat : des réponses à jour (il suffit de mettre à jour les documents), vérifiables (chaque réponse renvoie vers sa source) et limitées à ce que l'utilisateur a le droit de consulter.

Comment fonctionne un système RAG

Un RAG se compose de deux chaînes : l'une prépare vos documents, l'autre répond aux questions.

1. Ingestion : préparer la base de connaissances

1. Extraction du texte depuis vos sources : PDF, Word, pages web, Notion, Confluence, SharePoint, tickets de support, base de données.
2. Découpage (chunking) en passages de quelques centaines de mots, en respectant la structure (titres, articles, sections) plutôt qu'un découpage aveugle.
3. Vectorisation : chaque passage est transformé en vecteur (embedding) qui représente son sens.
4. Indexation dans une base vectorielle (pgvector, Qdrant, Weaviate…) avec ses métadonnées : source, date, auteur, droits d'accès.

2. Requête : répondre à une question

1. La question est vectorisée, puis le système recherche les passages les plus proches, idéalement en combinant recherche sémantique et recherche par mots-clés (recherche hybride).
2. Un reranker reclasse les résultats pour ne garder que les plus pertinents.
3. Les passages retenus sont transmis au modèle avec une consigne stricte : répondre uniquement à partir de ces extraits, et dire « je ne sais pas » sinon.
4. La réponse est affichée avec ses citations, cliquables vers le document d'origine.

RAG ou fine-tuning : que choisir ?

Le fine-tuning réentraîne un modèle sur vos exemples pour modifier son comportement. Le RAG ne touche pas au modèle : il lui donne de l'information. Ces deux techniques répondent à des besoins différents.

Cas d'usage concrets

• Support client : un chatbot qui répond à partir de vos CGV, fiches produits et historique de tickets, et passe la main à un humain quand il ne sait pas.
• Base de connaissances interne : retrouver une procédure, une politique RH ou une spécification technique en posant une question en langage naturel.
• Juridique et contrats : interroger un corpus de contrats, repérer des clauses, comparer des versions, toujours avec renvoi vers l'article exact.
• Avant-vente : préparer des réponses à appels d'offres à partir des réponses passées et de la documentation produit.
• Onboarding : un assistant qui répond aux questions des nouveaux arrivants à partir de la documentation existante.

Le RAG se combine très bien avec l'automatisation de workflows : un e-mail entrant peut être analysé, enrichi par une recherche dans vos documents, puis transformé en brouillon de réponse ou en ticket.

Les 7 pièges qui font échouer un projet RAG

1. Des documents mal extraits : PDF scannés sans OCR, tableaux aplatis, en-têtes répétés. Si le texte d'entrée est mauvais, aucune IA ne compensera.
2. Un découpage naïf : couper tous les 500 mots sépare une règle de son exception. Il faut découper selon la structure du document.
3. Une recherche uniquement vectorielle : elle rate les références exactes (numéro de contrat, code produit, nom propre). La recherche hybride corrige ce défaut.
4. Aucune évaluation : sans jeu de questions de test avec les bonnes réponses attendues, impossible de savoir si une modification améliore ou dégrade le système.
5. Des droits d'accès ignorés : un stagiaire ne doit pas obtenir, via le chatbot, un document réservé à la direction. Le filtrage doit se faire au moment de la recherche.
6. Des réponses sans sources : sans citation, l'utilisateur ne peut pas vérifier, et la confiance disparaît à la première erreur.
7. Un index qui vieillit : si les documents changent sans réindexation automatique, l'assistant répond avec des informations périmées.

Sécurité, confidentialité et RGPD

• Hébergement : base vectorielle et application peuvent être hébergées en Europe, sur votre propre infrastructure cloud.
• Modèles : les offres API professionnelles des principaux fournisseurs prévoient contractuellement de ne pas utiliser vos données pour entraîner leurs modèles ; il faut le vérifier dans les conditions du fournisseur retenu. Des modèles open source peuvent aussi être hébergés chez vous pour les données les plus sensibles.
• Données personnelles : minimiser ce qui est indexé, pseudonymiser si nécessaire, journaliser les accès et documenter le traitement dans votre registre RGPD.
• Garde-fous : consignes qui interdisent de répondre hors du corpus, détection des tentatives de contournement (prompt injection), revue humaine pour les décisions à enjeu.

Comment démarrer un projet RAG

1. Choisir un cas d'usage précis et mesurable (par exemple : réduire le temps de réponse du support de niveau 1).
2. Réunir un échantillon représentatif de documents et une cinquantaine de vraies questions avec leurs bonnes réponses.
3. Construire un prototype sur cet échantillon et le mesurer : taux de bonnes réponses, qualité des citations, temps de réponse, coût par question.
4. Industrialiser ce qui fonctionne : connecteurs automatiques, gestion des droits, supervision, interface intégrée à vos outils.

C'est l'approche que nous suivons dans nos projets d'intelligence artificielle : un prototype sur vos données réelles avant tout engagement sur la suite.