Comment fonctionne le RAG privé sur les documents d'entreprise ?

Ce qu'est le RAG privé – et pourquoi c'est plus qu'un chatbot

Un modèle de langage seul ne sait rien de votre entreprise : ni vos contrats, ni vos processus, ni vos offres, ni vos dossiers de projet. Interrogez-le malgré tout et il produit des suppositions plausibles – souvent fausses. Le RAG résout cela en fournissant au modèle, pour chaque question, les extraits pertinents de vos propres documents. Le modèle formule alors sa réponse à partir du contexte fourni, non de sa mémoire.

« Privé » signifie ici deux choses. D'abord, vos documents ne quittent jamais l'environnement que vous contrôlez – ils ne servent ni à entraîner des modèles tiers ni à alimenter un service public. Ensuite, chaque utilisateur ne voit que ce qu'il est autorisé à voir. Un RAG privé bien conçu est donc moins un « chatbot » qu'une couche de connaissance interrogeable et capable de répondre, posée sur votre patrimoine documentaire.

Le pipeline RAG étape par étape

Techniquement, le RAG comporte deux phases : une préparation des documents (initiale puis continue) et une recherche effectuée à chaque question. La préparation construit l'index interrogeable ; la recherche récupère le contexte et produit la réponse.

• Ingestion et nettoyage : PDF, fichiers Office, pages wiki, e-mails ou tickets sont lus et convertis en texte brut plus métadonnées (source, date, droits d'accès).
• Découpage (chunking) : les longs documents sont scindés en passages plus courts et bien coupés – assez grands pour porter du sens, assez petits pour être retrouvés précisément.
• Embeddings : un modèle d'embedding transforme chaque passage en vecteur – une représentation numérique de son sens. Les contenus proches se retrouvent voisins dans l'espace vectoriel.
• Index vectoriel : les vecteurs sont stockés dans une base vectorielle, souvent combinée à la recherche par mots-clés classique (recherche hybride) pour que les termes exacts et numéros de dossier soient aussi trouvés.
• Récupération et re-ranking : les passages les plus adaptés à la question sont recherchés ; un re-ranker les trie par pertinence réelle avant de transmettre les meilleurs.
• Génération avec citations : la question et les passages récupérés sont transmis au modèle, qui formule une réponse – idéalement avec références aux sources, pour que chaque affirmation reste vérifiable.

Ce que « privé » veut dire concrètement : les modèles de déploiement

La confidentialité n'est pas une propriété du RAG en soi, mais une question de savoir où tournent le modèle, l'index et les données. Il existe un spectre – de l'exécution entièrement locale aux points de terminaison cloud cloisonnés. Le bon choix dépend de la sensibilité des données, de la qualité requise et des ressources IT internes.

• Entièrement local / on-premises : des modèles open-weight (Llama, Mistral ou le suisse Apertus d'ETH/EPFL) et la base vectorielle tournent sur votre matériel. Contrôle maximal, aucune fuite de données – mais exploitation, coût GPU et maintenance sont à votre charge.
• Cloud privé en Suisse / UE : compte dédié ou centre de données suisse avec résidence des données garantie par contrat et assurance que vos données ne servent pas à l'entraînement. Bon compromis entre qualité, effort et souveraineté.
• Point de terminaison cloud confidentiel d'un grand fournisseur : modèles hébergés avec accords de non-conservation et de traitement des données. Rapide et puissant, mais exige une revue attentive du contrat et de la localisation.
• Important dans toutes les variantes : l'index vectoriel contient des fragments de vos documents en clair. Il mérite la même protection que les fichiers d'origine et doit être chiffré, à accès restreint et conservé dans la même juridiction.

Perspective suisse et DACH : droit, protection des données, accès

Les documents d'entreprise contiennent souvent des données personnelles et des secrets d'affaires. En Suisse s'applique la loi révisée sur la protection des données (nLPD / revDSG), surveillée par le PFPDT (EDÖB) ; ne parlez jamais de « RGPD » pour le droit suisse. Si des personnes de l'UE sont concernées, le RGPD s'applique aussi, et – pour certains usages d'IA – l'EU AI Act, à portée extraterritoriale. Un RAG privé facilite la conformité mais ne remplace pas l'analyse juridique.

• Récupération sensible aux droits : les autorisations des systèmes sources doivent se propager jusqu'à la réponse. Sinon le RAG « fuite » des contenus que l'utilisateur ne pourrait jamais ouvrir à la source.
• Résidence des données : gardez documents, index et inférence du modèle de façon démontrable en Suisse ou dans l'UE si les contrats ou règles sectorielles l'exigent.
• Traçabilité : citations des sources, journalisation des requêtes et limitation claire des finalités soutiennent les obligations de responsabilité de la nLPD et les exigences de transparence de l'EU AI Act.
• Minimisation des données : n'indexez que les documents nécessaires à la finalité et définissez des cycles de suppression et de mise à jour, afin que les contenus périmés ou à supprimer ne servent plus aux réponses.

Qualité de la récupération : la différence entre utile et trompeur

Un système RAG ne vaut que ce qu'il récupère. Donnez au modèle les mauvais passages ou des passages incomplets et il produira une réponse convaincante mais fausse. L'essentiel du travail de qualité se situe donc non dans le modèle mais dans la récupération.

• Découpage réfléchi : couper aux frontières sémantiques (titres, paragraphes) plutôt que rigidement au nombre de caractères ; ne pas déchirer tableaux et listes en plein milieu.
• Recherche hybride : combiner recherche vectorielle sémantique et recherche par mots-clés pour que termes techniques, noms de produits et numéros de dossier soient trouvés exactement.
• Re-ranking et limites de contexte : récupérer plus de candidats puis choisir les meilleurs via un re-ranker – pour éviter de remplir le contexte de contenu non pertinent.
• Autoriser « je ne sais pas » : le système doit dire ouvertement quand les documents ne fournissent aucune base, plutôt que deviner. C'est le frein le plus efficace contre les hallucinations.
• Mesurer, pas espérer : évaluer régulièrement avec un jeu de vraies questions et de réponses attendues vérifiées (taux de succès de la récupération, fidélité de la réponse aux sources) avant et après chaque changement.

RAG, fine-tuning ou contexte long – lequel, quand ?

Le RAG est souvent confondu avec le fine-tuning. Ils résolvent des problèmes différents et peuvent se combiner.

• RAG : fournit un savoir actuel et propre à l'entreprise avec citations des sources. Idéal quand le contenu change souvent et que la traçabilité compte. De nouveaux documents signifient réindexer, pas réentraîner.
• Fine-tuning : inscrit style, format ou ton métier dans un modèle, mais n'ajoute pas de savoir factuel fiable et vérifiable. Plus coûteux et à refaire à chaque évolution du savoir.
• Contexte long sans récupération : pour une poignée de documents, on peut les donner directement au modèle. Cela ne passe pas à l'échelle de milliers de fichiers, coûte plus par question et perd en précision sur de très longs contextes.
• Règle pragmatique : commencer par le RAG. N'ajouter le fine-tuning que si le ton ou le format sont autrement inatteignables – jamais pour « stocker » du savoir factuel.