Qu’est-ce que le RAG ? L’IA générative qui répond avec les données de votre entreprise

En bref : le RAG (retrieval-augmented generation, ou génération augmentée par récupération) est une technique qui permet à une IA générative de chercher d’abord dans les documents et les données de votre entreprise, puis de rédiger sa réponse à partir de ce qu’elle a trouvé. Résultat : des réponses sur vos produits, vos tarifs ou vos procédures, avec la source citée, sans entraîner de nouveau modèle. La qualité dépend davantage de vos données et de vos droits d’accès que du choix du modèle d’IA.

Qu’est-ce que le RAG ?

Le RAG est une méthode qui donne à un modèle de langage, juste avant qu’il réponde, l’accès à des connaissances qui ne figurent pas dans ses données d’entraînement. Le terme vient d’un article de recherche publié en 2020 par Patrick Lewis et ses coauteurs : en combinant un modèle de langage avec une recherche dans un vaste corpus de textes, ils obtenaient des réponses plus précises et plus factuelles qu’avec un modèle qui ne s’appuie que sur ce qu’il a appris (Lewis et al., 2020).

Le problème que le RAG résout est connu de tous ceux qui ont testé ChatGPT au travail : le modèle ne sait rien de votre entreprise, et il peut inventer des réponses plausibles mais fausses. AWS décrit le RAG comme le moyen de faire consulter au modèle une base de connaissances fiable, extérieure à ses données d’entraînement, avant de répondre, afin qu’il s’appuie sur des sources à jour et puisse les citer, sans réentraînement (AWS).

Quand une entreprise parle d’« IA sur nos données », de « ChatGPT interne » ou d’assistant documentaire, il s’agit presque toujours de RAG.

Comment fonctionne le RAG, étape par étape

Le RAG fonctionne en trois étapes : indexer, récupérer, répondre (AWS).

1. Indexation. Les documents, manuels, pages web et contenus de bases de données sont découpés en passages plus courts. Chaque passage est converti en une suite de nombres, un « embedding », qui représente son sens, puis stocké dans une base vectorielle.
2. Récupération. Quand un salarié ou un client pose une question, elle est elle aussi convertie en embedding, et le système retrouve les passages les plus proches par le sens. Beaucoup de solutions combinent cette recherche sémantique avec une recherche classique par mots-clés.
3. Réponse. Les passages retrouvés sont envoyés au modèle avec la question. Il rédige la réponse et peut indiquer les documents sur lesquels elle s’appuie.

Quand un document change, on met à jour l’index, pas le modèle. C’est pourquoi le RAG convient aux connaissances qui évoluent : grilles tarifaires, fiches produits, procédures internes. La recherche de fichiers d’OpenAI, par exemple, combine recherche sémantique et recherche par mots-clés et renvoie des références vers le fichier source (OpenAI).

RAG, fine-tuning ou ChatGPT classique ?

Le RAG est le bon choix quand l’IA doit répondre juste à partir de vos connaissances, qui évoluent. Le fine-tuning sert plutôt à apprendre au modèle un style ou un format précis. Un ChatGPT classique suffit quand la tâche ne demande pas les données de l’entreprise.

La CNIL fait la même distinction : le RAG demande plus de ressources et de compétences qu’un outil prêt à l’emploi, mais il est plus facile à adapter et offre davantage de traçabilité sur les informations contenues dans les réponses (CNIL).

Cas d’usage du RAG en entreprise

Le RAG apporte le plus de valeur là où salariés ou clients posent souvent des questions dont la réponse est déjà écrite quelque part. Le guide de la DGE cite notamment l’assistant juridique (contrats), l’assistant RH (conventions collectives, documents internes), la recherche dans la documentation technique et l’assistant commercial (DGE). Exemples typiques :

• Service client. Un chatbot sur votre site qui répond à partir de votre FAQ, de vos fiches produits et de vos conditions de livraison. Voir le service client IA.
• Base de connaissances interne. Les équipes interrogent le règlement intérieur, les procédures ou les anciens projets au lieu de fouiller les dossiers partagés.
• Ventes et devis. Réponses sur les produits, les conditions et les anciens devis, et premiers jets de nouvelles propositions, en lien avec l’automatisation des devis.
• Documents et contrats. Questions posées à vos contrats et archives, souvent couplées à une GED.
• Données métier. Questions sur les commandes ou les clients, raccordées par une intégration de systèmes.

Le besoin est réel : selon l’Insee, 18 % des entreprises françaises de 10 salariés ou plus utilisaient au moins une technologie d’IA en 2025, et 43 % de ces entreprises utilisaient la génération de texte ou de parole (Insee).

Trois façons de déployer le RAG, et ce que cela coûte

Il existe trois voies principales : la solution intégrée à votre suite bureautique, une solution SaaS ou des briques cloud prêtes à l’emploi, ou un RAG sur mesure, installé par un intégrateur ou développé en interne.

1. Intégré à Microsoft 365

Microsoft Copilot s’appuie sur un index sémantique des données de votre organisation dans Microsoft 365. L’index est créé automatiquement et Copilot n’affiche que les contenus auxquels l’utilisateur a déjà accès. Selon Microsoft, les invites, les réponses et les données de l’index ne servent pas à entraîner les modèles sous-jacents, et pour les clients relevant de la limite de données de l’UE, l’index est stocké dans un centre de données de l’UE ou de l’AELE (Microsoft Learn). Si vous travaillez déjà dans Microsoft 365, c’est souvent le point de départ le plus simple.

2. SaaS et briques cloud

Pour répondre aux clients sur votre site ou croiser plusieurs systèmes, on s’appuie sur les briques des grands fournisseurs. OpenAI propose une recherche de fichiers prête à l’emploi : vous chargez des fichiers dans un espace vectoriel et le modèle y cherche de lui-même avant de répondre (OpenAI). Vérifiez où les données sont traitées et signez un contrat de sous-traitance.

3. RAG sur mesure

Un RAG sur mesure s’impose quand le vocabulaire est spécifique ou que les données ne doivent pas sortir de l’entreprise. Il est souvent relié à un outil d’automatisation comme n8n, ou étendu en agent IA capable d’agir sur la base des réponses.

Côté budget, la DGE donne des ordres de grandeur issus d’entretiens avec des professionnels : de 10 000 € à 100 000 € par an pour un produit SaaS selon la gamme, environ 100 000 € une fois pour une installation par un intégrateur, et au moins trois mois de travail d’un data scientist, d’un développeur et d’un administrateur système pour un développement interne. Il faut compter environ trois mois pour un RAG personnalisé via un intégrateur (DGE). Ce sont des repères de 2024, pas des devis : un projet ciblé sur un seul cas d’usage peut coûter bien moins cher. Pour situer un projet d’automatisation, voir nos tarifs.

RAG, RGPD et sécurité : CNIL et ANSSI

L’essentiel, avec une IA sur vos données, est de maîtriser ce que l’IA peut voir et qui peut lire ses réponses. La CNIL précise que lorsqu’un organisme connecte un système d’IA à sa propre base de connaissances et que celle-ci contient des données personnelles, il devient responsable de ce traitement. Elle recommande d’encadrer l’usage de l’IA générative par une charte interne, d’associer le DPO et le RSSI, de réaliser une analyse d’impact (AIPD) quand c’est pertinent et de conclure un contrat de sous-traitance avec l’hébergeur (CNIL).

L’ANSSI insiste sur le « besoin d’en connaître » : les droits d’accès sont impossibles à gérer sur les données d’entraînement d’un modèle, mais possibles sur les données ajoutées en production, comme une base vectorielle. Elle recommande d’y penser dès la conception et de revoir régulièrement les droits des outils d’IA générative connectés à la messagerie ou aux espaces documentaires (ANSSI).

• Droits d’accès : la solution doit reprendre les droits existants. Un salarié qui ne voit pas les fiches de paie ne doit pas les obtenir dans une réponse.
• Sous-traitance : contrat avec le fournisseur, lieu de traitement des données, transferts hors UE encadrés.
• Transparence : au titre de l’AI Act, les utilisateurs doivent savoir qu’ils échangent avec une IA, par exemple un chatbot ; ces règles s’appliquent depuis août 2026 (Commission européenne).

Les pièges les plus fréquents

La plupart des projets RAG décevants échouent à cause des données et des tests, pas du modèle.

• Données en désordre. Anciennes versions, doublons et documents contradictoires donnent des réponses contradictoires. Faites le tri avant d’indexer.
• Passages trop longs ou trop courts. Le découpage des documents conditionne la récupération des bons passages.
• Tableaux et chiffres. La DGE note que le RAG est en général plus performant sur du texte que sur des tableaux, et moins pertinent pour comparer des documents ou formuler des recommandations (DGE).
• Pas de jeu de test. Préparez 30 à 50 vraies questions avec leurs bonnes réponses et testez la solution à chaque modification.
• Pas de source affichée. Montrez toujours le document d’origine pour que l’utilisateur puisse vérifier.
• Pas de responsable du contenu. Sans propriétaire des documents, les réponses vieillissent vite.

Le RAG n’est qu’un des chantiers d’une stratégie IA cohérente.