01Anatomie d'un RAG

Ce qu'est un RAG, l'exemple suivi tout du long, et pourquoi l'essentiel du travail se trouve là où la démo ne regarde pas.

Ce que l'IA ne sait pas

Un grand modèle de langage, le moteur d'outils comme ChatGPT, écrit avec aisance sur presque n'importe quel sujet. Mais il n'a jamais lu vos manuels de maintenance, vos procédures, ni les notes que vos meilleurs ingénieurs ont écrites en trente ans. Interrogez-le à leur sujet, et soit il admettra qu'il ne sait pas, soit, pire, il donnera une réponse assurée qui sonne juste et ne l'est pas.

Le RAG (retrieval-augmented generation, génération augmentée par recherche) est la façon la plus courante de combler cet écart. Avant que le modèle réponde, le système trouve dans vos documents les passages les plus susceptibles de contenir la réponse, et demande au modèle de répondre à partir de ces seuls passages, en citant ses sources. Le modèle fournit la langue. Vos documents fournissent les faits.

Notre exemple

Prenons une entreprise qui entretient du matériel ferroviaire : des locomotives et des trains qui restent en service trente ou quarante ans. L'entreprise est un composite, mais les lecteurs du secteur la reconnaîtront. Elle a accumulé des dizaines de milliers de documents : des manuels pour chaque modèle et chaque révision, des bulletins de service, des dossiers de modernisation, des procédures, des comptes rendus de tests, des notes de techniciens. Certains sont bien structurés. Beaucoup sont des scans, des tableurs, ou des fichiers dans des formats que plus personne n'ouvre.

Et ceux qui connaissent vraiment les engins les plus anciens partent à la retraite. Une grande partie de ce qu'ils savent n'a jamais été écrite. Quand ils partent, l'entreprise perd la capacité d'entretenir sa propre flotte en toute confiance. C'est un problème d'entreprise avant d'être une question de technologie, et c'est le bon point de départ. L'idée qui suit est séduisante : donner aux techniciens du dépôt un assistant qui répond à leurs questions à partir des connaissances accumulées de l'entreprise, avec les références.

Il y a quelques années, cela aurait été hors de portée de la plupart des entreprises. Les règles écrites à la main et les classifications soigneusement construites se sont révélées lentes et coûteuses ; les outils de recherche renvoyaient des listes de documents et laissaient la lecture à l'utilisateur. L'IA générative sait lire des documents désordonnés et répondre en langage naturel. La technologie est désormais à portée de main. Le reste du travail n'en est pas facilité pour autant.

Deux moitiés, très inégales

1. PRÉPARER LES CONNAISSANCES construit une fois, puis entretenu tant que le système vit Documents de l'entreprise manuels, procédures, bulletins, notes Collecter et retenir la bonne version de chacun Nettoyer et convertir scans, tableaux, anciens formats Découper et indexer et y attacher qui a le droit de voir quoi Index des connaissances 2. RÉPONDRE chaque fois que quelqu'un pose une question Une question d'un technicien sur le terrain Trouver les passages les plus susceptibles de contenir la réponse L'IA rédige une réponse à partir de ces seuls passages Réponse avec les références de ses sources recherche
Figure 1. Anatomie d'un RAG : préparer les connaissances, puis répondre aux questions à partir d'elles.

La première moitié prépare les connaissances

Quelqu'un décide quels documents peuvent entrer dans le système (le chapitre 03 y revient) et quelle version de chacun fait foi. Les documents sont nettoyés et convertis, ce qui est bien plus difficile qu'il n'y paraît avec des scans et des tableaux complexes, puis découpés en passages et indexés, chacun portant les règles sur qui peut le voir. Cette moitié n'est jamais terminée : les documents changent, les engins sont modifiés, et les connaissances doivent suivre.

La seconde moitié répond aux questions

Un technicien pose une question ; le système retrouve les passages pertinents ; le modèle rédige une réponse à partir d'eux, avec ses sources. C'est ce que montre chaque démonstration, et c'est là que se fixent en général les attentes et les budgets.

La démo une question, une réponse fluide Le reste du projet Trouver les documents, et les bonnes versions Nettoyer scans, tableaux et anciens formats Décider qui peut voir quoi Tenir les connaissances à jour Mesurer si les réponses sont justes Nommer des responsables des contenus et des réponses Juridique, protection des données, représentants du personnel Décider de ce qui peut sortir de l'entreprise Ce que l'on montre et qui fixe les attentes Ce que l'on paie l'essentiel de l'effort, du coût et du risque
Figure 2. Ce que montre la démo, et ce qu'implique réellement le projet.

Comme le montre la figure 2, l'essentiel de l'effort, du coût et du risque se trouve dans la première moitié et autour d'elle. Les analystes voient le même schéma : Gartner s'attend à ce que les organisations abandonnent 60 % des projets d'IA qui ne disposent pas de données adaptées à l'IA, et a constaté que près des deux tiers des organisations n'ont pas les pratiques de données dont l'IA a besoin, ou ne savent pas si elles les ont.

Il y a aussi une limite qu'aucune technologie ne supprime : le système ne peut trouver que ce qui a été écrit. Le savoir qui compte le plus dans notre exemple, celui qui est dans la tête des experts qui partent, est précisément ce qui manque aux documents. Le recueillir est le travail de l'organisation, même si le projet peut être conçu pour y aider.

Rien de tout cela n'est un détail technique. Chaque point est une question sur la façon dont l'organisation gère ses connaissances, ses risques et ses personnes. Un projet qui ressemble à une initiative informatique dans la démo se révèle, très vite, être un projet de management.