01Anatomie d'un RAG
Ce qu'est un RAG, l'exemple suivi tout du long, et pourquoi l'essentiel du travail se trouve là où la démo ne regarde pas.
Ce que l'IA ne sait pas
Un grand modèle de langage, le moteur d'outils comme ChatGPT, écrit avec aisance sur presque n'importe quel sujet. Mais il n'a jamais lu vos manuels de maintenance, vos procédures, ni les notes que vos meilleurs ingénieurs ont écrites en trente ans. Interrogez-le à leur sujet, et soit il admettra qu'il ne sait pas, soit, pire, il donnera une réponse assurée qui sonne juste et ne l'est pas.
Le RAG (retrieval-augmented generation, génération augmentée par recherche) est la façon la plus courante de combler cet écart. Avant que le modèle réponde, le système trouve dans vos documents les passages les plus susceptibles de contenir la réponse, et demande au modèle de répondre à partir de ces seuls passages, en citant ses sources. Le modèle fournit la langue. Vos documents fournissent les faits.
Notre exemple
Prenons une entreprise qui entretient du matériel ferroviaire : des locomotives et des trains qui restent en service trente ou quarante ans. L'entreprise est un composite, mais les lecteurs du secteur la reconnaîtront. Elle a accumulé des dizaines de milliers de documents : des manuels pour chaque modèle et chaque révision, des bulletins de service, des dossiers de modernisation, des procédures, des comptes rendus de tests, des notes de techniciens. Certains sont bien structurés. Beaucoup sont des scans, des tableurs, ou des fichiers dans des formats que plus personne n'ouvre.
Et ceux qui connaissent vraiment les engins les plus anciens partent à la retraite. Une grande partie de ce qu'ils savent n'a jamais été écrite. Quand ils partent, l'entreprise perd la capacité d'entretenir sa propre flotte en toute confiance. C'est un problème d'entreprise avant d'être une question de technologie, et c'est le bon point de départ. L'idée qui suit est séduisante : donner aux techniciens du dépôt un assistant qui répond à leurs questions à partir des connaissances accumulées de l'entreprise, avec les références.
Il y a quelques années, cela aurait été hors de portée de la plupart des entreprises. Les règles écrites à la main et les classifications soigneusement construites se sont révélées lentes et coûteuses ; les outils de recherche renvoyaient des listes de documents et laissaient la lecture à l'utilisateur. L'IA générative sait lire des documents désordonnés et répondre en langage naturel. La technologie est désormais à portée de main. Le reste du travail n'en est pas facilité pour autant.
Deux moitiés, très inégales
La première moitié prépare les connaissances
Quelqu'un décide quels documents peuvent entrer dans le système (le chapitre 03 y revient) et quelle version de chacun fait foi. Les documents sont nettoyés et convertis, ce qui est bien plus difficile qu'il n'y paraît avec des scans et des tableaux complexes, puis découpés en passages et indexés, chacun portant les règles sur qui peut le voir. Cette moitié n'est jamais terminée : les documents changent, les engins sont modifiés, et les connaissances doivent suivre.
La seconde moitié répond aux questions
Un technicien pose une question ; le système retrouve les passages pertinents ; le modèle rédige une réponse à partir d'eux, avec ses sources. C'est ce que montre chaque démonstration, et c'est là que se fixent en général les attentes et les budgets.
Comme le montre la figure 2, l'essentiel de l'effort, du coût et du risque se trouve dans la première moitié et autour d'elle. Les analystes voient le même schéma : Gartner s'attend à ce que les organisations abandonnent 60 % des projets d'IA qui ne disposent pas de données adaptées à l'IA, et a constaté que près des deux tiers des organisations n'ont pas les pratiques de données dont l'IA a besoin, ou ne savent pas si elles les ont.
Il y a aussi une limite qu'aucune technologie ne supprime : le système ne peut trouver que ce qui a été écrit. Le savoir qui compte le plus dans notre exemple, celui qui est dans la tête des experts qui partent, est précisément ce qui manque aux documents. Le recueillir est le travail de l'organisation, même si le projet peut être conçu pour y aider.
Rien de tout cela n'est un détail technique. Chaque point est une question sur la façon dont l'organisation gère ses connaissances, ses risques et ses personnes. Un projet qui ressemble à une initiative informatique dans la démo se révèle, très vite, être un projet de management.