01Des décisions aux systèmes

Pourquoi une gouvernance sur papier n'est pas appliquée, et les deux principes qui traversent l'article.

Au-delà de la démo soutenait que l'IA générative rend la technologie abordable et le pilotage plus difficile. Il exposait ce qu'il faut décider avant qu'un système d'IA générative n'atteigne ses utilisateurs, et qui doit le décider. Ces décisions sont nécessaires. Elles ne sont pas suffisantes.

Une décision qui n'existe que dans un document de gouvernance n'est pas appliquée. « Chaque réponse cite la bonne version de sa source » reste une phrase dans une politique tant que rien dans le système n'enregistre les versions, ne les transporte jusqu'à la réponse et ne les vérifie. « Les réponses ne contournent jamais les droits d'accès » reste une phrase tant que les droits ne sont pas repris des systèmes sources, tenus à jour, et appliqués chaque fois qu'une réponse est assemblée. Une gouvernance qui tient des années doit être construite, testée et exploitée comme n'importe quelle autre partie du produit.

C'est aussi pourquoi tant de pilotes sont reconstruits avant de passer en production. Un pilote est d'ordinaire construit pour montrer que l'idée fonctionne. Il tourne sur un échantillon de documents, sans droits d'accès, sans trace de la version qui a produit une réponse, et sans moyen de savoir si un changement a amélioré ou dégradé les choses. Chaque raccourci est raisonnable pour une démonstration. Ensemble, ils font que le pilote ne peut pas devenir un système de production. Il ne peut qu'être remplacé par un tel système.

Cet article décrit ce qu'il faut construire pour qu'un pilote puisse au contraire grandir jusqu'à la production. Il reprend l'exemple du premier article : une entreprise de maintenance ferroviaire, un composite, dont les techniciens ont besoin de réponses fiables tirées de décennies de manuels, de bulletins de service et de notes sur des locomotives qui restent en service trente à quarante ans.

Deux principes traversent tout ce qui suit. Le premier est de partir du problème et des données, jamais de l'outil. Un échec courant consiste à choisir une bibliothèque ou un framework réputé le meilleur, puis à tout faire entrer autour. Les bons choix dépendent de vos documents, de vos utilisateurs et de vos contraintes, et le seul moyen de savoir lesquels sont bons est de les mesurer.

Le second est que le métier décide de ce qui est vrai et de ce qui est acceptable, et que la technologie fait tenir ces décisions. Ce que signifie un terme, quelle source est validée, quel risque porte une question, qui peut voir quoi : tout cela est décidé par ceux qui possèdent le savoir et son usage. Le travail d'ingénierie consiste à consigner ces décisions, à les appliquer, à les mesurer et à les maintenir pendant des années. C'est un travail exigeant, mais il sert des décisions qu'il ne prend pas.