07Le filet de sécurité que je croyais avoir
Pendant dix semaines, le système qualité était branché sur chaque workflow, sur le papier. En pratique, aucun workflow ne l'a jamais chargé. Ce qui a révélé le problème, c'est le système qualité lui-même.
Le 17 octobre, en corrigeant autre chose, j'ai découvert qu'aucun des workflows de BMAD n'avait jamais chargé le système qualité. Le plugin décrit au chapitre 06 avait demandé à chaque workflow qui compte, de la rédaction d'une story à son implémentation, sa revue et la rétrospective, de charger la Definition of Done, le registre des contraintes, les règles de traçabilité et le registre des risques avant toute chose. Je croyais que chaque agent lisait les règles avant chaque story. Aucun ne le faisait.
Qu'est-ce qui était vrai ?
Le plugin écrivait son branchement dans un fichier de configuration de BMAD que BMAD lit pour d'autres réglages, mais jamais pour les workflows, qui prennent leurs personnalisations dans un fichier propre à chacun. Le branchement était valide, dans un fichier que BMAD chargeait, dans une section que rien ne consultait jamais. Pas d'erreur, pas d'avertissement.
0
La correction a pris une journée : un fichier par workflow, vérifié par rapport au code de BMAD lui-même. En la faisant, j'ai relancé le plugin, qui a écrasé onze fichiers du SMQ que j'avais personnalisés. La gestion de versions les a rendus en quelques minutes.
Pourquoi cela a-t-il tenu malgré tout ?
Ici, l'automatisation a échoué, et la pratique a tenu. Pendant que le branchement était cassé, les audits et les actions correctives du SMQ l'ont maintenu en vigueur, et je continuais de demander si les règles étaient appliquées. Mi-septembre, j'ai demandé un audit complet : le SMQ était-il réellement appliqué ? Il a constaté que la traçabilité des tests vers les exigences n'avait jamais été adoptée, que la carte des composants du produit n'avait pas été mise à jour depuis six semaines, et que les dangers cliniques des premières fonctionnalités du dispositif n'avaient jamais été saisis dans le registre des risques. Dix jours plus tard, une vérification de conformité du travail d'une seule journée a trouvé une story close sans revue de code, et deux versions qui tournaient sur des builds périmés. Chaque constat a été consigné comme point ouvert, et chacun a conduit à une décision.
Des règles qui dérivent
Le branchement cassé n'explique qu'une partie de ce qui a glissé. Ma règle contre Hibernate est revenue trois fois. La première fois, c'était ma faute : un composant majeur a été construit dessus pendant que j'étais occupé à d'autres problèmes, et il a fallu une migration dédiée pour l'en retirer. La deuxième, c'était une ébauche d'architecture pour le dispositif qui prévoyait le même genre de framework, trois semaines après que la règle a été écrite ; elle a été corrigée le lendemain. La troisième, je l'ai trouvée en préparant cet article : à deux endroits, la règle selon laquelle chaque instruction SQL est une constante avait été assouplie sans que personne le dise. Rien de dangereux n'en a résulté, mais la story affirmait la conformité, et ni Claude ni moi n'avions dit le contraire. Une recherche à critères optionnels peut demander un peu de latitude, mais cette latitude devait passer par une revue.
Deux autres sont apparus en novembre, pendant que je mesurais le code pour l'annexe E. Depuis le 30 septembre, le build tournait hors ligne et en mode silencieux : la nomenclature logicielle n'était plus produite, et rien n'analysait les dépendances ; un pilote faisant l'objet de trois alertes élevées a été livré entre-temps. Et le registre des logiciels tiers ne recensait que ce que le produit demande nommément : six des onze composants qu'il livre y manquaient. Les deux contrôles semblaient en place et ne faisaient rien.
Ce qui s'est passé, ce que j'en ai appris, ce que j'ai décidé
Un système qualité traite un problème en trois temps : ce qui a mal tourné, pourquoi, et ce qui empêchera que cela se reproduise. J'ai appliqué la même discipline à mes propres erreurs. Certaines décisions sont en place ; d'autres sont consignées et restent à mettre en œuvre.
Deux d'entre elles demandent un mot de plus. La revue menée après coup sur la story non relue a trouvé qu'un administrateur pouvait s'accorder l'accès aux données des patients. Et le plugin qui a écrasé mes fichiers était un plugin que j'avais construit avec Claude et jamais testé de bout en bout, ce que je n'aurais pas accepté pour une story. Mes propres outils sont désormais tenus à la même Definition of Done que le produit.
Les instructions ont tenu la plupart du temps, et la plupart du temps ne suffit pas pour un dispositif médical. Partout où une règle peut devenir un contrôle que le build ne peut pas sauter, je l'y déplace. Les décisions en attente n'ont pas encore de dates, ce qui est le manque qu'admet le chapitre 10, mais chacune est consignée comme point ouvert dans le SMQ (OPEN-105 à OPEN-107).
Je m'attendais à ce que l'automatisation porte le système qualité. L'automatisation a échoué en silence, et le système qualité a rattrapé ce qu'elle aurait laissé passer : ses audits, ses points ouverts et ses actions correctives. Avec une IA qui écrit le code, je compte sur le SMQ plus qu'avant.
Pour votre propre projet
Toute équipe qui donne ses règles à un agent IA par des fichiers de configuration, des instructions de projet ou des prompts peut les perdre de la même façon, sans erreur ni avertissement.
- Vérifiez que vos agents reçoivent réellement les règles que vous avez écrites, à l'aide du code ou de la sortie de l'outil lui-même, et vérifiez-le à nouveau à chaque build.
- Transformez en contrôle de build chaque règle qui peut le devenir, et menez des audits pour les autres, y compris là où une règle a été assouplie sans annonce.
- Tenez les outils que vous construisez avec l'IA, scripts, plugins, configuration, à la même Definition of Done que le produit.
État en octobre 2026. Ce chapitre sera mis à jour à mesure que les décisions en attente seront mises en œuvre.