07Le filet de sécurité que je croyais avoir

Pendant dix semaines, le système qualité était branché sur chaque workflow, sur le papier. En pratique, aucun workflow ne l'a jamais chargé. Ce qui a révélé le problème, c'est le système qualité lui-même.

Le 17 octobre, en corrigeant autre chose, j'ai découvert qu'aucun des workflows de BMAD n'avait jamais chargé le système qualité. Le plugin décrit au chapitre 06 avait demandé à chaque workflow qui compte, de la rédaction d'une story à son implémentation, sa revue et la rétrospective, de charger la Definition of Done, le registre des contraintes, les règles de traçabilité et le registre des risques avant toute chose. Je croyais que chaque agent lisait les règles avant chaque story. Aucun ne le faisait.

Qu'est-ce qui était vrai ?

Le plugin écrivait son branchement dans un fichier de configuration de BMAD que BMAD lit pour d'autres réglages, mais jamais pour les workflows, qui prennent leurs personnalisations dans un fichier propre à chacun. Le branchement était valide, dans un fichier que BMAD chargeait, dans une section que rien ne consultait jamais. Pas d'erreur, pas d'avertissement.

0

Le nombre de workflows BMAD qui ont chargé automatiquement le SMQ, du jour où le plugin a été installé jusqu'au 17 octobre 2026.

La correction a pris une journée : un fichier par workflow, vérifié par rapport au code de BMAD lui-même. En la faisant, j'ai relancé le plugin, qui a écrasé onze fichiers du SMQ que j'avais personnalisés. La gestion de versions les a rendus en quelques minutes.

Pourquoi cela a-t-il tenu malgré tout ?

Ici, l'automatisation a échoué, et la pratique a tenu. Pendant que le branchement était cassé, les audits et les actions correctives du SMQ l'ont maintenu en vigueur, et je continuais de demander si les règles étaient appliquées. Mi-septembre, j'ai demandé un audit complet : le SMQ était-il réellement appliqué ? Il a constaté que la traçabilité des tests vers les exigences n'avait jamais été adoptée, que la carte des composants du produit n'avait pas été mise à jour depuis six semaines, et que les dangers cliniques des premières fonctionnalités du dispositif n'avaient jamais été saisis dans le registre des risques. Dix jours plus tard, une vérification de conformité du travail d'une seule journée a trouvé une story close sans revue de code, et deux versions qui tournaient sur des builds périmés. Chaque constat a été consigné comme point ouvert, et chacun a conduit à une décision.

Trois niveaux d'applicationLes instructions, que l'agent lit ou ne lit pas, dépendent de son attention. Les audits, menés par une personne, dépendent de l'attention de cette personne. Les contrôles de build ne peuvent pas être sautés et ne dépendent de rien.1 Instructionslues par l'agent, ou nonRègles écrites pour l'agent, dans ses fichiers.Le câblage du SMQ : aucun workflow ne lechargeait avant le 17 octobre, sans signal.DÉPEND DEl'attention de l'agent2 Auditsmenés par une personneDes contrôles que je demande, de temps en temps.Les audits de septembre : traçabilité jamaisadoptée, dangers jamais enregistrés.DÉPEND DEmon attention3 Contrôles de buildimpossibles à sauterExécutés à chaque build ; un échec l'arrête.Couverture qui ne peut que monter, 95 % desbranches sur le code de maîtrise, tests tracés.DÉPEND DErien
Figure 7. Trois niveaux d'application : des instructions qu'un agent lit ou ne lit pas, des audits qu'une personne mène, des contrôles que le build ne peut pas sauter. Seul le dernier ne dépend pas de l'attention.

Des règles qui dérivent

Le branchement cassé n'explique qu'une partie de ce qui a glissé. Ma règle contre Hibernate est revenue trois fois. La première fois, c'était ma faute : un composant majeur a été construit dessus pendant que j'étais occupé à d'autres problèmes, et il a fallu une migration dédiée pour l'en retirer. La deuxième, c'était une ébauche d'architecture pour le dispositif qui prévoyait le même genre de framework, trois semaines après que la règle a été écrite ; elle a été corrigée le lendemain. La troisième, je l'ai trouvée en préparant cet article : à deux endroits, la règle selon laquelle chaque instruction SQL est une constante avait été assouplie sans que personne le dise. Rien de dangereux n'en a résulté, mais la story affirmait la conformité, et ni Claude ni moi n'avions dit le contraire. Une recherche à critères optionnels peut demander un peu de latitude, mais cette latitude devait passer par une revue.

Deux autres sont apparus en novembre, pendant que je mesurais le code pour l'annexe E. Depuis le 30 septembre, le build tournait hors ligne et en mode silencieux : la nomenclature logicielle n'était plus produite, et rien n'analysait les dépendances ; un pilote faisant l'objet de trois alertes élevées a été livré entre-temps. Et le registre des logiciels tiers ne recensait que ce que le produit demande nommément : six des onze composants qu'il livre y manquaient. Les deux contrôles semblaient en place et ne faisaient rien.

Ce qui s'est passé, ce que j'en ai appris, ce que j'ai décidé

Un système qualité traite un problème en trois temps : ce qui a mal tourné, pourquoi, et ce qui empêchera que cela se reproduise. J'ai appliqué la même discipline à mes propres erreurs. Certaines décisions sont en place ; d'autres sont consignées et restent à mettre en œuvre.

Sept écarts, et ce que j'ai décidéSept lignes. Le câblage du SMQ ne se chargeait pas : découvert par hasard le 17 octobre ; recâblé et vérifié, un contrôle de build décidé ; fait en partie. Le plugin a écrasé onze fichiers personnalisés : restaurés aussitôt depuis la gestion de versions ; le plugin refuse désormais d'écraser, et mes outils suivent la même Definition of Done ; correction à vérifier. Les règles existaient mais personne ne les vérifiait : révélé par l'audit de septembre ; un contrôle SMQ avant de clore chaque story, et les règles clés devenues contrôles de build ; en place. Une story close sans revue : révélée par une revue après coup ; aucune story finie sans revue et sans vérification en direct du build déployé ; en place. La règle SQL assouplie en silence : découverte en préparant cet article ; une exception bornée, avec un contrôle de build, et la revue de code charge les contraintes ; à appliquer. La nomenclature logicielle et l'analyse des dépendances arrêtées le 30 septembre : découvert en mesurant pour l'annexe E ; chaque build produit et analyse la nomenclature, ou échoue ; à appliquer. Le registre des logiciels tiers omettait 6 des 11 composants livrés : découvert de la même façon ; le registre généré à partir de la nomenclature ; à appliquer.CE QUI S'EST PASSÉRÉVÉLÉ PARCE QUE J'AI DÉCIDÉÉTATLe câblage du SMQne se chargeait paspar hasard,le 17 octobreRecâblé un fichier par workflow, vérifié avecle code de BMAD ; un contrôle de build à suivrefait en partieLe plugin a écrasé11 fichiersaussitôt ; la gestionde versions les a rendusLe plugin refuse d'écraser ; mes outilssuivent la Definition of Done du produità vérifierDes règles quepersonne ne vérifiaitl'audit deseptembreUn contrôle SMQ avant de clore chaque story ;règles clés devenues contrôles de builden placeUne story closesans revueune revueaprès coupAucune story finie sans revue ni vérificationen direct du build exact déployéen placeLa règle SQLassouplie en silenceen préparantcet articleUne exception bornée, avec contrôle de build ;la revue de code charge les contraintesà appliquerLa nomenclature arrêtéele 30 septembreen mesurant pourl'annexe EChaque build produit et analyse lanomenclature, ou échoue (OPEN-115, OPEN-116)à appliquerLe registre omettait6 composants sur 11la mêmemesureLe registre est généré à partir de lanomenclature, et recense tout ce qui est livréà appliquer
Figure 8. Sept dérives : ce qui s'est passé, ce qui l'a révélé, ce que j'ai décidé, et où en était chaque décision début novembre 2026.

Deux d'entre elles demandent un mot de plus. La revue menée après coup sur la story non relue a trouvé qu'un administrateur pouvait s'accorder l'accès aux données des patients. Et le plugin qui a écrasé mes fichiers était un plugin que j'avais construit avec Claude et jamais testé de bout en bout, ce que je n'aurais pas accepté pour une story. Mes propres outils sont désormais tenus à la même Definition of Done que le produit.

Les instructions ont tenu la plupart du temps, et la plupart du temps ne suffit pas pour un dispositif médical. Partout où une règle peut devenir un contrôle que le build ne peut pas sauter, je l'y déplace. Les décisions en attente n'ont pas encore de dates, ce qui est le manque qu'admet le chapitre 10, mais chacune est consignée comme point ouvert dans le SMQ (OPEN-105 à OPEN-107).

Je m'attendais à ce que l'automatisation porte le système qualité. L'automatisation a échoué en silence, et le système qualité a rattrapé ce qu'elle aurait laissé passer : ses audits, ses points ouverts et ses actions correctives. Avec une IA qui écrit le code, je compte sur le SMQ plus qu'avant.

Pour votre propre projet

Toute équipe qui donne ses règles à un agent IA par des fichiers de configuration, des instructions de projet ou des prompts peut les perdre de la même façon, sans erreur ni avertissement.

  • Vérifiez que vos agents reçoivent réellement les règles que vous avez écrites, à l'aide du code ou de la sortie de l'outil lui-même, et vérifiez-le à nouveau à chaque build.
  • Transformez en contrôle de build chaque règle qui peut le devenir, et menez des audits pour les autres, y compris là où une règle a été assouplie sans annonce.
  • Tenez les outils que vous construisez avec l'IA, scripts, plugins, configuration, à la même Definition of Done que le produit.

État en octobre 2026. Ce chapitre sera mis à jour à mesure que les décisions en attente seront mises en œuvre.