IA générative · Article long
Claude + BMADConstruire un logiciel critique avec un ingénieur et une IA
Que peut rendre possible l'IA générative là où une défaillance pourrait causer un préjudice grave ? Douze semaines passées à construire un produit qui comprend un dispositif médical, selon le processus de la classe de sécurité logicielle la plus élevée, avec Claude et la méthode BMAD : ce que l'IA a rendu possible, quelles pratiques en ont tiré parti, ce qui est resté aux personnes, et comment les erreurs commises en chemin ont été repérées et corrigées.
Résumé
Cet article suit un projet réel de l'intérieur : un logiciel clinique destiné aux hôpitaux, dont une partie est un dispositif médical, développé dans son ensemble selon le processus que l'IEC 62304 fixe pour la classe de sécurité logicielle la plus élevée, avec Claude comme développeur et BMAD comme méthode. Sur ce projet, l'équipe était une seule personne, à temps partiel pendant douze semaines : environ un tiers d'un temps plein, d'après les traces du projet.
C'est un compte rendu depuis un jalon, sur un travail en cours. Ce qui existe au bout de ces douze semaines est un dossier de maîtrise de la conception en cours de constitution : des exigences reliées aux tests, un registre des risques, des registres de décisions, des journaux de vérification sur des versions identifiées, et un point ouvert pour chaque manque connu. Ce qui n'existe pas encore compte autant. Des parties du dossier de développement logiciel sont encore des modèles à remplir. Une seule personne a écrit, relu et approuvé le travail ; les relecteurs IA ont soulevé des constats, mais ce ne sont pas des relecteurs indépendants au sens où l'entend un système qualité. Aucun spécialiste des affaires réglementaires n'a rien signé, aucun clinicien n'a utilisé le produit, aucun organisme notifié ne s'est prononcé sur le tracé de la frontière du dispositif, et rien n'a été mis en service.
Une idée traverse l'article : l'IA ouvre des possibilités, les bonnes pratiques les transforment en résultats, et l'équipe garde la barre. Un volume de travail qui demandait autrefois une équipe devient accessible à une seule personne ; des options d'architecture peuvent être construites et testées au lieu d'être débattues ; les preuves dont un produit réglementé a besoin peuvent être produites avec le code. Aucune n'est garantie. Claude écrit du code avec aisance et décide mal quand on le laisse décider. BMAD apporte des rôles, un enchaînement qui va de la définition du produit à la story testée, et un artefact écrit à chaque étape. Un système de management de la qualité apporte les contrôles, et l'article raconte comment son branchement a échoué en silence pendant dix semaines, et ce qui l'a révélé.
Les pratiques sont celles de tous les articles de ce site : Scrum et son walking skeleton, des frontières tracées avec le Domain-Driven Design, et un business case construit jalon par jalon, chacun posant une question à laquelle répondre avant de financer l'étape suivante. Quatre ont été franchis jusqu'ici : ce que vaut vraiment l'IA générative, si elle valait la peine qu'on construise du logiciel avec elle, quelle méthode placer autour d'elle, et si un dispositif médical configurable pouvait fonctionner de bout en bout. Quand construire devient bon marché, certains arbitrages établis de longue date s'inversent, et les personnes dont un projet a besoin ne sont plus les mêmes. L'article se termine sur ce changement, ce qu'il signifie pour les équipes de développement, et laisse le reste à un article à part.
Cet article s'adresse aux CTO et aux DSI qui envisagent le développement assisté par IA pour des systèmes où une défaillance compte, aux responsables qualité et réglementaires à qui l'on demandera de le valider, et aux dirigeants et responsables d'équipe qui devront accompagner ce qu'il change pour leurs équipes.
Peu de temps ? Lisez le prologue, le chapitre 01 et l'essentiel à retenir.