Pourquoi les méthodes formelles ? L'histoire complète
Ceci est la version longue. Elle est partie d'une note interne, écrite pour expliquer le cœur de notre travail aux nouveaux membres de l'équipe, et elle prend son temps : une trentaine de minutes si vous êtes concentré, et c'est assez technique. Si vous préférez la même histoire en dix, la version courte est par ici.
Vous êtes ingénieur, et on vous a demandé de construire un ascenseur.
Le projet n'a rien de sorcier : huit étages, une cabine, une paire de portes. Les gens appuient sur un bouton sur le palier, la cabine arrive, les portes s'ouvrent, ils montent, ils appuient sur un bouton, les portes se ferment, la cabine part.
Le client ne s'est pas donné la peine d'entrer beaucoup plus dans les détails. Vous savez comment marche un ascenseur. Il y a juste une phrase bien précise, en rouge, dans le cahier des charges.
Ce bâtiment accueillera régulièrement des groupes d'enfants, dont la sécurité est notre priorité. Les portes ne doivent jamais être ouvertes quand la cabine se déplace.
Tout le reste relève du confort. Mais un ascenseur, ça peut être dangereux : la gestion des portes est d'ailleurs classée SIL 3, ce qui veut dire, en gros, que tout doit être vérifié et revérifié.La norme de référence en Europe est l'EN 81-20, qui attribue des niveaux d'intégrité de sécurité (SIL) aux fonctions de sécurité des ascenseurs. SIL 3 est le niveau le plus élevé qu'elle autorise pour l'électronique programmable : une fonction qui exigerait un SIL 4 ne peut tout simplement pas être assurée par du logiciel, il faut concevoir un autre système. Le cadre qui régit l'intégration de logiciel dans ces fonctions s'appelle PESSRAL, et c'est un terrain disputé : une critique assez acérée fait valoir que son exigence de deux canaux pour le SIL 3 peut être satisfaite avec deux canaux identiques, ce qui n'a pas grand-chose d'une redondance.
Cette histoire (fictive) essaye de montrer ce qu'il faut pour que tout ça soit vraiment correct.Nous n'avons aucune compétence en électronique ni en ingénierie des ascenseurs : le cœur de cette histoire, c'est l'énigme logique plus que le contexte. Si quelque chose dans la conception d'un ascenseur est survolé ou mal représenté, dites-le-nous !
L'ascenseur
Même un ascenseur tout simple compte pas mal de composants. Une cabine, un moteur, une gaine, une paire de portes, des boutons, des capteurs. Et il faut tenir compte des gens : ceux qui sont dehors, qui attendent en s'impatientant, et ceux qui sont dedans, qui attendent leur étage.
Votre équipe s'est réparti le travail, et on vous a confié une partie : construire et programmer le contrôleur, le logiciel central qui décide de tout ce que fait l'ascenseur.
Au fond, c'est plutôt simple. Vous avez des boutons, quelques capteurs, des moteurs, et vous gardez quelques informations en mémoire au fil du temps. À l'extérieur de cette boîte, il y a le monde réel ; à l'intérieur, c'est votre domaine ; et chaque flèche est soit une information qui entre, soit un ordre qui sort.
Donc vous dessinez ce schéma. Vous vous calez au fond de votre fauteuil, et vous y réfléchissez un peu.
Votre système doit aussi bien se comporter quand quelque chose lâche. Si votre contrôleur plante pour une raison ou pour une autre, l'usager se retrouve coincé dans une boîte en métal. Pas question.
Alors, par sécurité, vous reliez le bouton OUVERTURE PORTES de la cabine directement au moteur des portes, en court-circuitant complètement votre contrôleur : le fil direct. C'est une pratique courante, mais vous êtes content d'y avoir pensé : votre conception n'aurait jamais passé la revue sans ça.
Cela dit, un bouton qui ouvre les portes sans condition serait une catastrophe à lui tout seul. Quelqu'un avec un gros sac pourrait s'appuyer dessus en plein trajet, et ouvrir les portes entre deux étages.
Donc vous ajoutez un verrouillage : le fil direct n'est actif que lorsque le moteur de l'ascenseur est à l'arrêt. Si la cabine bouge, le bouton ne fait rien du tout.
Prenez une minute pour regarder ce schéma. C'était censé être un système simple, mais les choses ne sont jamais si simples. Vous avez hâte de vous mettre à écrire le contrôleur, mais vous n'êtes pas sûr d'avoir déjà une vision assez claire de l'ensemble.
Les règles du monde
Le contrôleur n'est pas l'ascenseur. La phrase en rouge parle de portes et d'une cabine, qui n'existent pas dans votre programme : votre logiciel peut demander à la porte de bouger, mais il n'est pas le seul à pouvoir le faire. Alors avant d'écrire ce que fait votre contrôleur, vous écrivez ce que fait tout le reste. Chaque règle a la forme « quand telle chose est vraie, telle chose se produit », et vous en trouvez quatre.
La porte fait ce qu'on lui dit. Demandez-lui de s'ouvrir, elle s'ouvre. Demandez-lui de se fermer, elle se ferme, à une exception près : elle ne se fermera pas sur quelqu'un qui maintient OUVERTURE PORTES. Cette exception n'est pas une simple politesse : c'est une porte qui refuse de se refermer sur une personne.
La troisième règle, c'est votre fil direct, écrit comme une règle du monde plutôt que comme une ligne de votre code. Si quelqu'un maintient OUVERTURE PORTES et que le moteur de l'ascenseur est à l'arrêt, la porte s'ouvre. Votre logiciel n'y apparaît nulle part.
Et la quatrième, c'est la cabine elle-même. Le moteur tourne, donc la cabine se déplace.
Le moteur des portes a donc deux clients. Votre contrôleur en est un. L'autre, c'est la personne qui se tient devant.
Les règles de votre contrôleur
Votre contrôleur est un logiciel simple, mais il a tout de même besoin de se souvenir de quelques petites choses d'un instant à l'autre. Dans quelle phase il se trouve, un minuteur, la liste des appels en attente, et une case à cocher : confirmé.
Cette case mérite qu'on s'y attarde un instant. Quand le contrôleur demande aux portes de se fermer, il ne devrait pas simplement supposer qu'elles l'ont fait. Les portes mettent une seconde ou deux, et quelqu'un peut se trouver au milieu. Donc le contrôleur attend que le capteur de porte signale fermé, et seulement alors il coche la case. Confirmé, c'est le souvenir de ce signal. Retenez bien ce mot : souvenir.
La première règle est celle qui coche la case : le capteur indique que la porte est fermée, et le contrôleur le note. Appelons-la CONFIRMER.
Ensuite, le cas facile. Quelqu'un veut aller à l'étage où la cabine est déjà arrêtée, ou bien la cabine vient d'arriver : desservir cet étage. Retirer l'appel, demander à la porte de s'ouvrir, décocher la case, lancer le minuteur.
Le reste, c'est de l'intendance. Tant que les portes sont ouvertes, le minuteur décompte, quiconque maintient OUVERTURE PORTES le relance, et à zéro le contrôleur demande à la porte de se fermer. À l'arrivée, on coupe d'abord le moteur, puis on dessert l'étage. La phase, c'est simplement laquelle de ces situations occupe le contrôleur : idle (au repos), holding (portes maintenues ouvertes) ou moving (en mouvement).
Et le cas qui compte. Un appel depuis un autre étage : démarrer le moteur dans sa direction, mais seulement si la case est cochée. Cette condition, c'est votre traduction de la phrase en rouge.
Sur la vraie puce, c'est une boucle d'une quarantaine de lignes. Mais ce qu'elle veut dire tient en ces cinq règles.
Ma conception tient-elle la route ?
Avant d'aller plus loin, vous prenez quelques minutes pour vous convaincre que votre conception tient la route. Construire des choses pour les autres, c'est en grande partie se demander, dans les moindres détails, dans quelles situations catastrophiques ils vont bien pouvoir mettre votre magnifique produit.
Un enfant claustrophobe maintient OUVERTURE PORTES pendant tout le trajet. Votre fil direct est verrouillé sur l'arrêt du moteur, donc entre deux étages ce bouton est électriquement mort. Les portes restent fermées. C'est exactement la panne que vous aviez imaginée, calé dans votre fauteuil, et vous êtes assez fier de vous.
Quelqu'un bloque les portes ouvertes sur un palier. Le contrôleur demande à la porte de se fermer, mais une porte ne se ferme pas sur une personne. Donc elle reste ouverte, CONFIRMER ne se déclenche jamais, la case reste décochée, et la cabine refuse de bouger. Parfait.
Votre contrôleur plante complètement. Le passager appuie sur OUVERTURE PORTES, et le fil direct ouvre les portes sans la moindre aide de votre logiciel.
Trois sur trois. Vous avez pensé aux usagers et à vos propres défaillances, et votre conception tient bon à chaque fois. Chacun de ces verdicts, soit dit en passant, est parfaitement correct.
Un mardi après-midi
Vous construisez une maquette et vous la testez, comme le font les gens qui prennent leur travail au sérieux.
De haut en bas, chaque étage. Des appels depuis deux étages à la fois. OUVERTURE PORTES maintenu, relâché, martelé. Des portes bloquées. Le courant coupé en plein trajet. Tous les scénarios ci-dessus et trente autres, des dizaines de fois chacun, et pas une seule fois la cabine ne bouge avec les portes ouvertes.
Puis le vrai ascenseur est installé. Vous êtes dans le hall d'un immeuble flambant neuf, et vous regardez votre ascenseur arriver, ses portes glisser et s'ouvrir sur un palier dont vous avez écrit la logique. C'est l'un des plus beaux jours de votre carrière.
Trois semaines plus tard
Votre téléphone sonne.
« Euh, allô ? C'est à propos de l'ascenseur que vous nous avez fait. Il y a eu… un truc.
« Alors voilà, une dame au troisième étage essayait de faire rentrer un piano électrique dans la cabine. Un gros machin, moitié dedans, moitié dehors. Les portes ont commencé à se refermer dessus, alors elle a maintenu le bouton d'ouverture depuis l'intérieur, et elle a continué à pousser le piano.
« Et là, quelqu'un en haut a appelé l'ascenseur. Et il est parti. Avec les portes ouvertes. Il est monté avec le piano qui dépassait, et le piano s'est retrouvé coincé entre la cabine et le haut de l'encadrement.
« Elle va bien. Vraiment, elle va bien. Le piano, par contre, est plat comme une crêpe. »
Avant d'aller plus loin
La cabine a bougé avec les portes ouvertes. Vous aviez testé ça pendant une semaine, donc la réponse n'est pas dans les tests. Elle est dans les règles, et les neuf sont juste à côté de ce texte : quatre pour le monde, cinq pour le contrôleur.
Il existe un enchaînement de ces règles qui part d'un ascenseur ordinaire, à l'arrêt, et qui se termine avec le moteur en marche et la porte ouverte. Une seule règle peut démarrer le moteur, donc c'est forcément sur elle que l'enchaînement se termine. Le piège n'est pas une faute de frappe, et il ne se cache dans aucune règle en particulier : chaque règle, prise isolément, est correcte.
Si vous voulez essayer, ça vaut bien cinq minutes.
Ce qui s'est passé
Elle appelle l'ascenseur. Il est déjà arrêté au troisième, donc le contrôleur dessert l'étage : les portes s'ouvrent, et la case est décochée. Exactement comme prévu.
Les portes se ferment derrière elle. Elle est entrée poser son sac avant de retourner chercher le piano. Le minuteur arrive à zéro, les portes se ferment, le capteur signale fermé, et CONFIRMER coche la case. Une cabine à l'arrêt, portes fermées, rien en attente : c'est comme ça qu'un ascenseur passe l'essentiel de sa vie.
Elle appuie sur OUVERTURE PORTES. Elle n'a pas choisi d'étage, puisque le piano est encore dehors. Le moteur est à l'arrêt, donc le fil direct ouvre la porte, sans la moindre intervention de votre logiciel. Le contrôleur est au repos, il n'a rien à faire. Il n'a jamais ouvert les portes, donc il n'a jamais décoché la case. La case reste cochée.
Elle garde le doigt dessus. Pendant qu'elle se bat avec le piano, les portes commencent à se refermer chaque fois qu'elle lâche le bouton : pour le contrôleur, elles sont censées être fermées. Alors elle le maintient, et le fil direct les garde ouvertes. Rien dans tout ça ne ressemble à un accident. Puis quelqu'un au septième appuie sur le bouton d'appel.
Le contrôleur lève la tête. Au repos, un appel ailleurs, et la case dit que la porte est fermée. Il démarre le moteur. Le verrouillage a parfaitement fonctionné. Il a vérifié la case, et la case a dit oui.
Moteur en marche, porte ouverte. Le seul état que vous aviez écrit en rouge, tout au début, comme la chose qui ne doit jamais arriver.
Mettez maintenant ça en regard du scénario rassurant de tout à l'heure : bloquez les portes ouvertes sur un palier, et la cabine ne bougera pas. C'était vrai, et c'est toujours vrai. La seule différence, c'est qu'ici, les portes se sont fermées une fois, pendant qu'elle posait son sac, avant qu'elle ne les rouvre.
Deux situations identiques, vues de l'intérieur de la cabine. Dans l'une, l'ascenseur ne bougera pour rien au monde. Dans l'autre, il s'en va.
Remarquez aussi ce qui ne s'est pas mal passé. Les portes ne se sont pas ouvertes en plein trajet : votre verrouillage l'a empêché, exactement comme prévu. La panne va dans l'autre sens : la cabine a démarré alors que les portes étaient déjà ouvertes. Le défaut n'a jamais été dans le contrôleur, ni dans le circuit des portes. Il se logeait à la jonction entre les deux, parce qu'une jonction n'appartient à personne.
Et c'est pour ça que tous les tests sont passés. Vous avez bien testé OUVERTURE PORTES, mais là où on s'en sert naturellement : portes ouvertes, des gens qui montent. Dans ce cas-là, c'est le contrôleur lui-même qui vient d'ouvrir les portes, donc la case est déjà décochée, et le bouton est inoffensif à tous les coups.
L'état dangereux, c'est celui où il ne se passe rien : une cabine à l'arrêt, portes fermées, personne qui attend, et quelqu'un qui appuie quand même sur OUVERTURE PORTES. Personne n'écrit ce test-là, parce que « l'ascenseur est au repos et un passager touche un bouton », ce n'est pas un scénario. C'est un après-midi comme un autre.
Pourquoi même un an de tests aurait pu passer à côté
Vous retournez à la maquette, et vous n'arrivez pas à reproduire le problème. La tentation, c'est de tester encore plus : plus de scénarios, plus d'heures, un banc d'essai qui appuie sur des boutons au hasard toute la nuit.
Mais ce que vous vérifiez, ce n'est pas une liste de situations, c'est l'ensemble des histoires possibles : chaque suite d'appuis, d'arrivées et de mouvements de portes, dans n'importe quel ordre, de n'importe quelle longueur. Cet ensemble est infini, et il se ramifie. Un test en est un échantillon, et un banc aléatoire, un échantillon plus rapide. Cet accident demande une poignée d'événements tout à fait ordinaires dans un ordre bien particulier, et un échantillon peut passer à côté pendant très, très longtemps.Les mathématiciens ont une histoire favorite à ce sujet. En 1919, Pólya a conjecturé que pour tout n, parmi les nombres jusqu'à n, au moins la moitié ont un nombre impair de facteurs premiers. On l'a vérifiée, et revérifiée, et elle tenait pour tous les n qu'on pouvait atteindre. Elle est fausse. Le plus petit contre-exemple est n = 906 150 257. Personne n'avait été négligent. On ne pouvait simplement pas compter assez loin.
On ne vérifie pas un théorème en essayant des exemples. On le prouve. Et ça, il se trouve que c'est bien moins de travail qu'il n'y paraît.
Ce qu'une preuve vous aurait demandé
Voici ce qu'il faut. Vous décrivez la machine, ce que vous avez déjà fait sur un tableau blanc : un état, c'est un instantané (étage, moteur, porte, phase, minuteur, appels, case). Une exécution, c'est ce qui se passe depuis la mise sous tension, une règle à la fois.
La phrase en rouge devient alors une phrase sur chaque état de chaque exécution : si le moteur tourne, la porte est fermée. Vous donnez les neuf règles et cette phrase à un outil de preuve, et il se charge de la partie fastidieuse. Il vérifie la phrase à la mise sous tension, puis passe les neuf règles en revue, une par une, pour voir si elle reste vraie.
Huit d'entre elles passent sans un mot. Sur la neuvième, la règle qui démarre le moteur, l'outil s'arrête et vous pose une question. La case est cochée. Pourquoi la porte est-elle fermée ?
Vous connaissez la réponse. Vous vous appuyez dessus depuis le début, vous ne l'avez simplement jamais écrite : quand la case est cochée, la porte est vraiment fermée. Jamais vous n'auriez mis ça dans un cahier des charges. Ce n'est pas une exigence, c'est une hypothèse, et c'est la première fois que quelqu'un la formule à voix haute.
L'outil prend votre phrase et lui fait subir le même traitement fastidieux. Neuf règles, deux phrases, dix-huit vérifications. Dix-sept passent. Une seule coince : votre fil direct, face à la phrase que vous venez d'écrire.
Alors il pose une nouvelle question. La porte est fermée, la case est cochée, le moteur est à l'arrêt, quelqu'un maintient le bouton. La porte s'ouvre. Maintenant la porte est ouverte et la case est toujours cochée. En quoi est-ce que c'est normal ?
Vous n'avez pas de réponse, parce que ça n'est pas normal. Ce que vous aviez en tête depuis le début, c'était une phrase, une phrase que tout le monde en revue de conception aurait approuvée d'un hochement de tête : la porte ne peut pas s'ouvrir sans qu'on le lui demande. Et vous avez construit le fil direct précisément pour que ce soit faux. C'était votre meilleure idée de la semaine.
C'est tout le travail. Neuf règles que vous aviez déjà écrites, une phrase en rouge, deux questions. Un après-midi, trois semaines avant que le téléphone ne sonne. Une preuve ne part pas à la chasse aux accidents. Elle vous demande de défendre chaque phrase sur laquelle vous vous appuyez, y compris celles que vous ne vous êtes jamais rendu compte d'avoir écrites, et elle vous rend celle que vous ne pouvez pas défendre.
Ce qu'on a, une fois que c'est prouvé
La correction tient en une ligne : regarder la porte plutôt que la case. Vous la faites, vous relancez l'outil, et il n'a plus de questions. Voici ce que vous avez alors, et ça vaut la peine d'être précis, parce que « on l'a prouvé » s'entend facilement comme « on l'a testé vraiment très fort ». Avant : la cabine n'a bougé avec les portes ouvertes dans aucune des mille situations que vous avez essayées. Après : il n'existe aucune suite d'événements, quelle qu'elle soit, qui mette cette machine dans un état où le moteur tourne et la porte est ouverte. Pas « on n'en a pas trouvé ». Il n'en existe aucune.Les vrais ascenseurs obtiennent aussi ce genre de certitude par la géométrie. Une pièce de métal, qu'on appelle patin ou came selon la personne qui vous l'a appris, rend une porte palière physiquement incapable de s'ouvrir si la cabine n'est pas là. La sécurité par construction plutôt que par croyance. L'EN 81 exige que le verrou soit engagé d'au moins 7 mm avant que la cabine n'ait le droit de bouger. Quelque part, il existe un document qui explique pourquoi ce n'est ni 5, ni 10.
Et le deuxième lot, qui est peut-être le plus gros : l'outil vous a obligé à écrire une phrase qui n'apparaît dans aucun cahier des charges, que personne ne penserait à vérifier, et qui était discrètement vraie jusqu'au jour où quelqu'un a ajouté un bouton câblé en dur pour d'excellentes raisons, probablement dans une autre réunion. C'était une phrase que vous auriez approuvée, si seulement quelqu'un vous avait posé la question.Une omission, en toute honnêteté. Un vrai ascenseur a une ligne de défense que j'ai laissée de côté : les contacts de porte sont montés en série dans la chaîne de sécurité, une boucle d'interrupteurs câblés de sorte que si l'un d'eux s'ouvre, le moteur est physiquement mis hors tension, sans aucun logiciel. C'est pour ça que cet accident précis est rare dans les vrais ascenseurs. Je l'ai laissée de côté parce que la plupart des systèmes que vous et moi construisons n'en ont pas, et parce que l'erreur de raisonnement est bien réelle, et que j'ai déjà vu des gens la commettre. Quand vous pouvez avoir un garde-fou matériel, prenez-le. Cet article parle de tout le reste.
Et votre domaine ?
Ce billet ne parle pas vraiment d'ascenseurs. Les ingrédients, c'étaient un système dont on peut écrire les règles, une chose qui ne doit jamais arriver, et le fait que vérifier des cas, ce n'est pas prouver. On pense que ces trois ingrédients se retrouvent un peu partout. Voici quelques pistes. Vous vous reconnaissez dans l'une d'elles ?
Économiste ? Un barème d'aides sociales est un ensemble de règles, et « aucun ménage ne perd d'argent en gagnant un euro de plus » est votre phrase en rouge. Les effets de seuil du code des impôts, ça ne ressemble pas à une jonction qui n'appartient à personne ?
Chimiste ? Le verrouillage d'un réacteur, ne jamais chauffer quand l'évent est fermé, c'est la phrase en rouge mot pour mot. Et la soupape de sûreté, ce serait votre fil direct ?
Médecin ? Un protocole de dosage est une machine à états. Est-ce que « ces deux médicaments ne sont jamais actifs en même temps » est écrit quelque part, ou est-ce que tout le monde le sait, simplement ?
Juriste, régulateur ? Les règles d'éligibilité sont déjà un système formel, interprété par des humains plutôt que par des machines. Où sont les failles les plus difficiles à voir ?
La recette ne change pas. Écrire les règles, toutes, y compris celles trop évidentes pour être énoncées. Écrire la chose qui ne doit jamais arriver. Puis faire vérifier le tout par une machine, et prendre au sérieux le moment où elle vous pose une question, parce que c'est là que se font les découvertes.
Parfois, elle n'a aucune question, et vous avez quelque chose de mieux que de la confiance. Parfois, elle en a, et il y a au troisième étage une dame avec un piano électrique qui n'aura jamais à le découvrir.
C'est ce qu'on construit chez Tollens : l'outil qui vous permet de mener le raisonnement ci-dessus dans votre propre notation, dans votre propre domaine, sans devoir d'abord apprendre la logique et l'informatique. Tout ce qu'on a dit sur votre domaine, ce ne sont que des suppositions, et on préférerait de loin l'entendre de votre bouche. Si votre travail a des règles et une phrase en rouge, dites-nous laquelle 🙂