Faire confiance, c'est s'autoriser à moins vérifier
Aujourd'hui, vous avez déjà fait confiance au sol sous vos pieds quelques milliers de fois.
À chaque pas, vous lui confiez tout votre poids sans y regarder à deux fois. Vous ne l'avez pas testé ce matin, et vous n'avez demandé à personne s'il allait tenir. Et vous avez bien raison de lui faire confiance : il ne vous déçoit quasiment jamais.
Gardez cette image en tête pendant que je vous dessine l'autre moitié du tableau : en ce moment même, une IA est sans doute en train de rédiger un contrat de trente pages que quelqu'un va signer, avec à peu près autant de temps pour le vérifier que vous en avez eu pour vérifier le sol. Faut-il lui faire confiance ?
Je crois que ça nous met sur la piste d'une jolie définition de la confiance : s'autoriser à moins vérifier. Et la confiance, vue comme ça, c'est ce qui fait tenir ensemble des vies, des entreprises, et même des sociétés. Mais cette définition reste assez abstraite. Alors, la confiance, c'est quoi ? Comment ça se construit ? Comment ça se perd ?
Petit avertissement : au moment où j'écris ces lignes, je travaille chez Tollens, une entreprise qui n'en est pas encore tout à fait une, et dont tout le métier tourne autour de la confiance. Ce billet a beau ressembler à un essai, vous êtes en train de lire un texte sur la confiance écrit par quelqu'un qui en vend. Faites la part des choses : on tient vraiment à mériter votre confiance.
Le sol est-il un ami ?
Dire « je fais confiance au sol », c'est un peu un raccourci. Ce que vous voulez vraiment dire, c'est : je fais confiance au sol pour me porter. Pour ça, vous lui faites confiance à 100 % ou presque, mais vous ne compteriez pas sur lui, par exemple, pour empêcher un cambrioleur d'entrer. Ça, c'est le boulot de votre porte, ou d'un vigile. Le sol est une chose très simple, avec une tâche bien délimitée, et il fait ça extrêmement bien.
La confiance ne porte jamais seulement sur une chose ou sur une personne. Comme l'a formulé Russell Hardin,Dans Trust and Trustworthiness (2002), le philosophe politique Russell Hardin a placé cette structure à trois termes (« A fait confiance à B pour faire X ») au cœur de sa conception de la confiance. c'est toujours une relation à trois termes : je fais confiance à quelqu'un pour faire quelque chose. Deux autres exemples :
- Faire confiance à un collègue pour bien travailler, c'est pouvoir ne pas regarder ses étapes intermédiaires. Vous savez que le résultat qu'il vous rendra vous convaincra.
- Faire confiance à un ami, pour certains, c'est savoir qu'il sera là quand ça compte, qu'il essaiera de vous comprendre, et qu'il agira dans votre intérêt du mieux qu'il peut. C'est une tâche autrement plus complexe, et c'est bien pour ça qu'une amitié met des années à se construire, alors que votre confiance dans le sol vous a peut-être pris quelques heures, ou quelques jours, à l'époque où vous babilliez à quatre pattes.
Je trouve utile de voir la confiance comme un curseur, à régler séparément pour chaque tâche. À 100 %, je n'ai besoin de rien superviser. C'est la confiance que j'accorderais à un cofondateur, par exemple. À 0, je vérifie tout moi-même. C'est la confiance que j'accorde au code généré par une IA quand il touche au certificateur.La partie de notre produit où les erreurs ne sont pas permises. Et le curseur descend même sous zéro : une confiance négative, c'est s'attendre à ce que l'autre travaille contre vous, et donc le surveiller de plus près encore qu'un inconnu.
Tout ça compte énormément, parce que vérifier coûte cher, et fait double emploi. Chaque fois qu'on peut faire confiance, on peut déléguer, et c'est seulement là qu'il devient possible de construire des choses plus grandes que ce qu'on ferait seul. Comme le disait l'économiste Kenneth Arrow : « pratiquement toute transaction commerciale comporte en elle-même une part de confiance ».Kenneth Arrow, « Gifts and Exchanges », Philosophy & Public Affairs, 1972. Il poursuit : « une bonne part du retard économique dans le monde peut s'expliquer par le manque de confiance mutuelle ».
Alors, d'où vient la confiance ?
En y réfléchissant, on a identifié quatre mécanismes par lesquels la confiance se construit. N'hésitez pas à faire une pause ici pour essayer de les deviner avant de lire la suite !On n'a rien inventé, mais ça ne sort pas non plus tout droit de la littérature. On trouve utile de reconstruire nos concepts à partir de zéro, pour être sûrs de bien comprendre de quoi on parle. Si on se trompe, ou qu'on regarde les choses sous le mauvais angle, écrivez-nous, on ne demande qu'à apprendre !
1. La confiance par la preuve sociale
Vos parents ont toujours mangé telle ou telle chose, alors vous partez du principe que c'est bon pour vous. Tout le monde au boulot utilise Claude, alors vous essayez Claude. Et ça dépend autant du nombre de gens qui font confiance à quelque chose que de la confiance que vous, vous leur accordez. C'est comme ça que fonctionne la certification : des institutions en qui vous avez confiance agréent des organismes, qui certifient des marques, auxquelles vous faites donc confiance. Une bonne partie de ce que vous voyez, utilisez ou dites vient d'un immense écheveau de jugements empruntés !
- C'est peut-être le plus puissant de tous les leviers de la confiance. Mais vous savez déjà à quel point il peut être destructeur à l'échelle d'une société : chambres d'écho, polarisation, groupes qui s'éloignent de plus en plus les uns des autres.Le petit jeu de Nicky Case We Become What We Behold montre cette boucle en cinq minutes environ. Attention : il se termine sur des scènes de violence (façon dessin animé).
2. La confiance par les signes extérieurs
La deuxième façon de décider à quoi vous fier, ce sont les heuristiques : des signes extérieurs, des raccourcis qui vous évitent d'avoir à tout examiner sous toutes les coutures. Impossible de vivre sans, mais c'est aussi la façon de faire confiance la plus facile à tromper, et de bien des manières :
- Apprendre à produire les signes extérieurs coûte souvent moins cher, ou demande moins d'efforts, que d'atteindre vraiment la qualité qu'ils sont censés refléter. Les gens très consciencieux dans leur travail font des produits qui marchent bien, longtemps, et qui sont jolis. On a donc appris que les jolis produits sont fiables. C'est ce qui nous a donné la mode jetable, et des objets en plastique qui cassent dix fois plus vite qu'une version plus robuste.
- À l'échelle d'une société, les heuristiques (comme juger des candidats sur leurs diplômes, à défaut de leurs compétences) ont tendance à créer des incentives mal alignés, et toute une série de nouveaux problèmes. Ironie du sort, c'est la façon de faire confiance à laquelle on devrait le moins se fier pour bien juger : elle opère surtout de manière inconsciente, et c'est de là que viennent tous les biais qu'on connaît.
3. La confiance par la répétition
La troisième façon est aussi la plus ancienne et la plus ancrée. C'est l'un des piliers de la méthode scientifique, et toute la raison d'être des périodes d'essai. C'est pour ça qu'on se fréquente un moment avant que ça devienne sérieux, et que, sur un vélo qu'on vient d'acheter, on fait particulièrement attention les premières minutes. La confiance repose sur l'idée que les choses vont se comporter à peu près comme avant. Pour apprendre à les connaître, il faut les observer, tout vérifier, jusqu'à ce que s'installe ce sentiment de fiabilité.
Mais cette façon de faire confiance a trois défauts :
- Elle est lente, très lente.
- Elle ne marche que si on regarde la bonne chose, sous le bon angle.On attribue souvent à Bertrand Russell une illustration de ce défaut : le poulet nourri chaque matin a d'excellentes raisons de faire confiance au fermier, jusqu'au dernier matin. Comme il l'écrit dans The Problems of Philosophy (1912 ; en français, Problèmes de philosophie) : « L'homme qui a nourri le poulet tous les jours de sa vie finit par lui tordre le cou. »
- Elle est fragile, et il faut un peu de chance pour la construire correctement.Pour aller plus loin sur la façon dont la confiance se construit et se brise entre les gens, allez voir The Evolution of Trust, un guide interactif de Nicky Case, à qui l'on doit aussi le jeu ci-dessus.
4. La confiance par la compréhension
Mais il y en a une quatrième ! On peut se mettre à faire confiance à quelque chose en le comprenant. Si vous savez pourquoi ça va aller dans votre sens, pas besoin de le regarder faire des dizaines de fois, ni de vous en remettre au jugement des autres. Cette voie a ses défauts, elle aussi, mais c'est de loin la façon la plus solide de construire la confiance. C'est pour ça qu'un garagiste qui vous montre la pièce usée est si rassurant. C'est pour ça qu'une discussion avec un ami après une dispute fait autant de bien. C'est pour ça qu'on aime connaître les motivations des gens, et pas seulement ce qu'ils affirment. On adore comprendre pourquoi on devrait leur faire confiance, plutôt que juste si on le devrait.
De la boîte noire à la boîte blanche
Ces quatre façons de faire confiance sont différentes, mais pas incomparables. Un axe qu'on aime bien utiliser va de la boîte noire à la boîte blanche. La preuve sociale ne demande même pas de regarder le sujet : les gens le disent, vous suivez. Avec les signes extérieurs, il faut regarder la surface, puis décider. La confiance par la répétition demande d'observer le comportement, plus longtemps. Et la compréhension, c'est tout simplement regarder à l'intérieur. L'axe va de ce qu'on appelle une boîte noire, un système dont on ne voit rien et auquel il faut faire confiance pour des raisons extérieures, jusqu'à une boîte blanche (qu'on devrait plutôt appeler boîte transparente), un système dont on peut inspecter les rouages.
La confiance arrive à pied
Youpi ! On sait maintenant comment construire la confiance. Mais comment la garder ? Ou plutôt, comment la perd-on ?
Le plus souvent, quand on finit par vérifier, par hasard, pour une tout autre raison, ou parce que quelqu'un d'autre nous en parle, et qu'on découvre un choix clairement contraire à ce qu'on voulait (une mauvaise décision, un geste qui fait du tort, quelque chose qu'on a dit sur vous, une panne…).
Et là, on se rend compte que la confiance est asymétrique. Elle est très dure à construire, et très facile à perdre. Les Néerlandais ont un dicton pour ça : la confiance arrive à pied et repart à cheval.
C'est aussi pour ça qu'on aime l'axe qui va de la boîte noire à la boîte blanche : il fonctionne un peu comme un indice de réparabilité. Si votre confiance venait du côté boîte noire, une seule défaillance vous laisse sans rien à quoi vous raccrocher. Vous n'aviez que la preuve sociale, et maintenant vous n'avez plus rien. À l'autre bout du spectre, si votre confiance venait de la compréhension, une défaillance, c'est quelque chose que vous pouvez expliquer. En général, elle se situe à un endroit bien précis, et il suffit de la corriger pour pouvoir de nouveau faire confiance à l'ensemble ! La confiance fondée sur la compréhension plie là où les autres rompraient.
Et la vie continue
La preuve sociale n'est pas si fiable, mais la plupart du temps, elle fait l'affaire. On fait comme on a vu les autres faire, parfois on se trompe, et la vie continue.
Les signes extérieurs peuvent être truqués, mais en général ils suffisent. On se fait des amis en qui on a confiance, on achète des choses auxquelles on se fie, parfois on se fait arnaquer, et la vie continue.
La répétition est lente, mais en amour comme à l'embauche, on compte dessus quand même, et la vie continue.
Pendant des milliers d'années, ces mécanismes ont été réglés pour un monde de villages : quelques dizaines de personnes dont on pouvait jauger la parole, des objets qu'on pouvait tenir dans ses mains, des nouvelles qui mettaient des semaines à arriver.
Puis, en à peine vingt ans, la technologie les a tous recâblés.
Les réseaux sociaux ont transformé la preuve sociale en tableau des scores. Des likes, des partages, des compteurs d'abonnés, en temps réel : un tableau des scores géant, allumé jour et nuit, qui récompense ceux qui captent l'attention plus que ceux qui disent vrai. Sur Twitter, on a mesuré que les fausses nouvelles se propageaient six fois plus vite que les vraies, parce qu'elles étaient plus surprenantes, plus choquantes, plus chargées en émotion.Vosoughi, Roy et Aral, « The spread of true and false news online », Science, 2018. Les fausses informations avaient 70 % de chances de plus d'être retweetées que les vraies, et le résultat tenait toujours une fois les bots retirés des données.
Les signes extérieurs ont suivi le même chemin. Filtres, modèles tout prêts, outils no-code, banques d'images, logiciels de retouche toujours plus performants : tout ça a mis le vernis à la portée de tout le monde. Aujourd'hui, tout a l'air professionnel, et avoir l'air professionnel signifie de moins en moins.
Et la répétition s'est fait avoir par… la répétition. Une affirmation qu'on a entendue plusieurs fois paraît plus vraie, même quand on sait déjà qu'elle est fausse.Les psychologues appellent ça l'effet de vérité illusoire, décrit pour la première fois en 1977. Fazio et ses collègues ont montré en 2015 qu'il fonctionne même quand on connaît la bonne réponse (« Knowledge does not protect against illusory truth », Journal of Experimental Psychology: General). Pendant presque toute l'histoire, entendre la même chose encore et encore voulait dire que beaucoup de gens, chacun de leur côté, avaient jugé qu'elle méritait d'être répétée. Plus maintenant : en marketing, on part volontiers du principe que le nombre de fois où les gens voient votre pub, sur un maximum de canaux, compte au moins autant que sa qualité.
Il n'a fallu aucune mauvaise intention pour en arriver là. Ces mécanismes ont été conçus pour un monde lent, et le monde a cessé d'être lent. Tout a changé trop vite, et les conséquences ont été désastreuses.
Et puis l'IA est arrivée
Aujourd'hui, il y a l'IA, et chez Tollens, on veut anticiper ses effets et commencer à construire des digues avant que tout ça ne se reproduise.
L'IA actionne les quatre leviers, à une échelle sans précédent.
- La preuve sociale est faussée. Tout le monde est obligé d'utiliser l'IA pour rester compétitif, quelle que soit la confiance qu'on lui accorde. Vous voyez tout le monde utiliser l'IA, alors vous commencez à lui faire confiance.
- L'IA est bluffante sur tout ce qui relève de la surface, si bien que les heuristiques ne veulent plus rien dire : n'importe quel agent peut vous faire un site tellement joli que vous vous mettez à croire à votre propre projet, alors même que vous savez qu'il n'y a encore rien derrière. Et les agents sont entraînés pour plaire, pour inspirer confiance, et pour maximiser des métriques qui vous pousseront à leur donner plus d'informations, plus de données, plus de confiance.En avril 2025, OpenAI a dû annuler une mise à jour qui avait rendu ChatGPT si désireux de plaire qu'il encensait à peu près tout ce que lui disaient ses utilisateurs. Leur propre explication : la mise à jour accordait trop de poids aux retours à court terme, les pouces levés et les pouces baissés.
- La répétition est inscrite dans la conception même des chatbots et des agents : ils sont là tous les jours, toujours disponibles, toujours patients, toujours conciliants.
- Reste la compréhension, la seule voie difficile à contrefaire. Mais c'est aussi celle qui ne passe pas à l'échelle : comprendre prend du temps, et l'IA produit plus que quiconque ne pourra jamais lire. Comme je l'écrivais dans un billet précédent, la supervision est passée à l'échelle magnifiquement, mais la vérification n'a pas suivi. Qui n'a jamais fait écrire un long document par une IA, avant de lui en demander un résumé, puis de lui demander de prendre elle-même la décision à partir de ce résumé ?
La confiance était déjà une question compliquée avant l'IA, assez pour que l'idée de lancer Tollens nous trotte dans la tête depuis quelques années, mais l'IA a rendu les enjeux vertigineux, et urgents.
Alors, on fait quoi ?
Revenons à notre contrat de trente pages.
Disons qu'il a été rédigé par une IA, ou par un collègue fatigué, et que c'est vous qui signez. Honnêtement, la plupart de ces pages, vous vous en fichez. Ce qui vous importe tient en quelques points : que le total des lignes corresponde bien au prix convenu, que chaque échéance de l'annexe tombe avant la date de livraison finale, que les pénalités de retard ne dépassent jamais 10 % du prix. Et plus généralement, que l'ensemble soit cohérent. Trois questions explicites, et une foule de vérifications de fond que vous faites sans même y penser. Aujourd'hui, le seul moyen de savoir si tout ça tient, c'est de lire les trente pages, et, plus pénible encore, de tout relire à chaque nouvelle version.
On pense que ça pourrait se passer bien mieux :
- Vous écrivez vos trois questions, avec des mots que vous comprenez, à peu près comme vous les poseriez à un collègue. C'est la partie que vous seul pouvez faire, parce que vous seul savez ce qui compte.
- L'IA traduit le contrat dans un langage qu'une machine peut vérifier. Ou, idéalement, il a été rédigé directement dans ce langage. Ça, une IA peut s'en charger, parce que même si elle se trompe, ses erreurs seront détectées.
- Un vérificateur passe chaque clause en revue. Pour chaque règle, soit il répond ✓, soit il pointe l'endroit exact qui l'enfreint : « Annexe B, point 4 : livraison le 14 mars, après la date finale du 1er mars. »
C'est la partie délicate à expliquer. Le cœur du mécanisme, c'est que vous n'avez plus besoin de lire les vingt-neuf pages et demie où tout va bien. Il vous suffit de poser les questions explicitement, et de lire la conclusion du vérificateur. Si quoi que ce soit, absolument quoi que ce soit, manque ne serait-ce qu'un peu de rigueur, il ne le laissera pas passer.
Pourquoi faire confiance au vérificateur ? Parce que vous pouvez le mettre à l'épreuve. Parce qu'il ne vous cachera jamais la moindre complexité sur laquelle votre confiance devrait reposer. Vous pouvez, si vous prenez le temps, le comprendre vraiment. Parce que c'est la partie qui ne contient pas d'IA. Tout est auditable, le raisonnement est explicite, déterministe. Ce n'est qu'une petite pièce, volontairement ennuyeuse, construite sur les méthodes formelles : la même idée qui vous permet de faire confiance au théorème de Pythagore sans mesurer tous les triangles rectangles de l'univers. Une fois que c'est prouvé, c'est vrai pour tous. (Et les mathématiques ne déçoivent jamais. Enfin si, une fois,Pendant des décennies, les mathématiciens se sont appuyés sur une règle qui semblait trop évidente pour être mise en doute : toute propriété qu'on peut décrire définit un ensemble. Puis, en 1902, Bertrand Russell (oui, celui du poulet) a pointé du doigt l'ensemble de tous les ensembles qui ne se contiennent pas eux-mêmes : se contient-il lui-même ? Les deux réponses mènent à une contradiction, et les fondements auxquels tout le monde se fiait se sont donc révélés incohérents. Gottlob Frege, qui avait passé des années à bâtir l'arithmétique dessus, a répondu : « l'arithmétique chancelle ». Les mathématiciens ont reconstruit ces fondements avec plus de soin, et ils tiennent depuis. mais ça reste ce qu'on a de plus solide dans un monde qui ne tient pas en place.)
C'est Clinch, notre premier outil. Aujourd'hui, c'est un prototype qui vérifie des raisonnements : logique, arithmétique, statistiques. Les contrats, les plannings et les formulaires, c'est là qu'on veut l'emmener ensuite.
Et vous, quel est votre contrat de trente pages ?
S'il y a une question à se poser aujourd'hui, à notre avis, c'est celle-ci :
Entre le sol, le contrat, le rapport, le travail de vos stagiaires et le résumé de l'IA, dans un monde qui va toujours plus vite, à quoi devriez-vous faire confiance, et à quoi pas ?
On serait vraiment ravis de connaître votre réponse. Et comme tout ce billet défend l'idée qu'il ne faut croire personne sur parole, nous compris, on aimerait aussi savoir où, selon vous, on s'est trompés. Écrivez-nous 🙂
La suite : Répète pour voir ?, sur l'autre moitié de la confiance.