Le Centaure, pas l’Oracle : Pourquoi le meilleur coach IA a encore besoin d’un humain

Il y a une histoire tirée des échecs à laquelle je reviens sans cesse en construisant Afitpilot.

Tout le monde se souvient de 1997 — l’année où Deep Blue d’IBM a battu Garry Kasparov, et où la presse a déclaré que les machines avaient enfin gagné. Nate Silver raconte cette histoire de manière brillante dans The Signal and the Noise, y compris le détail selon lequel le coup qui a le plus déstabilisé Kasparov, celui qui l’a convaincu que l’ordinateur fonctionnait à un niveau supérieur, était presque certainement un bug logiciel. La machine s’est embrouillée, a joué un coup presque aléatoire, et un champion du monde y a vu du génie dans du bruit.

Mais l’histoire la plus intéressante vient après 1997, et c’est celle qui compte vraiment pour quiconque construit avec l’IA aujourd’hui.

Un humain faible + une bonne machine + un bon processus

Une fois que les moteurs ont clairement surpassé les humains en calcul, les échecs n’ont pas simplement couronné les ordinateurs. Un nouveau format est apparu — les échecs « freestyle » ou « avancés » — où les humains étaient autorisés à consulter les moteurs pendant qu’ils jouaient. Et les résultats ont été véritablement surprenants.

Les vainqueurs n’étaient pas les grands maîtres. Ce n’étaient pas non plus les superordinateurs les plus puissants fonctionnant seuls. Les équipes qui gagnaient souvent étaient des amateurs associés à des machines ordinaires qui avaient compris quelque chose de plus précieux que le talent humain brut ou la puissance de calcul brute : un processus.

Kasparov l’a résumé par une formule. Un joueur humain faible, associé à une machine, plus un bon processus, pouvait battre un joueur humain fort avec une machine et un processus inférieur — et pouvait battre le moteur le plus puissant fonctionnant seul. L’avantage ne venait pas de l’intelligence. Il venait du workflow qui reliait les deux.

C’est le modèle du « centaure », et c’est l’idée vers laquelle Silver tend dans son livre : les meilleurs résultats ne viennent pas des humains seuls, ni de l’IA seule, mais du partenariat. La machine calcule plus vite que vous ne le ferez jamais. L’humain décide de ce qui compte vraiment.

Ce que chaque partie fait réellement bien

Une fois que vous l’avez vu, vous ne pouvez plus l’ignorer. Les humains et les machines ne sont pas en compétition pour le même travail — ils excellent dans des domaines presque complètement différents.

La machine est un amplificateur de raisonnement probabiliste. Elle agrège les schémas, conserve un contexte énorme, reste cohérente sur des milliers de décisions, ne se fatigue jamais, n’oublie jamais. Elle excelle à « étant donné tout ce que j’ai vu, voici la réponse probable. »

L’humain, lui, excelle dans les domaines où la machine n’a pas vraiment de prise. Formuler le problème en premier lieu. Lire le contexte. Remarquer quand quelque chose est bizarre — l’anomalie, la valeur aberrante, ce qui ne cadre pas. Donner du sens. Adapter l’objectif lorsque la situation change. Et, surtout, sentir quand le modèle se trompe simplement.

La machine vous dit ce qui est probable. L’humain sait quand « probable » n’a pas d’importance.

Le piège dans lequel tombent toutes les startups IA

Voilà pourquoi cela me préoccupe. L’instinct dominant en IA en ce moment — et j’en ressens constamment l’attrait — est de construire l’oracle. Le système entièrement autonome qui sait tout. « Le coach IA a toutes les réponses. Faites-lui simplement confiance. »

C’est un argument séduisant et, en matière de coaching, il est faux.

Le coaching est un domaine où les informations pertinentes sont réparties entre trois entités qui ne communiquent pas clairement entre elles :

• L’athlète possède l’expérience subjective — comment la séance s’est réellement passée, cette petite gêne qui n’est pas encore une blessure, la mauvaise semaine au travail qui sabote discrètement la récupération.
• Le coach possède l’intuition et la reconnaissance des schémas acquises au fil des années — l’évaluation de l’état mental de quelqu’un, le jugement pour savoir quand pousser et quand ralentir.
• L’IA possède la mémoire, l’échelle, la probabilité et la cohérence — les tendances de fatigue, les calculs de charge, la capacité de suivre des centaines d’athlètes en continu sans perdre le fil.

Un oracle prétend qu’une de ces trois entités peut absorber les deux autres. Ce n’est pas possible. Le système le plus performant n’est pas le remplacement — c’est la division du travail :

L’IA gère l’agrégation des schémas, la fatigue et les tendances de charge, la mémoire, la cohérence et les suggestions de premier jet. L’humain gère l’interprétation, les cas particuliers, la psychologie, les compromis et le jugement stratégique.

C’est le coaching centaure. Et c’est l’architecture vers laquelle je construis réellement.

Mes propres frustrations me disaient cela

Le plus drôle, c’est que l’argument en faveur du modèle centaure se cachait dans mes propres rapports de bugs.

Lorsque je me repose trop sur le modèle de langage, il produit des plans plausibles mais génériques — compétents en moyenne, mais parfois erronés avec assurance. Environ un résultat sur cinq nécessite une correction humaine. Pendant longtemps, j’ai traité ce chiffre comme un problème à résoudre par l’ingénierie : le réduire à zéro, livrer l’oracle.

Mais retournons la situation. Les humains seuls produisent d’excellents jugements individuels et ne peuvent pas étendre ce jugement à des centaines d’athlètes, semaine après semaine, sans s’épuiser. La machine seule s’adapte parfaitement et fait discrètement des erreurs qu’aucun coach expérimenté ne ferait. Aucune des deux solutions n’est la réponse à elle seule.

L'effet de levier ne réside pas dans le jugement humain ou la cohérence de la machine. Il réside dans le jugement humain multiplié par la cohérence de la machine. Ce taux de correction n'est pas un échec du système — bien géré, c'est le système. L'objectif même de la Timeline et du workflow avec intervention humaine est de rendre ces corrections peu coûteuses, rapides et visibles, afin que l'attention du coach se porte exactement là où la machine est la moins fiable.

L'idée plus profonde de Silver : penser comme un renard

Il y a un second fil conducteur dans The Signal and the Noise qui s'applique au coaching de manière presque trop parfaite. La thèse plus large de Silver est profondément bayésienne : une bonne prédiction est itérative, l'incertitude est inévitable, les modèles doivent être mis à jour au fur et à mesure que de nouvelles preuves apparaissent, et la surconfiance est ce qui tue discrètement la précision. Les meilleurs prévisionnistes, selon lui, sont des « renards » qui entretiennent de nombreuses petites hypothèses révisables — et non des « hérissons » avec une grande théorie confiante qu'ils défendent jusqu'au bout.

Le coaching adaptatif est une pensée de renard. La réponse d'un athlète à l'entraînement est probabiliste, pas déterministe. Chaque plan est en réalité une hypothèse. Les retours — RPE, déroulement de la séance, impact de la charge — sont des preuves qui devraient mettre à jour les a priori. Un bon système se recalibre en continu et reconnaît honnêtement ce qu'il ne sait pas encore.

À cette aune, le plan PDF statique de 12 semaines est un pur hérisson : une théorie confiante, écrite une fois, défendue contre toutes les preuves entrantes jusqu'à la fin du bloc. Un système adaptatif qui admet l'incertitude et se met à jour est le renard. Je sais lequel je voudrais pour me coacher.

Le pari

Voilà donc le pari qui sous-tend le produit. Les systèmes gagnants de la prochaine décennie ne seront probablement pas ceux qui remplacent les humains. Ce seront ceux qui rendent les humains à forte capacité d'action considérablement plus efficaces — qui prennent un bon coach et lui donnent la portée de cent.

Pas l'oracle. Le centaure.

La machine calcule. L'humain décide de ce qui compte. Bien construire la jonction entre les deux, c'est tout l'avantage.

Références

1. Kasparov, Garry. « The Chess Master and the Computer. » The New York Review of Books, 11 février 2010. https://www.nybooks.com/articles/2010/02/11/the-chess-master-and-the-computer/ — Confirme le résultat des échecs freestyle et la formule exacte. Les termes de Kasparov : un humain faible plus une machine plus un meilleur processus battaient un ordinateur puissant seul et, plus surprenant, un humain fort avec une machine utilisant un processus inférieur. Les vainqueurs n'étaient pas des grands maîtres avec du matériel haut de gamme, mais une paire d'Américains amateurs utilisant trois ordinateurs, les « coachant » pour analyser en profondeur les positions. Theoreti
2. Silver, Nate. The Signal and the Noise : Pourquoi tant de prédictions échouent — mais certaines non. Penguin Press, 2012. — Soutient le récit de Deep Blue / 1997, la thèse bayésienne de la prévision, et le cadre renard vs hérisson appliqué à la prédiction. Wikipédia
3. Tetlock, Philip E. Expert Political Judgment: How Good Is It? How Can We Know? Princeton University Press, 2005. — La recherche sous-jacente sur la prévision. L'image du renard/hérisson dans le livre de Silver est empruntée à Tetlock, qui l'a lui-même adaptée d'Isaiah Berlin. Si vous voulez créditer la source des preuves que les renards surpassent effectivement les hérissons, c'est ici, pas chez Silver. Bookforum
4. Berlin, Isaiah. The Hedgehog and the Fox: An Essay on Tolstoy's View of History. 1953. — Origine de la métaphore elle-même. Berlin l'a reprise de Tolstoï et, en fin de compte, d'un vers de poésie grecque (le poète Archiloque). Optionnel — à inclure uniquement si vous souhaitez retracer toute la lignée.