Thinking Fast and Slow de Kahneman : ce qu'il m'a appris sur l'IA, et vice-versa.

Vous avez sûrement entendu parler de ce livre sans l'avoir lu. Ou vous l'avez commencé, posé, et repris deux ans plus tard. C'est ce qui m'est arrivé. Et quand je l'ai finalement terminé, j'ai réalisé que Daniel Kahneman ne parle pas que de psychologie : il parle de la façon dont on prend des décisions dans l'incertitude. Ce qui, soit dit en passant, est exactement ce que fait une IA chaque fois qu'elle génère une réponse. Le parallèle m'a frappé au point de relire certains chapitres avec ChatGPT ouvert à côté. Voilà ce que j'en ai tiré, pour vous et pour moi.

## 🧠 Système 1, Système 2 : vous les connaissez déjà, vous les ignorez quand même

Kahneman (https://fr.wikipedia.org/wiki/Daniel_Kahneman) décrit deux modes de pensée. Le Système 1 est rapide, intuitif, automatique. Le Système 2 est lent, analytique, délibéré. Le premier fait l'essentiel du travail. Le second intervient quand on lui demande expressément de le faire, et encore, à contrecoeur.

Traduction concrète : quand vous recrutez quelqu'un et que vous avez une "bonne impression" dès les premières minutes, c'est le Système 1 qui pilote. Quand vous évaluez un devis fournisseur en comparant poste par poste, c'est le Système 2. Le problème, c'est qu'on croit souvent que c'est le Système 2 qui décide, alors que le Système 1 a déjà rendu son verdict.

Ce qui m'a arrêté net, c'est la suite logique : une IA comme GPT-4 (https://openai.com/gpt-4) fonctionne d'une manière qui ressemble, structurellement, au Système 1. Elle produit une réponse probable, fluide, convaincante, en une fraction de seconde. Elle ne "réfléchit" pas au sens où on l'entend. Elle prédit le mot suivant le plus vraisemblable, avec une confiance déconcertante. Et comme le Système 1 humain, elle peut être très confiante, et complètement à côté.

## ⚡ Le biais de confirmation : notre point commun le plus gênant

Kahneman décrit le biais de confirmation comme l'un des plus persistants. On cherche des preuves qui valident ce qu'on croit déjà. On ignore ce qui contredit. Et on appelle ça "l'expérience" ou "le feeling".

Les dirigeants de TPE/PME sont particulièrement exposés, pas parce qu'ils sont moins intelligents, mais parce qu'ils décident souvent seuls, vite, sans filet. Pas de comité, pas de contre-analyse systématique. Le feeling devient la norme.

L'IA reproduit exactement ce défaut, mais en pire. Si vous lui demandez de justifier une décision que vous avez déjà prise, elle le fera avec une éloquence redoutable. Elle est entraînée sur des textes humains, donc elle a intégré nos biais. Lui poser une question orientée, c'est obtenir une réponse orientée. C'est mécanique.

Ce que j'ai commencé à faire : je formule mes prompts en demandant explicitement une contradiction.

```

Tu vas d'abord m'exposer les 3 arguments les plus solides CONTRE cette décision,

avant de me donner les arguments pour.

Contexte : [décrire la décision en question]

Ne cherche pas à équilibrer. Cherche à me déstabiliser.

```

C'est inconfortable. C'est exactement pour ça que ça fonctionne.

## 🎯 L'effet de halo et la confiance mal placée dans les réponses de l'IA

L'effet de halo, c'est quand une première impression positive contamine tous les jugements qui suivent. Quelqu'un parle bien, on lui fait confiance sur tout. Un rapport est bien mis en page, on suppose que le contenu est rigoureux. Une réponse de ChatGPT est bien structurée, on la copie-colle sans vérifier.

Ce dernier point, je l'ai vu se produire autour de moi plus souvent que je ne voudrais l'admettre. L'IA rédige en bon français, structure avec des titres, donne des sources qui semblent sérieuses. Le Système 1 valide immédiatement. Le Système 2 ne se met pas en route, parce que rien ne déclenche l'alerte.

Le livre de Kahneman (https://www.amazon.fr/Thinking-Fast-Slow-Daniel-Kahneman/dp/0141033576) a un nom pour ça : WYSIATI, "What You See Is All There Is". On raisonne avec ce qu'on a sous les yeux, en oubliant ce qu'on ne voit pas. Une IA ne sait pas ce qu'elle ne sait pas. Elle comble les trous avec de la vraisemblance, pas avec de la vérité.

Appliquer ça en pratique, ça veut dire : traiter une réponse d'IA comme un brouillon intelligent, jamais comme une conclusion. Vérifier les chiffres. Questionner les sources. Demander à l'outil lui-même ce qu'il pourrait avoir raté.

```

Dans ta réponse précédente, qu'est-ce que tu aurais pu omettre ou mal évaluer ?

Quelles informations te manquent pour être vraiment fiable sur ce sujet ?

```

Cette question simple change tout. L'IA, sollicitée correctement, reconnaît ses angles morts. Encore faut-il penser à la poser.

## 📊 Les erreurs de prévision : Kahneman avait tout dit avant les dashboards

Un chapitre m'a particulièrement travaillé : celui sur la planification optimiste. Kahneman montre que les humains sous-estiment systématiquement le temps, le coût et la complexité de leurs projets. Pas par mauvaise foi. Par construction mentale. On visualise le scénario qui marche, pas les obstacles.

En TPE/PME, ça se traduit par des budgets dépassés, des délais explosés, des projections commerciales trop belles. Tout le monde a vécu ça, peu de gens l'admettent franchement.

L'IA, utilisée pour faire des prévisions, amplifie ce biais si on n'y prend pas garde. Elle va générer des projections basées sur des patterns existants, souvent des cas de succès. Elle n'a pas accès à vos contraintes réelles, à votre contexte, à ce qui a planté les six dernières fois. Elle produit du plausible, pas du probable.

Ce que Kahneman recommande : utiliser la "vue de l'extérieur". Regarder des projets similaires menés par d'autres, sans s'identifier au sien. Demander : "Combien de projets du même type réussissent vraiment ?"

Avec l'IA, on peut simuler cette vue externe.

```

Je vais te décrire un projet. Donne-moi le taux de succès moyen

de ce type d'initiative en TPE/PME, les 3 causes d'échec les plus fréquentes,

et ce que la plupart des dirigeants sous-estiment au départ.

Contexte du projet : [décrire en 3-4 phrases]

```

La réponse ne sera pas parfaite. Elle sera quand même plus froide et plus utile que votre enthousiasme du moment.

## 🔄 Ce que la lecture du livre change dans ma façon d'utiliser l'IA

Kahneman ne parle pas d'IA. Il est mort en 2024, et ses travaux les plus connus datent des années 70-80 avec Amos Tversky (https://fr.wikipedia.org/wiki/Amos_Tversky). Mais relire ses conclusions aujourd'hui, avec deux ans d'usage quotidien des outils IA derrière moi, c'est comme lire une notice d'utilisation qu'on aurait ignorée.

Voilà ce que j'ai retenu, de façon concrète.

1. (Biais de confirmation) L'IA confirme ce qu'on lui suggère. Structurer ses prompts pour demander la contradiction en premier.

2. (Effet de halo) Une réponse bien rédigée n'est pas une réponse juste. Traiter chaque output comme un brouillon à challenger.

3. (WYSIATI) L'IA raisonne avec ce qu'elle a. Lui demander explicitement ce qu'il lui manque.

4. (Optimisme de planification) Les prévisions générées par l'IA sont basées sur des cas typiques, pas sur votre réalité. Lui demander les causes d'échec avant les facteurs de succès.

5. (Système 1 dominant) L'IA génère du vraisemblable, pas du vrai. Ne jamais désactiver votre Système 2 face à ses réponses, même convaincantes.

Ce qui est paradoxal, et que Kahneman aurait sans doute trouvé amusant : connaître ces biais ne suffit pas à s'en protéger. Lui-même l'écrit. La prise de conscience n'efface pas l'automatisme. Elle permet juste de créer des pauses, des vérifications, des rituels de doute. Exactement ce qu'un bon usage de l'IA devrait produire.

## 🎬 Ce que je vous recommande vraiment

Lisez Thinking Fast and Slow (https://www.amazon.fr/Thinking-Fast-Slow-Daniel-Kahneman/dp/0141033576). Pas parce que c'est un classique, pas pour le mettre sur votre liste. Parce que vous prenez des décisions chaque semaine dans l'incertitude, et que ce livre vous donne une grille de lecture que personne ne vous a enseignée à l'école.

Et la prochaine fois que vous lisez une réponse d'IA qui vous semble évidente et bien construite, demandez-vous lequel de vos deux systèmes vient de valider. Parce qu'en général, c'est le mauvais.

Commencez par ça cette semaine : relisez la dernière décision importante que vous avez prise en utilisant l'IA comme support. Demandez-vous si vous l'avez challengée, ou si vous avez cherché à la confirmer.