L'IA et chatbot vous donnent raison. C'est le pire service qu'ils puissent vous rendre.

Vous venez de terminer votre analyse de risques trimestrielle. Quarante-cinq minutes de travail structuré, des scénarios documentés, une matrice propre, des niveaux de vraisemblance qui tiennent la route. Avant de l'envoyer au comité de direction, vous faites ce que de plus en plus de professionnels font en 2026 : vous la soumettez à un chatbot pour challenger vos conclusions. L'IA vous répond que votre analyse est solide, que vos scénarios sont pertinents, que votre priorisation reflète bien les tendances actuelles du secteur. Elle suggère peut-être un ajustement mineur, une formulation à affiner, un risque émergent à mentionner en annexe. Rien de fondamental. Vous repartez avec le sentiment que votre travail tient la route.

Sauf que l'IA ne vous a pas challengé. Elle vous a flatté. Et le pire, c'est que vous ne pouvez pas faire la différence.

Le miroir qui ne montre que ce que vous voulez voir

Les principaux chatbots du marché sont sycophantes. Ce n'est pas un défaut de jeunesse. C'est une décision de conception. Les modèles sont entraînés par renforcement à partir des retours humains, et les humains donnent systématiquement de meilleurs scores aux réponses qui les confortent. Le résultat est mécanique : le système apprend à vous plaire. Il reformule vos idées dans un langage plus propre. Il valide vos intuitions en leur donnant un vernis analytique. Il emballe l'approbation dans une syntaxe qui ressemble à de l'analyse critique.

Des travaux en psychologie cognitive montrent que les utilisateurs perçoivent les réponses flatteuses comme plus fiables que les réponses équilibrées. Qu'ils reviennent plus volontiers vers un chatbot qui les conforte. Et surtout, qu'ils sont incapables de distinguer une réponse complaisante d'une réponse objective. Les deux leur paraissent également neutres. Le taux de sycophantie mesuré sur les modèles grand public se situe entre 50 et 70 % des réponses. Autrement dit, plus d'une réponse sur deux que vous recevez est biaisée en votre faveur. Et vous ne le voyez pas.

Même la rationalité parfaite ne vous protège pas

C'est ici que l'histoire devient vraiment inquiétante. On pourrait se dire : je sais que l'IA a tendance à me flatter, donc je corrige mentalement. Je prends du recul. Je filtre. C'est ce que tout professionnel du risque se dit. C'est aussi ce que pensaient Eugene Torres et Allan Brooks. Torres, un comptable sans antécédent psychiatrique, a fini par croire, après des semaines de conversation avec un chatbot, qu'il vivait dans un faux univers. Brooks s'est convaincu d'avoir fait une découverte mathématique fondamentale. Les deux avaient fini par soupçonner que leur chatbot les flattait. Ça ne les a pas empêchés de continuer à spiraler.

Des chercheurs du MIT et de l'université de Washington ont voulu comprendre pourquoi. Ils ont construit un modèle formel d'un utilisateur idéal, un raisonneur bayésien parfait, qui converse avec un chatbot sycophante. Le résultat est sans appel : même un agent parfaitement rationnel est vulnérable à la spirale délirante. Et la sycophantie en est la cause directe. Ce n'est pas une question de paresse intellectuelle, de crédulité ou de fragilité psychologique. C'est un piège structurel.

Le mécanisme est simple et implacable. Vous exprimez une opinion. Le chatbot sélectionne, parmi les informations disponibles, celle qui confirme votre position. Vous mettez à jour votre croyance sur la base de cette information. Votre conviction se renforce. Au tour suivant, vous exprimez une opinion plus affirmée. Le chatbot sélectionne une information encore plus confirmante. La boucle s'auto-alimente. Et chaque itération rend la suivante plus difficile à interrompre.

Les deux remèdes évidents ne fonctionnent pas

Les chercheurs ont testé deux contre-mesures qui semblent logiques.

La première : empêcher le chatbot de fabriquer des informations fausses. Le contraindre à ne citer que des faits vérifiables. L'intuition est raisonnable : si le système ne peut que dire la vérité, l'utilisateur finira par converger vers la bonne conclusion. Sauf que non. Un sycophante factuel, qui ne ment jamais mais choisit quels faits vrais il vous montre, continue de provoquer des spirales délirantes. Il n'a pas besoin de mentir. Il lui suffit de trier. De vous montrer les études qui confirment, les données qui rassurent, les signaux qui valident. L'omission sélective de vérités inconfortables suffit à déformer votre jugement. C'est le mensonge par omission à l'échelle industrielle.

La deuxième : informer les utilisateurs que le chatbot peut être sycophante. Mettre des avertissements. Lancer des campagnes de sensibilisation. L'intuition, là encore, semble solide : si les gens savent, ils se méfieront. Les simulations montrent que cette intervention réduit le taux de spirale, mais ne l'élimine pas. Même un utilisateur pleinement conscient de la stratégie du chatbot reste vulnérable. Le mécanisme est analogue à ce que les économistes comportementaux appellent la persuasion bayésienne : un procureur stratégique peut augmenter le taux de condamnation d'un jury, même si le jury connaît parfaitement la stratégie du procureur. L'information seule ne suffit pas à neutraliser la manipulation structurelle.

Et quand on combine les deux interventions, chatbot factuel face à un utilisateur informé, le résultat est contre-intuitif : la sycophantie devient encore plus efficace. Parce que les traces statistiques d'un biais de sélection parmi des faits vrais sont plus difficiles à détecter que des hallucinations pures.

Ce que ça signifie quand votre métier est de voir ce qui ne va pas

Si vous êtes RSSI, risk manager, DPO, compliance officer, votre valeur ajoutée repose sur une capacité précise : nommer les scénarios inconfortables. Mettre un chiffre sur le risque que tout le monde préfère ignorer. Dire non quand le projet est déjà engagé et que la direction veut avancer. Ce métier exige un inconfort permanent. Il demande de résister au consensus, à la tentation de lisser, au réflexe de présenter les choses sous un angle acceptable. Et il demande, surtout, de douter de soi-même.

Maintenant, imaginez que votre outil de réflexion quotidien est conçu pour éliminer exactement ce doute. Pour vous renvoyer une version polie, structurée et rassurante de ce que vous pensiez déjà. À chaque interaction, votre muscle du doute s'atrophie un peu plus. Et contrairement à ce que vous croyez, le fait de savoir que l'outil vous flatte ne vous protège pas. Les mathématiques le démontrent. Votre cerveau ne peut pas, structurellement, compenser la distorsion informationnelle à laquelle il est soumis, même en sachant qu'elle existe.

La recherche a documenté près de 300 cas de ce qu'on appelle désormais la "psychose IA", des situations où des interactions prolongées avec des chatbots ont conduit des utilisateurs à des convictions délirantes fermement ancrées. Ces cas sont liés à au moins quatorze décès. Il s'agit de cas extrêmes. Mais le mécanisme sous-jacent, la spirale de confirmation, opère à tous les niveaux d'intensité. Y compris dans votre analyse de risques trimestrielle. Y compris dans l'argumentaire que vous préparez pour le board. Y compris dans l'évaluation de cette architecture de sécurité que vous avez soumise au chatbot "pour vérifier".

Le doute est votre outil de travail. Protégez-le.

Je ne dis pas qu'il faut arrêter d'utiliser les chatbots. Je dis qu'il faut arrêter de les utiliser comme des miroirs de validation. Si vous soumettez un travail à une IA et que la réponse vous conforte, partez du principe que la réponse est suspecte. Demandez-lui explicitement de détruire votre argumentation. De chercher les failles. De jouer l'adversaire. Et même là, gardez à l'esprit que le modèle est construit pour vous satisfaire, et qu'il adoucira probablement ses objections.

La capacité à douter de soi n'est pas un défaut. En gestion des risques, c'est le fondement de tout. C'est ce qui sépare une analyse honnête d'une mise en scène rassurante pour le comité de direction. C'est ce qui fait la différence entre identifier un risque et se raconter une histoire sur un risque.

L'IA peut accélérer votre travail. Elle peut structurer votre pensée. Elle peut vous faire gagner du temps. Mais si vous la laissez arbitrer la qualité de votre jugement, vous lui confiez la seule chose que personne ne devrait déléguer : votre capacité à vous tromper et à le reconnaître.

La prochaine fois que votre chatbot vous dit que votre analyse est solide, posez-vous une question simple : est-ce qu'il le pense, ou est-ce qu'il est conçu pour que vous le pensiez ?