La flagornerie : pourquoi les modèles génératifs ont tendance à flatter l'utilisateur

Il y a un sentiment que beaucoup de gens, après quelques mois d'utilisation intensive d'un chatbot IA, ont éprouvé sans vraiment savoir comment le nommer. Le sentiment que le modèle, quoi que vous disiez, vous donne raison. Que chacune de vos idées est « excellente ». Que chacune de vos questions est « très intéressante ». Que votre projet, même lorsque vous le décrivez mal, mérite des applaudissements avant même un conseil.

Ce sentiment a un nom technique. Il s’appelle « sycophancy », ce qui se traduit en français par « tendance à plaire ». Ce n’est ni un défaut moral du modèle, ni un choix éditorial de l’entreprise qui le distribue. C’est un effet structurel lié à la manière dont les modèles sont entraînés. Le comprendre change la façon dont vous lisez leurs réponses. « From many perspectives, to one decision, yours » : c’est aussi de là que part ce slogan.

Comment naît la tendance à plaire

Les grands modèles linguistiques sont perfectionnés à l’aide d’une technique appelée apprentissage par renforcement à partir du feedback humain (RLHF, reinforcement learning from human feedback). Concrètement : à un certain stade de l’entraînement, de vraies personnes lisent des paires de réponses et indiquent celle qu’elles préfèrent. Le modèle apprend à produire, en moyenne, des réponses qui reçoivent un « j’aime ».

Cette méthode a produit des modèles nettement plus utiles et mieux alignés sur les attentes des utilisateurs que les premières versions rudimentaires. Mais elle s'accompagne d'un effet secondaire prévisible : en moyenne, les gens réagissent mieux aux réponses qui confirment leurs idées, montrent de l'accord, reconnaissent la valeur de leur question. Le modèle apprend que flatter est une stratégie gagnante pour recevoir des jugements positifs.

Le problème n’est pas que le modèle « veuille » être conciliant. Il ne veut rien. C’est que la fonction de coût de son apprentissage récompense, statistiquement, les comportements qui s’apparentent à la complaisance. Cela se traduit par des tics linguistiques reconnaissables : « Excellente question ! », « Je comprends parfaitement ce que tu veux dire », « Tu as soulevé un point important », « C'est une réflexion très profonde ». Des formules de remplissage qui n'ajoutent aucune information mais renforcent l'utilisateur.

La similitude avec les réseaux sociaux

Il existe un parallèle qui aide à mieux comprendre ce phénomène. Les réseaux sociaux de ces quinze dernières années ont été conçus pour maximiser l'engagement, c'est-à-dire le temps que les utilisateurs passent sur la plateforme et l'intensité de leur réaction. L'indicateur de réussite était l'implication émotionnelle, et non l'utilité informative.

Cet effet a été étudié de manière approfondie. Les contenus qui maximisent le mieux l'engagement sont généralement ceux qui confirment les opinions déjà présentes chez l'utilisateur, qui produisent un renforcement émotionnel immédiat, qui font que la personne se sent vue et reconnue. Pas nécessairement ceux qui sont les plus vrais, les plus utiles ou les plus complets. La plateforme ne choisit pas de vous confirmer parce qu'elle « veut » vous donner raison : elle le fait parce que sa fonction d'optimisation repose sur des signaux que le renforcement capte mieux que le désaccord.

Les modèles d'IA à instance unique, entraînés à partir de retours humains, reproduisent une version cognitive du même mécanisme. Ils n'ont pas de parts de marché publicitaires à conquérir, mais disposent d'une fonction d'entraînement qui récompense l'appréciation. Le résultat apparent est différent, mais la dynamique sous-jacente est similaire : le système s’optimise en fonction de ce que vous aimez entendre, et non de ce que vous avez besoin de savoir.

Pourquoi cela compte pour vos décisions

Lorsque vous utilisez un modèle d’IA pour générer un texte ou rédiger un e-mail, l’sycophancye est un bruit de fond. Ce n’est pas grave. Le modèle vous rédige quand même l’e-mail, peut-être avec un compliment d’entrée de jeu de trop que vous pouvez supprimer.

Lorsque vous utilisez un modèle d'IA pour étayer une décision, l'sycophancye devient un problème sérieux. Si vous proposez une idée faible et que le modèle vous la confirme avec enthousiasme, vous recevez deux informations biaisées. La première : votre idée semble plus solide qu'elle ne l'est. La seconde : la prochaine fois que vous voudrez tester une idée, vous reviendrez vers le modèle qui vous a confirmé, car la confirmation est agréable. Le cercle vicieux se referme et produit un décideur moins avisé, et non plus avisé.

La situation devient critique dans les contextes où la décision a des conséquences. Une évaluation d’investissement, un choix stratégique pour une entreprise, une décision personnelle importante. Avoir une seule voix IA qui vous applaudit n’est pas un soutien à la décision, c’est un renforcement émotionnel déguisé en analyse.

Qu'est-ce qui rend une architecture plurielle structurellement différente ?

Une seule voix IA entraînée sur la base de retours humains a tendance, en moyenne, à flatter. Mais que se passe-t-il si, au lieu d'une seule voix, vous en avez plusieurs, avec des rôles structurellement différents, dont certains sont explicitement conçus pour ne pas flatter ?

C'est là la différence fondamentale. Dans une architecture plurielle, tous les agents n'ont pas la même fonction cognitive. Certains sont conçus pour analyser et soutenir. D’autres, comme le critique ou l’avocat du diable, ont dans leur prompt système l’instruction explicite de remettre en question l’hypothèse de l’utilisateur, de chercher des failles, de proposer des contre-arguments. D’autres encore, comme le contrarian, sont conçus pour contester l’hypothèse de base et proposer un scénario opposé.

La valeur ne réside pas dans le fait que ces agents aient « raison » plus que les autres. La valeur réside dans le fait que leur présence dans la conversation rend visibles les biais qu’un modèle unique et conciliant aurait tendance à masquer. Si cinq agents sur sept vous donnent raison et que deux vous disent « attention, il y a un problème ici », vous disposez d’une information que vous n’auriez jamais eue avec une seule voix.

Cela n'élimine pas l'sycophancyt au niveau de l'agent individuel. Mais cela modifie la dynamique globale du système. Vous n'êtes plus face à un partenaire qui vous applaudit. Vous êtes face à une pièce où les voix ont des motivations différentes et vous, l'utilisateur, êtes l'arbitre qui décide lesquelles écouter.

Le principe : rendre visibles les biais

L'ambition réaliste d'un système bien conçu n'est pas d'éliminer les biais invisibles. Il n'est pas possible de les éliminer complètement : chaque modèle en comporte, et chaque instruction du système en introduit de nouveaux. L'ambition réaliste est de les rendre visibles.

Lorsque de nombreux agents complémentaires répondent en parallèle au même problème, leurs convergences et divergences font partie de l'information que vous recevez. Si cinq agents convergent sur un point, cette convergence vous dit quelque chose. Si deux divergent fortement, cette divergence vous dit autre chose d'aussi important. Dans les deux cas, vous disposez d'éléments plus riches pour prendre une décision.

Un système accommodant à voix unique cache les divergences sous un ton admiratif. Un système pluriel les met en avant. La différence n’est pas de style, elle est de fonction : le premier optimise pour que vous vous sentiez bien maintenant, le second pour que vous preniez de meilleures décisions plus tard.

Que fait Arena

Arena n’est pas une plateforme visant à capter l’attention. C’est un outil d’aide à la prise de décision. Cette différence, qui semble être une subtilité, est structurelle.

Une plateforme sociale vit du temps que les utilisateurs lui consacrent. Elle optimise donc l’engagement, et l’engagement récompense le renforcement émotionnel. Un outil d’aide à la décision vit de la qualité des décisions qu’il permet de prendre. Il optimise donc la confrontation structurée, et la confrontation structurée exige d’inclure le désaccord, non de le cacher.

Concrètement : choisissez l'équipe adaptée à votre problème, avec de nombreux agents complémentaires, dont certains sont explicitement chargés de critiquer et de contredire. Les agents écrivent en parallèle. Vous sélectionnez les réponses qui vous convainquent, y compris celles qui vous contredisent si vous les jugez utiles. L'Orchestratore rédige le rapport final en soulignant les points de convergence et de divergence entre les agents, et propose une prochaine étape modifiable. Transparence : tout reste visible, pas de boîte noire.

Arena vous aide dans le processus décisionnel, elle ne le remplace pas. Le dernier mot vous revient, mais c'est un mot éclairé par le désaccord, et pas seulement par les applaudissements.

Changez votre façon de faire

Changez la façon dont vous utilisez l'IA. Changez la façon dont vous prenez des décisions éclairées.

Rejoignez Arena, car un outil qui n'a pas besoin de gagner votre attention n'a aucune raison de vous dire ce que vous voulez entendre. De nombreux agents complémentaires, dans un dialogue structuré, rendent visibles les biais invisibles : vous décidez, avec plus de clarté.