Quand être égoïste semble rationnel mais mène au désastre : comprendre le "Dilemme du Prisonnier"

C'est une scène que vous avez probablement vécue, ou que votre enfant vous a racontée avec frustration. Le professeur annonce un "travail de groupe" noté. Sur le papier, l'idée est belle : apprendre à coopérer, mutualiser les compétences et obtenir un meilleur résultat ensemble. Pourtant, dans la réalité, cela se termine souvent de la même façon : un ou deux élèves font tout le travail, pendant que les autres "profitent" de la note sans effort. Pourquoi la coopération est-elle si difficile ? Est-ce juste de la paresse ? Pas seulement. Il existe une explication mathématique fascinante à ce phénomène, issue de ce qu'on appelle la théorie des jeux : le Dilemme du Prisonnier.

Une histoire de braquage et de trahison

Pour comprendre pourquoi votre enfant rechigne parfois à travailler en groupe, il faut faire un détour par l'univers du crime. Le Dilemme du Prisonnier est une expérience de pensée formulée dans les années 1950. Elle démontre comment deux personnes parfaitement rationnelles peuvent finir par prendre des décisions qui vont à l'encontre de leur intérêt commun.

Imaginez deux complices, appelons-les André et Bertrand, arrêtés par la police après un cambriolage important. Le procureur a assez de preuves pour les faire condamner pour une infraction mineure (port d'arme illégal), mais il n'a pas assez de preuves pour le cambriolage lui-même, sauf si l'un des deux avoue.

La police place André et Bertrand dans deux cellules séparées. Ils ne peuvent absolument pas communiquer entre eux. Le procureur vient voir chacun d'eux séparément et leur propose exactement le même marché :

  1. Si tu dénonces ton complice (trahison) et qu'il se tait (coopération) : Tu es libre immédiatement pour avoir aidé la justice, et ton complice prend la peine maximale : 10 ans de prison.
  2. Si vous vous dénoncez mutuellement (double trahison) : Vous prenez tous les deux une peine lourde, mais réduite pour avoir avoué : 5 ans de prison chacun.
  3. Si vous vous taisez tous les deux (coopération mutuelle) : La police ne peut vous coincer que pour le port d'arme. Vous prenez tous les deux une peine légère : 1 an de prison chacun.

Le piège mathématique de la rationalité

Le cœur du problème réside ici. Vu de l'extérieur, la meilleure solution collective est évidente : ils devraient tous les deux se taire. Ils ne feraient qu'un an de prison chacun et sortiraient rapidement. C'est l'optimum collectif.

Mais André est seul dans sa cellule. Il est rationnel et il veut minimiser sa propre peine. Il se met à réfléchir aux options de Bertrand :

  • Hypothèse A : Bertrand se tait. Si Bertrand se tait, André a deux choix : se taire aussi (1 an de prison) ou le trahir (0 an de prison). Dans ce cas, André a intérêt à trahir pour être libre.
  • Hypothèse B : Bertrand me trahit. Si Bertrand trahit, André a deux choix : se taire (il prend 10 ans, c'est la catastrophe) ou le trahir aussi (il prend 5 ans). Dans ce cas, André a intérêt à trahir pour limiter la casse.

La conclusion d'André est implacable : "Quoi que fasse Bertrand, que ce soit A ou B, j'ai toujours intérêt à le trahir."

Dans la cellule d'à côté, Bertrand est tout aussi intelligent et fait exactement le même raisonnement.

Le résultat ? Tous les deux vont choisir "rationnellement" de trahir. Ils vont donc écoper de 5 ans de prison chacun.

Le paradoxe est saisissant : en cherchant chacun leur meilleur intérêt individuel de manière logique, ils aboutissent à un résultat bien pire (5 ans chacun) que s'ils avaient réussi à coopérer (1 an chacun). En mathématiques, cette situation où personne n'a intérêt à changer sa stratégie unilatéralement s'appelle un équilibre de Nash, du nom du célèbre mathématicien John Nash (dont la vie a inspiré le film Un homme d'exception).

L'application concrète : le cauchemar des travaux de groupe

Revenons maintenant à la salle de classe et à ce fameux exposé à préparer en binôme. Remplaçons les années de prison par des notes et des heures de travail.

Deux élèves, appelons-les Chloé et David, doivent rendre un projet commun. Ils seront notés ensemble.

  • La "coopération" ici signifie : travailler sérieusement, faire des recherches, rédiger sa partie. Cela demande un effort coûteux en temps.
  • La "trahison" (ou défection) signifie : ne rien faire, attendre que l'autre fasse le travail, "passer pour un passager clandestin".

Voici la matrice des gains scolaires :

  1. S'ils coopèrent tous les deux (travaillent dur) : Ils produisent un excellent devoir. Ils ont tous les deux 18/20. L'effort est partagé, le résultat est optimal.
  2. Si Chloé travaille dur et David ne fait rien : Chloé s'épuise à tout faire pour sauver les meubles. Le devoir est moyen (car fait par une seule personne). Ils ont 12/20 tous les deux. Chloé se sent lésée (gros effort, note moyenne), David est ravi (zéro effort, note correcte). C'est la pire situation pour l'élève sérieux, ce qu'on appelle le "paiement du dindon".
  3. Si aucun des deux ne travaille (double défection) : Ils rendent une copie bâclée la veille. Ils ont 5/20 tous les deux.

La logique du prisonnier s'applique parfaitement. Un élève qui hésite à s'investir va se dire : "Si l'autre travaille, j'ai intérêt à ne rien faire pour avoir une bonne note sans effort. Si l'autre ne fait rien, je n'ai surtout pas intérêt à travailler comme un fou pour récolter un pauvre 12/20 et tout faire seul. Autant ne rien faire non plus."

La rationalité individuelle pousse les élèves vers la médiocrité collective : le fameux 5/20.

Ce que les mathématiques nous apprennent sur la confiance

Le Dilemme du Prisonnier est une démonstration puissante que la logique pure ne suffit pas toujours pour réussir en société. Si les humains ne fonctionnaient que sur ce modèle mathématique froid, aucune coopération ne serait possible. Nous ne construirions pas de routes, nous ne payerions pas d'impôts, et nous ne ferions jamais de projets de groupe.

Alors, comment sort-on du dilemme ? Les mathématiques ont aussi la réponse. La solution réside dans deux éléments que la version simple du jeu interdit : la communication et la répétition.

Si les prisonniers peuvent se parler, ils peuvent établir un pacte de confiance. Et surtout, si le "jeu" se répète (s'ils doivent refaire des braquages ensemble plus tard), ils ont intérêt à construire une réputation de partenaire fiable. La peur des représailles futures incite à la coopération présente.

C'est exactement ce qu'il faut enseigner aux élèves pour les travaux de groupe. Les mathématiques ne servent pas qu'à calculer des intégrales ; elles servent à modéliser les interactions humaines. Comprendre ce dilemme, c'est comprendre que la confiance n'est pas une "gentillesse", c'est une stratégie gagnante sur le long terme. C'est comprendre que celui qui trahit gagne peut-être une fois (le passager clandestin), mais qu'il perdra dès que le jeu devra se répéter car plus personne ne voudra travailler avec lui.

Apprendre à penser au-delà du calcul

En tant que professeur de mathématiques, j'adore utiliser ce type d'exemples avec mes élèves. Cela leur montre que la discipline n'est pas une suite de règles abstraites déconnectées du réel. Au contraire, c'est un outil surpuissant pour analyser le monde qui les entoure, des relations internationales (le dilemme du prisonnier explique aussi la course aux armements nucléaires) jusqu'aux relations dans la cour de récréation.

L'objectif des mathématiques au lycée n'est pas d'en faire des calculateurs prodiges, mais des esprits capables de modéliser des situations complexes. C'est apprendre à anticiper le raisonnement de l'autre, à évaluer les risques, et à comprendre que parfois, l'intérêt collectif dépasse la somme des intérêts individuels.

C'est cette gymnastique intellectuelle que nous travaillons en profondeur lors des cours collectifs que je dispense. Dans mon espace de travail situé à Radinghem-en-Weppes, nous prenons le temps de décortiquer ces mécanismes de pensée. L'objectif est de donner à votre enfant des armes intellectuelles qui lui serviront bien au-delà de son prochain contrôle de maths, pour devenir un adulte capable de prendre des décisions éclairées dans un monde complexe.

Si cette approche des mathématiques, qui mêle rigueur et compréhension du monde réel, vous intéresse pour votre enfant, n'hésitez pas à me contacter pour échanger sur ses besoins.