Ne déléguez jamais ces décisions à l’IA ! Olivier Sibony, expert en biais cognitifs et comportementaux #341 — Olivier Sibony, apprendre à décider avec discernement à l'ère de l'intelligence artificielle

Olivier Sibony, professeur à HEC et expert des biais cognitifs, revient pour aborder une question cruciale : comment bien décider à l'ère de l'intelligence artificielle ? Loin des discours extrêmes, entre technophilie béate et technophobie alarmiste, il propose une approche nuancée et pragmatique. Dans cet épisode, il explore les situations où déléguer une décision à l'IA est judicieux, celles où le jugement humain doit primer, et comment développer une collaboration efficace avec ces nouveaux outils. Un échange essentiel pour aiguiser son discernement et maîtriser l'IA sans lui obéir aveuglément.

Décider à l’ère de l’IA

Face aux discours souvent binaires sur l’intelligence artificielle, entre fascination et peur, Olivier Sibony propose une réflexion de fond sur ce que l’IA change à la prise de décision humaine. Co-auteur du livre « Faut-il encore décider ? », il explique que l’IA nous force à mieux comprendre nos propres faiblesses et ambiguïtés. Selon lui, les IA génératives actuelles sont déconcertantes de naturel car elles répliquent notre « Système 1 », la pensée rapide et intuitive. C’est aussi pour cela qu’elles se trompent : leurs erreurs, comme les fameuses « hallucinations », ressemblent à nos propres approximations ou à notre tendance à bluffer lorsque nous ne savons pas.

Loin d’être un utilisateur très sophistiqué, il partage son propre usage de l’IA comme un assistant efficace pour la recherche documentaire ou la préparation de ses cours à HEC.

Déléguer ou garder le contrôle ?

Quand faut-il faire confiance à l’IA ? Olivier Sibony bouscule une idée reçue : plus une décision est importante, plus elle doit être de qualité, et si une IA est meilleure, il faut oser lui déléguer. Cela s’applique aux domaines où l’objectif est clair et les données abondantes, comme l’imagerie médicale. Il insiste sur la nécessité d’une validation rigoureuse et indépendante de ces algorithmes. Une fois cette confiance établie, il faut accepter de suivre l’avis de l’IA, même s’il est contre-intuitif, au risque de dégrader sa performance en la « corrigeant » avec nos propres biais.

À l’inverse, certaines décisions doivent impérativement rester humaines. Ce sont celles où le processus est aussi important que le résultat. Il cite l’exemple de la justice, où le rituel judiciaire a une fonction sociale et cathartique irremplaçable. « Le processus est au moins aussi important que la décision », affirme-t-il.

Collaborer avec l’IA, un nouveau discernement

Pour la plupart des décisions complexes, notamment en entreprise, le meilleur chemin est celui de la co-décision. Face à des objectifs multiples et non quantifiables, comme pour un recrutement ou une décision stratégique, il ne faut jamais demander à une IA « Que dois-je faire ? ». Il faut plutôt l’utiliser comme un partenaire de réflexion pour challenger ses propres idées. On peut lui demander de lister des risques, de proposer des scénarios ou de jouer l’avocat du diable pour enrichir et structurer la pensée du décideur humain.

Cette culture du discernement est aussi la clé de l’éducation. Plutôt que d’interdire, il faut apprendre aux étudiants à se servir de l’IA pour se concentrer sur des compétences que la machine ne maîtrise pas : poser les bonnes questions, naviguer dans l’ambiguïté et gérer les interactions humaines.

Ce que l’IA ne remplacera jamais

Enfin, Olivier Sibony explore les limites éthiques et fondamentales de l’IA. Il estime que des domaines comme la création artistique resteront humains, car ce qui nous touche dans une œuvre, c’est précisément son humanité. Il en va de même pour les engagements affectifs à long terme, comme le choix d’un partenaire ou d’une carrière. L’acte de choisir soi-même est une condition du succès, car il fonde l’engagement. Il alerte également sur les dangers des armes létales autonomes, un sujet qui, comme d’autres choix de société liés à l’IA, devrait faire l’objet d’un véritable débat démocratique.

« Ce qui nous intéresse dans la création, c’est son humanité », conclut-il, soulignant que les métiers de la relation, de la présence et du contact humain verront leur valeur augmenter.

Olivier Sibony nous recommande…

« Système 1 / Système 2 Les deux vitesses de la pensée » — Daniel Kahneman. Olivier Sibony cite cet ouvrage de référence sur les deux modes de pensée qui structurent nos décisions, un concept clé pour comprendre le fonctionnement des IA actuelles.

Pour aller plus loin

Les références de l’épisode

Personnes : Éric Hazan, Daniel Kahneman, Spike Jonze, Sam Altman, Pablo Neruda, Taylor Swift, Bruce Springsteen.
Organisations et entreprises : HEC, McKinsey & Company, Gemmyo, Amazon, OpenAI.
Outils et marques : ChatGPT, Claude, Mistral, PLOD, Waze, Google Maps, Spotify.
Œuvres : le livre « Faut-il encore décider ? La décision humaine à l’ère de l’IA », le livre « Système 1 / Système 2 Les deux vitesses de la pensée », le film « Her ».

Au fil de l’épisode

00:00 — L’IA, entre fascination et peur : comment garder son discernement
01:47 — Pourquoi écrire un livre sur la décision à l’ère de l’IA ?
04:26 — Comment Olivier Sibony utilise l’IA au quotidien
07:00 — Pourquoi l’IA se trompe autant ?
10:10 — Comment ne pas se faire piéger par une IA trop sûre d’elle ?
12:00 — Quelles décisions peut-on vraiment déléguer à l’IA ?
18:20 — Quelles décisions doivent absolument rester humaines ?
22:50 — Comment codécider avec l’IA sans lui obéir aveuglément ?
29:10 — Comment éduquer ses enfants à l’ère de l’IA ?
34:07 — Quels métiers vont disparaître ou se transformer ?
40:32 — Risque-t-on d’atrophier notre intelligence ?
42:53 — Créativité, intuition, empathie : ce que l’IA peut vraiment simuler
44:56 — Justice, amour, armes autonomes : les limites éthiques de l’IA
48:28 — Peut-on tomber amoureux d’une IA ?
53:57 — IA, inégalités et retour aux métiers de la relation
58:00 — Les deux erreurs à éviter avec l’IA
59:58 — Le vrai message du livre : apprendre à décider avec discernement

FAQ

Qui est Olivier Sibony ?

Olivier Sibony est professeur à HEC et un expert reconnu des biais cognitifs et comportementaux. Ancien Senior Partner du cabinet McKinsey & Company où il a passé 25 ans, ses travaux portent sur l’amélioration de la prise de décision stratégique. Il est l’auteur de plusieurs ouvrages, dont « Faut-il encore décider ? », qui analyse les enjeux de la décision humaine face à l’intelligence artificielle.

Pourquoi l’intelligence artificielle se trompe-t-elle souvent ?

Selon Olivier Sibony, les IA génératives comme ChatGPT fonctionnent d’une manière qui ressemble à notre « Système 1 » : la pensée intuitive, rapide et associative. C’est pourquoi elles semblent si naturelles. Cependant, comme notre propre intuition, ce système peut faire des erreurs, « halluciner » ou bluffer avec aplomb quand il ne connaît pas la réponse. Ces erreurs sont donc similaires aux erreurs humaines d’inattention ou de baratinage.

Quelles décisions peut-on déléguer à une IA ?

On peut déléguer une décision à une IA lorsqu’elle remplit deux conditions strictes : l’objectif poursuivi est parfaitement clair et quantifiable, et on dispose d’une très grande quantité de données de qualité pour l’entraîner. L’imagerie médicale est un bon exemple : l’objectif (détecter une tumeur) est binaire et les données (des milliers de radios) sont disponibles. Dans ces cas, si l’IA est prouvée meilleure que l’humain, il faut lui faire confiance.

Quelles sont les décisions qui doivent rester humaines ?

Les décisions doivent rester humaines lorsque le processus de décision est au moins aussi important que le résultat final. Olivier Sibony cite l’exemple de la justice : même si une IA pouvait rendre des verdicts plus justes, le processus judiciaire (entendre les témoins, respecter les formes) a une fonction sociale et cathartique essentielle. Il en va de même pour les engagements affectifs à long terme, comme le choix d’un partenaire, où l’acte de choisir soi-même est crucial pour l’engagement futur.

Comment bien collaborer avec une IA pour prendre une décision ?

Il ne faut jamais demander à une IA « Que dois-je faire ? ». La bonne approche est de l’utiliser comme un conseiller pour nourrir et structurer sa propre réflexion. On peut lui demander de lister les critères à prendre en compte, d’identifier les risques non envisagés, de générer des scénarios alternatifs ou de jouer l’avocat du diable. L’IA devient alors un outil pour améliorer le discernement humain, et non un oracle qui décide à notre place.