Une erreur visible peut coûter très cher à l’algorithme.
Dans certains protocoles, les humains réduisent davantage leur recours à un algorithme après l’avoir vu se tromper, même lorsque sa performance comparative reste forte.
FOLK PSYCHOLOGY · TRUST · ERROR · HUMAN–AI
AI^
« Cette IA est conne » est un jugement humain à décomposer, pas une catégorie technique suffisante.
Erreur machine ≠ état mental humain. Confiance ≠ conscience. Anthropomorphisme ≠ preuve d’expérience. Le champ croise CONFAB × META × CONSC × SPIRAL sans les fusionner.
01 · DEUX RÉGIMES OPPOSÉS
On peut sous-croire
ou sur-croire la machine.
Dans d’autres tâches, l’algorithme est surpondéré.
Le simple fait de savoir qu’un conseil vient d’un modèle peut aussi augmenter son poids. Il n’existe donc pas un unique « biais humain contre les IA ».
02 · L’INTERFACE MODIFIE LE JUGEMENT
L’apparence mentale
est déjà une variable.
Expérience et intelligence sont attribuées séparément
Les utilisateurs peuvent projeter différents types d’états mentaux sur un LLM, et ces attributions influencent leur confiance.
Voix, style, nom, persona
Des indices human-like modifient la perception de proximité et parfois la confiance, sans renseigner sur les mécanismes internes réels.
Ni maximum ni minimum
La cible est une confiance calibrée à la capacité, l’incertitude, le domaine et le risque — pas « faire confiance à l’IA » en général.
03 · 10 EXPÉRIENCES CON^AI
Tester le jugement,
pas imaginer la psychologie.
Même contenu, source changée ; même erreur, confiance verbale modifiée ; même décision, résultat révélé ou non : les protocoles isolent ce qui déclenche réellement « c’est con ».
04 · FAILURES ≠ PERSONA
Décomposer une sortie
avant de personnifier.
ignorance factuelleconfabulationmauvaise calibrationrigidité contextuellesur-littéralitéincohérence temporellesycophantieoutil défaillantsur-confiance humainesous-confiance humaine
Le jugement « IA conne » est relationnel : il peut décrire une limitation réelle du système, une mauvaise interface, une mauvaise calibration humaine, ou plusieurs couches à la fois.