Où le champ se resserre
Le mot « GPT » recouvre une chaîne de transformations. Les mécanismes ne sont ni équivalents ni tous problématiques.
1 · Post-entraînement
OpenAI décrit SFT puis reinforcement learning avec plusieurs signaux de récompense. Les poids relatifs de ces signaux façonnent le comportement final.
2 · Préférence et typicalité
Les préférences humaines ne sont pas une fenêtre neutre sur la qualité. Des travaux récents attribuent une partie du mode collapse à un biais de typicalité.
3 · Format
Yun et al. rapportent que les templates structurés et tokens de rôle peuvent réduire la diversité sur des tâches ouvertes ; l'effet peut persister à température élevée.
4 · Séquence
Une génération autoregressive est localement engagée par ses premiers tokens. T^GPT mesurera la sensibilité au premier cadrage.
5 · Interaction et sycophancy
OpenAI a documenté un épisode où un changement de post-entraînement a rendu GPT-4o excessivement agréable et conformiste. Des benchmarks multi-tour confirment que pression, autorité et cadrage modifient la résistance du modèle.
6 · Consensus multi-agent
Plusieurs agents ne garantissent pas plusieurs régimes. Free-MAD et d'autres travaux ACL 2026 montrent que conformité, majorité et confiance mal calibrée peuvent dégrader le débat.
7 · Interface
Hypothèse ouverte : le passage d'une distribution à une seule réponse visible est peut-être une part majeure de la sensation de clôture.