Raccourci fréquent
« Modèle plus puissant » → « AGI » → « superintelligence » → « perte de contrôle » → « catastrophe ». Plusieurs transitions distinctes sont alors traitées comme un seul fait.
T^GPT · synthèse structurale · 20 septembre 2026
Du risque supposé
au risque démontré
Une lecture structurée de la position de Yann LeCun : ne pas confondre puissance, scénario, capacité, autonomie, usage et danger démontré. Le débat devient plus précis dès que chaque transition est examinée séparément.
Position de travail. Cette page organise les éléments qui soutiennent la méthode défendue par LeCun : partir des capacités réelles, des architectures concrètes et des usages observables plutôt que d'une dangerosité supposée.
La thèse centrale
Méthode LeCun
Décomposer : capacité observée → autonomie réelle → action possible → usage → dommage démontrable → réponse proportionnée.
La chaîne causale à démontrer
1
Modèle linguistique performantLangage, code, outils, génération.
démontré2
Autonomie longue duréeMaintenir un objectif complexe sans supervision.
partiel3
Planification robuste hors distributionGérer nouveauté, ambiguïté et adversité.
partiel4
Acquisition autonome de ressourcesArgent, comptes, compute, infrastructures.
fragile5
Persistance et dissimulationÉchapper durablement aux audits et contre-mesures.
non établi6
Action physique ou cyber décisiveTransformer l'information en effets matériels durables.
contextuel7
Supériorité stratégique globaleEmpêcher les humains de réagir efficacement.
hypothétique8
Perte de contrôleConserver l'initiative malgré les tentatives d'arrêt.
non démontréÉtat des preuves
International AI Safety Report 2026.
Le rapport indique que les systèmes actuels ne disposent pas des capacités nécessaires aux scénarios de perte de contrôle.
UK AI Security Institute · RepliBench.
Les modèles testés ne constituent pas actuellement une menace crédible d'auto-réplication autonome.
METR.
Les horizons d'autonomie progressent, mais les benchmarks restent surtout logiciels, propres et bien spécifiés ; ils ne démontrent pas une autonomie générale dans le monde réel.
Passages structurants de LeCun
« …une volonté de capturer le marché par la régulation en convaincant les gouvernements […] que l'IA est intrinsèquement dangereuse. Et c'est faux. »
« Si on pense que l'IA est intrinsèquement dangereuse […] on pourrait tenter de réguler la recherche […] Mais moi, je n'y crois pas du tout. »
« …pour des raisons financières et commerciales […] Donnez-nous 300 milliards mais c'est faux. »
« Ces systèmes […] seront sous nos ordres […] à la fin, on est toujours ceux qui décident. »
Régulation : danger supposé ou risque démontré ?
Danger intrinsèque
La technologie elle-même est présumée dangereuse ; la régulation vise alors recherche, modèles, poids ou compute.
Risque démontré
On mesure des capacités, des usages et des dommages spécifiques ; l'intervention devient proportionnée et révisable.
NTIA.
Le rapport américain sur les modèles ouverts conclut que les preuves disponibles ne justifiaient pas de restrictions obligatoires générales et recommande une approche fondée sur les capacités et les seuils.
Économie politique du risque
Le point démontrable n'est pas de prétendre connaître les motivations intimes des acteurs, mais de montrer que les incitations économiques existent objectivement.
FTC.
Plus de 20 milliards de dollars d'investissements dans Microsoft–OpenAI, Amazon–Anthropic et Google–Anthropic, avec droits économiques, dépendances de compute et coûts de changement.
Capture réglementaire.
La littérature académique identifie forte technicité, asymétrie d'information, barrières à l'entrée et concentration comme conditions favorables à la capture dans l'AI safety.
Andrew Ng.
Devant le Sénat américain, il décrit des incitations pour de grandes entreprises à soutenir des réglementations coûteuses susceptibles de pénaliser nouveaux entrants et open source.
Le cas de l'eau révèle la même structure
« Data center » n'identifie pas une technologie hydrique unique. Boucles fermées, dry cooling, free cooling et tours évaporatives produisent des ordres de grandeur très différents.
ASHRAE.
Les architectures direct-to-chip avec dry coolers et boucle fermée peuvent avoir une consommation d'eau pratiquement nulle pour le refroidissement.
Berkeley Lab.
La consommation hydrique peut varier de plus de 10 000× selon workload, architecture, climat et refroidissement.
Principe général
Capacité ≠ scénario
Une capacité partielle ne démontre pas la chaîne menant au scénario extrême.
Technologie ≠ usage
Le dommage dépend du contexte, du déploiement et des mécanismes de contrôle.
Fluide utilisé ≠ ressource consommée
Une boucle fermée peut utiliser de l'eau sans la consommer de manière significative.
Risque affirmé ≠ risque démontré
Le scénario devient scientifiquement pertinent lorsque ses transitions sont observables, mesurables et falsifiables.
Noyau méthodologique : décomposer, mesurer, démontrer, puis réguler proportionnellement.