L'IA n'est pas
intrinsèquement dangereuse

Le International AI Safety Report 2026, dirigé par Yoshua Bengio et rédigé avec plus de 100 experts, indique que les systèmes actuels ne disposent pas des capacités nécessaires pour produire les scénarios de « loss of control ». C'est une corroboration directe de la distinction de LeCun entre risques hypothétiques futurs et capacités présentes.

RepliBench teste explicitement les compétences nécessaires pour qu'un agent se réplique sur Internet. Le résultat publié : les modèles testés ne constituent pas actuellement une menace crédible d'auto-réplication autonome.

Dans son étude humaine de 2024, OpenAI a mesuré l'augmentation de performance par rapport à Internet seul. Les gains observés n'étaient pas statistiquement significatifs et l'étude précise que l'accès à l'information ne suffit pas à construire physiquement une menace biologique.

Le propre Frontier Red Team d'Anthropic a conclu que les plans produits comportaient encore des erreurs critiques et que les modèles évalués ne pouvaient pas guider de façon fiable un acteur novice à travers les étapes pratiques essentielles d'acquisition d'une arme biologique.

Des travaux USENIX décrivent une réduction possible de l'asymétrie attaque/défense quand les deux camps disposent d'IA. Le CSET conclut également que de nombreuses mesures peuvent « incliner les chances » en faveur des défenseurs. Cela rejoint directement le passage 1:16–1:17 de LeCun.

Une revue académique de 81 publications sur les risques existentiels d'IA relève des affirmations souvent spéculatives ou insuffisamment étayées et insiste sur le poids d'hypothèses anthropomorphiques. Cette littérature renforce la thèse de LeCun selon laquelle le passage d'un scénario hypothétique à une certitude de catastrophe n'est pas scientifiquement établi.

Un article d'AI & Society (2025/2026) soutient que la sécurité de l'IA possède plusieurs caractéristiques classiques des secteurs vulnérables à la capture réglementaire : barrières à l'entrée élevées, forte technicité, information asymétrique et petit nombre d'acteurs dominants.

Une étude de Lancieri, Edelson et Bechtold analyse la « political economy » de la régulation de l'IA et la manière dont pays et entreprises peuvent mobiliser les règles pour protéger leurs intérêts dans la compétition internationale.

La FTC a documenté plus de 20 milliards de dollars d'investissements cumulés dans les partenariats Microsoft–OpenAI, Amazon–Anthropic et Google–Anthropic, avec droits financiers, engagements cloud, exclusivités et échanges d'informations stratégiques. L'autorité examine explicitement le risque que ces structures affectent l'accès aux ressources et la concurrence.

L'OCDE constate que le développement open source a réduit certains effets de concentration en abaissant les coûts d'entrée, en exerçant une pression sur les prix, en réduisant la dépendance à quelques fournisseurs, et en favorisant transparence et innovation cumulative.

Une analyse publiée dans Risk Analysis compare les capacités requises par les scénarios de takeover aux propriétés observées des LLM. Elle conclut que les systèmes actuels sont très en deçà des capacités nécessaires et qu'en l'absence de signaux nouveaux, des mesures de gouvernance plus agressives peuvent être injustifiées.

Les chercheurs de Princeton Arvind Narayanan et Sayash Kapoor proposent explicitement une vision de l'IA comme « normal technology » : potentiellement transformatrice, comme l'électricité ou Internet, mais sans présumer une entité autonome quasi biologique destinée à échapper au contrôle humain.

Les travaux autour d'ARC-AGI soulignent qu'un système peut exceller sur de nombreux benchmarks et automatiser des tâches sans posséder la capacité humaine d'apprendre efficacement des domaines réellement nouveaux. Cette distinction soutient directement le refus de déduire une superintelligence générale de la seule progression des LLM.

Subbarao Kambhampati et ses coauteurs montrent que les modèles dits de raisonnement conservent des limites fondamentales de généralisation et de planification. Cela renforce la thèse de LeCun selon laquelle les systèmes actuels ne constituent pas une trajectoire simple et automatique vers une intelligence générale autonome.

Dès 2023, la FTC décrivait l'écosystème open source comme un mécanisme susceptible d'ouvrir le marché lorsque les modèles de base deviennent accessibles, tandis que le contrôle des briques essentielles par quelques acteurs peut verrouiller l'entrée et orienter les utilisateurs vers leurs propres offres.

Le rapport international 2026, coordonné par Yoshua Bengio avec plus d'une centaine d'experts, dit explicitement que les systèmes actuels ne sont pas à un niveau permettant les scénarios de perte de contrôle. Il énumère les capacités qui manquent encore à une chaîne de takeover : évasion robuste de la supervision, plans de long terme et prévention des contre-mesures humaines.

RepliBench décompose l'auto-réplication en obtention de ressources, exfiltration, réplication et persistance. Cinq modèles de frontière ont été testés : ils réussissent certains sous-problèmes, mais échouent encore sur des goulets critiques comme KYC et la persistance robuste. Conclusion publiée : ils ne constituent pas actuellement une menace crédible d'auto-réplication.

Le benchmark de « task-completion time horizon » mesure la durée des tâches humaines sur lesquelles un agent réussit à un niveau de fiabilité donné. METR précise que ces résultats, centrés surtout sur logiciels/ML/cyber et tâches propres et spécifiées, ne signifient pas qu'un modèle peut effectuer tout travail d'une durée comparable ; les tâches réelles, désordonnées et ambiguës restent plus difficiles.

L'analyse de Seth Baum compare les caractéristiques théoriquement requises pour une catastrophe de prise de contrôle à celles observées dans les LLM. Elle conclut que les capacités actuelles sont très en deçà et que, tant que des signaux d'alerte plus forts n'apparaissent pas, des mesures de gouvernance plus agressives peuvent être injustifiées.

Les travaux de Subbarao Kambhampati et collègues mettent en cause le récit selon lequel les chaînes de pensée produiraient automatiquement une capacité nouvelle de généralisation. Ils documentent des limites de vérification autonome, de raisonnement et de planification hors des domaines où un vérificateur solide contraint la réponse.

Le cadre proposé par les chercheurs de Princeton refuse de traiter l'IA comme une entité séparée destinée mécaniquement à devenir une superintelligence autonome. Ils la comparent aux technologies générales transformatrices — électricité ou Internet — dont les effets passent par des institutions, organisations et décisions humaines.

Dans une évaluation humaine couvrant idéation, acquisition, amplification, formulation et diffusion, l'accès à GPT-4 produisait au plus une amélioration légère. Les écarts n'étaient pas statistiquement concluants et OpenAI souligne que l'accès à l'information ne suffit pas à construire physiquement une menace biologique.

Le Frontier Red Team d'Anthropic rapporte que son modèle récent peut aider certains novices, mais que même le meilleur plan observé comportait des erreurs qui conduiraient à l'échec réel. Leur conclusion : les modèles testés ne guident pas fiablement un novice à travers les étapes pratiques clés d'acquisition d'une arme biologique.

USENIX décrit une diminution possible de l'asymétrie entre attaquants et défenseurs lorsque les deux camps exploitent l'IA. Le CSET recense de nombreux effets dans les deux directions et identifie des leviers grâce auxquels les défenseurs peuvent faire pencher l'équilibre en leur faveur.

Fei-Fei Li appelle les décideurs à partir de la réalité des systèmes actuels. Elle insiste sur le fait que les chatbots ne sont pas des intelligences dotées d'intentions, de libre arbitre ou de conscience, et défend un écosystème incluant open source et recherche académique.

Une revue intégrative publiée en 2026 trouve dans la littérature sur les risques existentiels des calculs spéculatifs, des modèles d'accélération non étayés et une forte anthropomorphisation des IA, tout en soulignant que les dimensions d'infrastructure, de pouvoir et d'agence sociale sont peu intégrées.

La littérature philosophique sur l'anthropomorphisme en IA montre comment l'attribution de volontés, croyances ou intentions humaines à des systèmes peut exagérer leurs capacités et déformer l'évaluation du risque. Cela rejoint directement l'objection de LeCun aux scénarios où un modèle est traité comme un agent humain hyper-puissant déjà constitué.

Après consultation publique et analyse des bénéfices et risques, la NTIA américaine a conclu en 2024 que les preuves n'étaient pas suffisantes pour justifier des restrictions obligatoires sur les poids des modèles ouverts alors disponibles. Elle recommande surveillance et seuils fondés sur des preuves.

Le gouverneur Gavin Newsom a motivé son veto par le fait que le texte imposait des standards lourds à de grands systèmes indépendamment du contexte d'usage, et a demandé une approche fondée sur les risques démontrables et les environnements réellement sensibles.

La Responsible Scaling Policy d'Anthropic est proportionnelle : les mesures augmentent lorsque des seuils de capacité sont atteints, plutôt que de déclarer toutes les IA intrinsèquement dangereuses. Cela renforce, sur le plan méthodologique, l'idée de juger des capacités effectivement observables.

Ng écrit qu'il existe « de nombreuses incitations » à amplifier la peur : grandes entreprises pouvant préférer des licences et obligations coûteuses qui ferment l'accès aux nouveaux entrants, organisations ayant intérêt à lever des fonds autour de menaces, et individus gagnant visibilité et revenus par l'alarmisme. Il distingue explicitement régulation des applications et régulation de la technologie générale.

Thomas Metcalf identifie forte technicité, asymétrie d'information, barrières à l'entrée et concentration du pouvoir économique comme facteurs qui rendent la réglementation de la sécurité IA particulièrement exposée à la capture par les acteurs dominants.

Lancieri, Edelson et Bechtold étudient précisément la « political economy » de la régulation IA : arbitrage réglementaire, compétition internationale et tentatives possibles d'acteurs privés de façonner le cadre pour protéger leurs intérêts.

L'étude 6(b) de la FTC documente les liens Microsoft–OpenAI, Amazon–Anthropic et Google–Anthropic : droits économiques, exclusivités, dépendance au compute, accès à des informations sensibles et coûts de changement pouvant affecter la concurrence. Cela établit un contexte économique concret dans lequel les règles d'accès aux modèles ont une valeur stratégique majeure.

L'OCDE constate que le développement open source a abaissé les coûts d'entrée, exercé une pression sur les prix, réduit la dépendance à un petit nombre de fournisseurs et facilité l'innovation cumulative. Cela renforce l'argument de LeCun selon lequel interdire ou étouffer l'open source peut concentrer le contrôle.

Le tour Series A de 124 M$ d'Anthropic a été mené par Jaan Tallinn et incluait Dustin Moskovitz et le Center for Emerging Risk Research. WIRED a documenté que l'essentiel du financement initial provenait de sources affiliées à l'effective altruism. Cela ne prouve pas une motivation individuelle, mais établit le lien structurel entre financement, sécurité IA et milieu longtermiste que LeCun vise dans la conférence.

En 2025, Open Philanthropy a par exemple accordé 2,321 M$ à MATS Research pour des travaux et formations en alignment, interpretability et governance, dans sa catégorie « Global Catastrophic Risks Capacity Building ». Le financement institutionnel du champ n'est donc pas hypothétique : il est explicite et traçable.

Dans son rapport historique sur les risques avancés de l'IA, Open Philanthropy écrivait que les risques et options de politique étaient mal compris et que plaider trop tôt pour la régulation pouvait être contre-productif. Ce point rejoint directement le principe méthodologique défendu par LeCun : ne pas légiférer comme si une technologie future non inventée était déjà caractérisée.