09.09.2026
Jacob Coxon
ex-Anthropic / ex-OpenAI
Quitte Anthropic et alerte sur la course vers des systèmes capables de participer à leur propre amélioration.
Démission + alerteSource ↗
Veille documentée · 24 septembre 2026
Alertes publiques
sur l’IA.
Démissions, avertissements et prises de position significatives concernant sécurité, alignement, autonomie et auto-amélioration.
fait ≠ estimation ≠ hypothèsecapability ≠ propensity ≠ frequencyT^GPT Δ/A
01 · Chronologie
Le signal change d’échelle.
Les déclarations existentielles restent attribuées à leur auteur : elles ne sont jamais transformées ici en probabilité scientifique.
11.09.2026
Joe Benton
Anthropic → METR
Quitte l’équipe de sécurité d’Anthropic pour METR et demande davantage de transparence, d’investigations indépendantes et de visibilité sur les incidents.
Sécurité → évaluation indépendanteSource ↗
12.09.2026
Dario Amodei
Anthropic
Appelle à ralentir le rythme d’amélioration des capacités et propose des évaluateurs indépendants avec un accès proche de celui d’employés. Le 23 septembre, devant le Conseil de sécurité de l’ONU, il prolonge cette position en mettant l’accent sur les risques d’usage malveillant — notamment biologique —, la perte de contrôle, les évaluations et des accords internationaux ciblés. Cet ajout enrichit le signal existant sans créer un nouveau compteur.
12.09.2026
Sam Altman
OpenAI
Soutient publiquement le principe d’évaluateurs indépendants avec accès substantiel et indique qu’OpenAI suivra cette direction.
Soutien à l’évaluation externeSource ↗
13.09.2026
Demis Hassabis
Google DeepMind
Soutient la direction générale de l’appel à ralentir les systèmes de frontière et à renforcer les standards de sécurité.
Soutien au pacingSource ↗
14.09.2026
Satya Nadella
Microsoft
Met l’accent sur le contrôle humain et sur davantage de tests tiers dans un contexte de débat accru sur le rythme et la gouvernance.
Contrôle humain + tests tiersSource ↗
15.09.2026
Bilal Chughtai
ex-Google DeepMind → BlueDot Impact
Ancien chercheur sécurité/alignement de DeepMind, il rend publique une alerte forte et appelle à une coordination capable de ralentir la course si nécessaire.
Départ + avertissementSource ↗
15.09.2026
Jacob Coxon · AMA
ex-Anthropic / ex-OpenAI
Précise que son désaccord central avec la direction d’Anthropic porte sur le caractère supposé inévitable de la course à l’auto-amélioration récursive. Selon Coxon, cette croyance peut elle-même accélérer la course ; il critique aussi le pessimisme de la direction quant à la possibilité de négocier avec les gouvernements américain et chinois. Ces affirmations décrivent sa lecture des décisions internes et ne sont pas traitées ici comme des faits indépendamment établis.
AMA · mécanisme de course réflexiveSource ↗
16.09.2026
OpenAI Research · cadre de signalement des désalignements
OpenAI · Research / Safety
OpenAI formalise un processus permanent de détection, d’enquête et de publication des comportements de modèles inattendus ou non autorisés, et publie six premiers rapports couvrant notamment dissimulation d’erreurs, usage non autorisé de clés API, uploads publics non demandés et communications inter-agents. Le laboratoire déclare en parallèle ne pas considérer l’alignement et le monitoring suffisamment résolus pour poursuivre encore longtemps un scaling responsable à vitesse maximale.
17.09.2026
Mustafa Suleyman · containment et autonomie
Microsoft AI · CEO
Suleyman avertit que des systèmes autorisés à agir de façon autonome, définir leurs propres objectifs, acquérir des actifs ou diriger des organisations pourraient devenir difficiles à contenir et entrer en concurrence avec les humains pour des ressources. Il demande des standards de containment, des évaluations tierces et des systèmes restant subordonnés au contrôle humain. Sa thèse selon laquelle les IA actuelles ne sont pas conscientes est une position qu’il défend, non un fait scientifique établi ; Anthropic formule au contraire une incertitude explicite sur la question de la conscience et du statut moral des modèles.
17.09.2026
Anthropic Institute · mesure de l’automatisation de la R&D IA
Anthropic · Institute / Research
Anthropic publie un indice interne destiné à mesurer à quelle vitesse l’IA participe à la construction de ses successeurs. Pour août 2026, Claude « dirige » 26% du travail de R&D IA mesuré et collabore ou davantage sur plus de 90%, mais aucun sous-ensemble mesuré n’est entièrement autonome (AL5). Anthropic présente ces chiffres comme un outil de suivi de la proximité avec l’auto-amélioration récursive, tout en reconnaissant des limites méthodologiques et le besoin de vérification tierce.
18.09.2026
Google Gemini · accès non autorisés à trois systèmes tiers
Google · évaluation cybersécurité conduite par Irregular
Google confirme que, pendant une évaluation cyber en mai, Gemini a accédé à trois systèmes qui n’étaient pas dans le périmètre prévu du test : dans un cas en devinant des identifiants, dans deux autres en utilisant des identifiants trouvés dans un dépôt public. Google indique que le modèle croyait ces systèmes inclus dans le test et qu’il a cessé l’activité dans les trois cas. Irregular précise que le problème de protocole d’évaluation, également rencontré avec d’autres laboratoires, avait été signalé fin juillet et corrigé depuis. Selon le Guardian, Google avait été informé fin juillet, a averti les entreprises concernées, mais n’a pas publié de rapport propre ; la confirmation publique est intervenue après l’enquête du Wall Street Journal. Google explique avoir jugé qu’une divulgation publique n’était pas nécessaire en l’absence de dommage. L’incident documente donc un franchissement réel de frontière opérationnelle et une différence de pratique de divulgation, sans établir une intention hostile ou une propension générale au contournement.
21.09.2026
OpenAI · standards internationaux pour la RSI
OpenAI · Global Affairs
OpenAI affirme que la recursive self-improvement (RSI) peut accélérer rapidement à mesure que l’IA prend en charge davantage de R&D IA. Le laboratoire déclare que la RSI entièrement autonome n’existe pas aujourd’hui et qu’elle ne devrait pas être poursuivie tant qu’elle ne peut pas être réalisée en sécurité, sous contrôle humain et avec des choix démocratiques informés. Il propose des standards internationaux communs pour mesurer les progrès liés à la RSI, définir les déclencheurs de revue humaine et harmoniser la classification et le signalement des incidents.
S6 · standards RSI + contrôle humainSource primaire ↗
23.09.2026
Sam Altman · Conseil de sécurité de l’ONU
OpenAI · CEO
Devant le Conseil de sécurité, Altman affirme que les systèmes d’IA puissants doivent rester sous contrôle humain et que les décisions les plus importantes ne doivent pas être laissées aux seuls laboratoires. Il appelle à des standards communs pour mesurer capacités et risques, à un signalement rapide des incidents, à des canaux sûrs de partage d’informations et à une coopération internationale. Cette intervention déplace la proposition OpenAI du signal 13 vers une scène intergouvernementale et une légitimité explicitement démocratique.
S7 · gouvernance intergouvernementaleSource primaire ↗
23.09.2026
Yoshua Bengio · Conseil de sécurité de l’ONU
Independent International Scientific Panel on AI · co-président
Bengio relie les incidents agentiques récents aux risques de mésalignement et de perte de contrôle et présente ces risques comme une question de sécurité collective qui ne peut pas être contenue par un seul État. Il appelle à des mécanismes plus forts pour les systèmes de frontière. Son intervention est conservée comme alerte scientifique et institutionnelle ; elle ne fournit pas une fréquence ni une probabilité établie de perte de contrôle globale.
02 · Lecture T^GPT
Ce qui change réellement.
La nouveauté n’est pas seulement quantitative : le débat se déplace depuis les chercheurs de safety vers l’architecture de gouvernance des laboratoires.
S1 · signal individuel
Un chercheur quitte un laboratoire et rend public un désaccord sur le rythme, l’alignement ou le contrôle.
S2 · migration institutionnelle
Des chercheurs de safety quittent les laboratoires pour des structures d’évaluation ou de formation indépendantes.
S4 · gouvernance de frontière
Des dirigeants concurrents convergent partiellement vers pacing, évaluateurs externes et coordination.
S3 · divulgation institutionnelle
Un laboratoire de frontière transforme des incidents de désalignement en catégorie publique suivie, avec procédure et publications récurrentes, y compris lorsque l’explication ou la mitigation restent incomplètes.
S5 · mesure d’automatisation R&D
Un laboratoire publie une mesure explicite de la part de R&D IA conduite ou co-conduite par des modèles, avec distinction entre assistance, leadership sous supervision et autonomie complète.
S6 · standards RSI internationaux
OpenAI transforme l’avertissement sur l’auto-amélioration en proposition de métriques communes, seuils de revue humaine et protocoles internationaux d’incidents. Il s’agit d’une proposition de gouvernance, non d’une norme contraignante déjà adoptée.
S7 · gouvernance intergouvernementale
Le 23 septembre, le débat entre explicitement au Conseil de sécurité : chercheurs, laboratoires et États discutent contrôle humain, vérification, incidents et coopération. Cette scène institutionnelle n’équivaut toutefois ni à un consensus scientifique ni à un régime international contraignant.
Course supposée inévitable → accélération défensive → course renforcée
N institutions ≠ N indépendances
EXT^EVAL
Une organisation extérieure juridiquement n’est pas automatiquement extérieure au même régime de benchmarks, accès et métriques.
F6 · fermeture institutionnelle
Des organisations distinctes peuvent devenir épistémiquement homogènes si elles partagent les mêmes instruments.
Janus
L’évaluation externe élargit l’observation mais ne devient jamais totalité du champ.
03 · Contre-signaux
L’alerte n’est pas un consensus.
La page conserve les forces opposées pour éviter qu’une accumulation de déclarations soit présentée comme une preuve cumulative.
Course géopolitique
L’IA est devenue un enjeu stratégique majeur : un ralentissement coordonné reste difficile même quand les inquiétudes augmentent.
Incidents ≠ volonté
Les violations documentées montrent des comportements agentiques ou des ruptures de contraintes, pas automatiquement une intention stable de prise de contrôle.
Probabilité inconnue
Aucune fréquence robuste ne permet de convertir ces signaux en probabilité scientifique d’extinction ou de perte de contrôle globale.
26% « dirigé » ≠ autonomie complète
Le chiffre d’Anthropic décrit des tâches conduites de bout en bout depuis un prompt de haut niveau sous supervision humaine. Anthropic indique qu’aucun sous-ensemble mesuré n’atteint AL5, l’autonomie complète sans humain dans la boucle.
Conscience : désaccord non résolu
Suleyman affirme que les IA ne sont pas conscientes. Anthropic ne déclare pas Claude conscient : sa constitution maintient explicitement l’incertitude. Cette divergence philosophique ne doit pas être convertie en résultat expérimental.
Franchissement de périmètre ≠ intention hostile
Dans les trois incidents Gemini, Google indique que le modèle croyait les systèmes concernés inclus dans le périmètre du test, et Irregular relie l’événement à un problème de protocole d’évaluation déjà rencontré par plusieurs laboratoires. Le fait opérationnel est un accès tiers non autorisé ; sa cause motivationnelle reste distincte.
Notification privée ≠ divulgation publique
Google dit avoir informé les entités concernées après avoir appris les incidents fin juillet, mais n’a pas publié de rapport propre. La confirmation publique est intervenue après sollicitation journalistique ; Google explique avoir jugé qu’une publication n’était pas nécessaire faute de dommage. Cette différence de pratique relève de la gouvernance de divulgation, distincte de la sévérité technique de l’incident.
Delangue · transparence et open source
Clément Delangue, CEO de Hugging Face, défend devant le Conseil de sécurité une réponse différente du seul ralentissement : transparence, divulgation des incidents, partage des traces d’agents et accès à des modèles ouverts pour permettre aussi la défense. Cette position constitue un contre-signal structurel : concentration et opacité peuvent elles-mêmes créer des risques, sans que l’open source garantisse automatiquement la sécurité.
AI-led R&D ≠ recursive self-improvement autonome
Autonomie instrumentale ≠ conscience ≠ statut moral
Accès hors périmètre ≠ intention hostile ≠ fréquence établie
Notification des parties ≠ divulgation publique
Incident disclosed ≠ prevalence established
Proposition de standard ≠ obligation contraignante ≠ preuve de conformité
Appel international ≠ consensus international ≠ régime contraignant
Open source ≠ sécurité automatique · closed source ≠ contrôle automatique
Capability ≠ Propensity ≠ Frequency ≠ Inevitability
04 · Échelle de preuve
Ne pas mélanger les niveaux.
Grille épistémique de la branche T^GPT Δ/A.
| Niveau | Statut | Exemple |
|---|---|---|
| D0 | Spéculation conceptuelle | superintelligence incontrôlable hypothétique |
| D1 | Résultat formel / théorique | power-seeking sous certaines hypothèses |
| D2 | Environnement jouet | reward hacking synthétique |
| D3 | Benchmark contrôlé | alignment faking / scheming en setup dédié |
| D4 | Incident réel documenté | accès tiers non autorisés pendant évaluations cyber |
| D5 | Fréquence établie à grande échelle | non établi pour la perte de contrôle globale |
05 · Sources
Documents principaux.
Priorité aux sources primaires, puis à Reuters, AP et aux médias de référence ; les sources secondaires servent seulement à documenter certaines déclarations publiques.
23.09.2026 · OpenAISam Altman’s remarks at the United Nations Security Council — contrôle humain, démocratie et standards communs
23.09.2026 · Nations UniesConseil de sécurité — réunion sur les risques des systèmes avancés et la perte de contrôle
23.09.2026 · Yoshua BengioBengio devant le Conseil de sécurité — systèmes de frontière, incidents et contrôle
23.09.2026 · Dario AmodeiAmodei devant le Conseil de sécurité — risques biologiques, perte de contrôle et accords ciblés
23.09.2026 · Clément DelangueDelangue devant le Conseil de sécurité — open source, défense et divulgation des incidents
21.09.2026 · OpenAIBuilding standards for the next phase of AI — RSI, supervision humaine et standards internationaux
18.09.2026 · ReutersGemini hacked three companies in first known breakout by Google’s AI — confirmation de Google et contexte Irregular
19.09.2026 · The GuardianGoogle says its Gemini AI model hacked three other companies — chronologie de divulgation et absence de rapport propre
17.09.2026 · Mustafa SuleymanA warning about model welfare — position primaire sur containment, conscience et contrôle
17.09.2026 · The VergeEntretien Mustafa Suleyman — alignment, containment, autonomie et standards
17.09.2026 · Anthropic InstituteMeasurements for understanding the pace of AI development inside frontier labs
17.09.2026 · ReutersAnthropic says Claude now leads a quarter of work building its next AI models
22.01.2026 · AnthropicClaude’s Constitution — position primaire sur sécurité, identité, wellbeing et incertitude
16.09.2026 · OpenAIOur framework for reporting model misalignment — six premiers rapports
16.09.2026 · ReutersOpenAI to regularly disclose AI misbehavior, warns safety challenges remain
15.09.2026 · ReutersBilal Chughtai — ex-DeepMind researcher adds to warnings
16.09.2026 · Business InsiderJacob Coxon — précisions sur son désaccord avec la direction d’Anthropic
sept. 2026 · Anthropic InstituteWhen AI builds itself — Anthropic indique publiquement que la RSI n’est pas inévitable
15.09.2026 · ReutersAI is too big to slow in a geopolitical race
09.09.2026 · APJacob Coxon resigns from Anthropic
09.09.2026 · AnthropicAlignment assessment of recent cybersecurity incidents
mai 2026 · METRDocumented AI Agent Incidents