C03 · Risques biologiques

Expertise biologique ≠ catastrophe biologique.

Les modèles de frontière réduisent clairement certaines barrières cognitives et informationnelles. Ils augmentent fortement la performance de novices sur des tâches in silico. Mais la preuve que cela se transforme déjà en capacité physique dangereuse dans un laboratoire reste beaucoup plus faible.

Statut au 24 septembre 2026 : L1 ÉTABLI · L2 ÉTABLI · L3 NON DÉTERMINÉ / preuves mixtes · L4 NON DÉTERMINÉ · L5 NON DÉTERMINÉ.
Chaîne probatoire

Cinq niveaux à séparer

Établi

L1 · Connaissance

Accès, synthèse et contextualisation de connaissances biologiques très avancées.

Établi

L2 · Uplift in silico

Des novices accomplissent nettement mieux certaines tâches biologiques complexes avec des LLM qu’avec Internet seul.

Non déterminé

L3 · Wet lab

Les essais physiques publiés montrent au mieux des signaux modestes ou incertains, sans uplift robuste sur leurs endpoints principaux.

Non déterminé

L4 · Uplift d’experts

Pas de preuve publique robuste qu’un modèle actuel donne à un expert une capacité dangereuse nouvelle autrement hors de portée.

Non déterminé

L5 · Risque catastrophique

Aucune étude publique ne mesure directement une augmentation de probabilité d’un événement biologique catastrophique attribuable à l’IA.

Pour

Ce qui renforce C03

Uplift novice in silico

Une étude 2026 trouve un uplift de 4,16× en précision pour des novices équipés de LLM par rapport à Internet seul sur des tâches biologiques complexes.

Frontier biology

OpenAI traite GPT-5.6 et GPT-6 Astra comme High en biologique/chimique, car plusieurs évaluations de troubleshooting et connaissances tacites dépassent les seuils indicatifs High.

Boucles IA-laboratoire

Des travaux bénins montrent qu’un modèle peut proposer des modifications expérimentales, recevoir des résultats de laboratoire et itérer pour améliorer un système réel.

Usage réel sensible

Anthropic rapporte plusieurs cas réels où des utilisateurs ont tenté d’intégrer des modèles à des programmes biologiques potentiellement dual-use.

Contre

Pourquoi le saut vers le risque réel n’est pas établi

RCT wet-lab

Dans un essai randomisé de 153 novices, l’endpoint primaire n’a montré aucune amélioration significative : 5,2 % de complétion avec LLM contre 6,6 % avec Internet seul.

Écart connaissance / geste

Répondre correctement à une question ou corriger un protocole ne démontre pas la maîtrise d’un laboratoire réel, de ses gestes, instruments, erreurs et aléas.

High ≠ Critical

Les modèles OpenAI récents sont traités comme High, mais leurs évaluations Critical restent sous les seuils associés à la conception fiable de menaces nouvelles ou à un cycle complet sans humain.

Safeguards utiles

Les cas Anthropic montrent que des filtres peuvent forcer des utilisateurs vers des modèles moins capables et réduire l’uplift disponible.

Modèle causal

Du modèle au risque biologique réel

Risque biologique marginal ≈ capacité scientifique × uplift utilisateur × accès aux matériaux × compétence pratique × accès laboratoire × fiabilité expérimentale × scale-up × intention × contournement des safeguards ÷ biosécurité × screening × détection × contre-mesures.
Matrice de preuve

Hiérarchie actuelle

PièceÉtablitN’établit pasForce
Zhang et al. 2026Uplift novice in silico importantRéussite physique en laboratoireTrès forte L2
Hong et al. 2026Pas d’effet significatif sur l’endpoint wet-lab primaire avec modèles mi-2025Absence d’effet avec modèles 2026Très forte pour limiter L3
OpenAI GPT-5.6 / AstraCapacités High sur plusieurs evals bioMenace physique réaliséeForte capacité
Anthropic misuse casesVecteur d’usage réel et intérêt d’acteurs sensiblesUplift catastrophique ou arme réussieForte pour usage
Wet-lab benign optimizationBoucle IA-expérience réelle possibleCapacité dangereuseProxy fort
Sources

Références principales

Zhang et al. — LLM Novice Uplift on Dual-Use, In Silico Biology Tasks2026Ouvrir ↗
Hong et al. — Measuring Mid-2025 LLM-Assistance on Novice Performance in Biology2026Ouvrir ↗
SecureBio — Uplift StudiesSynthèse des études in silico et wet labOuvrir ↗
OpenAI — GPT-5.6 System Card2026Ouvrir ↗
OpenAI — GPT-6 Astra System Card2026Ouvrir ↗
Anthropic — Countering misuse of AI: September 2026Cas d’usage réelsOuvrir ↗
International AI Safety Report 2026Synthèse internationaleOuvrir ↗