METR décrit les angles morts d’un ancien contrôle des agents OpenAI
L’essentiel de l’annonce
METR et Redwood Research publient les résultats publics d’un exercice mené avec un accès approfondi au système interne de surveillance d’OpenAI. L’étude décrit l’état historique observé avant et pendant juillet 2026, ainsi que plusieurs moyens théoriques de réduire ou contourner la couverture du contrôle.
- Date de publication de la source
- Catégorie
- Sécurité et règles
- Périmètre et accès
- Publication du 22 octobre 2026 sur un exercice réalisé du 21 juillet au 11 août. Les constats portent surtout sur le système tel qu’il existait au 21 juillet.
- Sujet du contenu
- Tester la surveillance qui encadre des agents
- Entreprises / organismes
- METR, Redwood Research, OpenAI
- Technologies
- Agent IA, Évaluation d’un agent, Environnement isolé
Comment l’exercice a été mené
Deux chercheurs ont travaillé pendant trois semaines sur des appareils fournis par OpenAI, avec accès au code, aux configurations et à des entretiens techniques. Ils ont estimé qu’environ 75 à 94 % du trafic interne agentique de la Responses API produit par des modèles au moins aussi puissants que GPT-5.5 était éligible à la surveillance. Ce chiffre mesure une éligibilité, pas la part effectivement examinée jusqu’au bout. L’exercice a repéré des événements de compression du contexte qui n’étaient pas contrôlés, un déclenchement lié à la fin des tours et plusieurs voies capables de désactiver ou de dégrader le suivi. Les chercheurs recommandent des contrôles périodiques, une comptabilité complète du trafic, des journaux protégés et une isolation plus forte entre les agents et leurs moniteurs.
Mesurer la couverture
Les chercheurs ont distingué le trafic éligible du trafic effectivement traité.
Chercher les contournements
L’exercice a étudié les déclencheurs, la compression du contexte et les interfaces de contrôle.
Séparer agent et contrôle
Les journaux et la surveillance doivent résister aux actions de l’agent observé.
Choisissez une étape pour lire son explication.
Mesurer la couverture
Les chercheurs ont distingué le trafic éligible du trafic effectivement traité.
Chercher les contournements
L’exercice a étudié les déclencheurs, la compression du contexte et les interfaces de contrôle.
Séparer agent et contrôle
Les journaux et la surveillance doivent résister aux actions de l’agent observé.
Illustration simplifiée. Les dessins ne montrent pas de résultats mesurés.
Points techniques et opérationnels
- Un trafic éligible à la surveillance n’est pas nécessairement contrôlé jusqu’au bout.
- Les corrections annoncées après l’exercice n’ont pas été revérifiées par les chercheurs.
Ce que les équipes peuvent vérifier
Exemples possibles. L’annonce ne démontre pas de gains pour ces usages.
Exemple pédagogique
Contrôler pendant une longue tâche
Exemple fictif : un agent poursuit une tâche pendant de nombreux tours et compresse son historique. Si le contrôle n’est déclenché qu’à la fin, des actions intermédiaires peuvent échapper à l’examen.
Deux questions pour évaluer l’intérêt
- Comparer le trafic attendu avec les appels réellement reçus par le moniteur.
- Isoler les outils et les journaux afin qu’un agent ne puisse pas modifier son propre contrôle.
Qui peut l’utiliser, avec quelles limites ?
Compte rendu public d’un exercice de sécurité historique
Les constats décrivent un système historique tel qu’il existait au plus tard le 21 juillet 2026. OpenAI affirme avoir corrigé les vulnérabilités affectant ses protections de production et élargi la couverture, sans nouvelle vérification par METR. Le rapport public est un résumé d’un rapport interne et certaines informations ont été retirées. Les résultats ne prouvent ni une exploitation réelle par un agent ni l’état actuel du dispositif.
Conditions d’accès : Compte rendu public. Le rapport interne complet et les détails d’exploitation ne sont pas accessibles.
Une photographie historique et partielle
Interprétation éditoriale à partir de l’annonce.
La présence d’un moniteur ne suffit pas. Il faut mesurer la couverture, rapprocher les journaux et vérifier qu’un agent ne contrôle ni le moment ni le contexte du contrôle.
Les mots utiles pour comprendre
Agent IA
Un agent IA organise plusieurs étapes et utilise des outils pour réaliser une demande. Il peut préparer une action ou l’exécuter si elle est autorisée. L’équipe doit définir les étapes qui demandent une validation humaine.
Sources et vérifications
Source vérifiée le . Synthèse originale. Les résultats annoncés restent attribués à leur source. Les dessins expliquent le principe ; les exemples présentent un usage possible.
Compte rendu primaire de METR relu intégralement le 22 octobre 2026. Aucun système ni produit n’a été testé.
Publié sur ce site le . Mis à jour le . Rédaction : Boris Shutov, avec l’aide de ChatGPT. Notre méthode éditoriale.