Sécurité et règlesDispositif d’évaluation annoncé

Anthropic donne à six évaluateurs de METR un accès interne approfondi

Source publiée le Anthropic2 min de lecture

L’essentiel de l’annonce

Anthropic annonce l’intégration de six membres de METR pour examiner ses risques et pratiques. Leur accès est proche de celui des équipes internes d’évaluation, avec des exceptions définies.

Date de publication de la source
Catégorie
Sécurité et règles
Périmètre et accès
Une annonce sur les modalités d’évaluation, pas un verdict.
Sujet du contenu
L’indépendance dépend aussi de l’accès aux preuves
Entreprises / organismes
Anthropic, METR

Ce qui est annoncé

METR pourra publier ses analyses sans veto d’Anthropic. Certaines informations sensibles pourront être retirées selon des catégories préétablies, et METR pourra commenter ces retraits.

Comprendre le fonctionnement
1

Accéder

Une équipe dispose de moyens et d’informations internes.

2

Évaluer

Les chercheurs examinent les risques et pratiques.

3

Publier

Les conclusions peuvent être rendues publiques dans le cadre défini.

Accéder

Une équipe dispose de moyens et d’informations internes.

Évaluer

Les chercheurs examinent les risques et pratiques.

Publier

Les conclusions peuvent être rendues publiques dans le cadre défini.

Illustration simplifiée. Les dessins ne montrent pas de résultats mesurés.

Points techniques et opérationnels

  • Les droits de publication varient selon les partenariats.
  • Les résultats futurs devront être lus pour eux-mêmes.

Ce que cela pourrait changer

Exemples possibles. L’annonce ne démontre pas de gains pour ces usages.

Exemple pédagogique

Lire un futur rapport sans lui prêter un périmètre illimité

Exemple fictif : une équipe examine un rapport externe avant de choisir un modèle. Elle relève la version testée, les exclusions et les preuves accessibles. Elle distingue l’absence d’incident observé d’une garantie générale. Ce scénario illustre une lecture critique, sans anticiper le contenu des évaluations annoncées.

Deux questions pour évaluer l’intérêt

  • Lire les exclusions et les éventuelles informations retirées.
  • Ne pas confondre accès accordé et sécurité démontrée.

Qui peut l’utiliser, avec quelles limites ?

Dispositif d’évaluation annoncé

Cette organisation n’est ni un résultat d’évaluation ni une certification de sécurité. D’autres partenaires ont un accès plus limité et des droits de publication différents.

Conditions d’accès : Accès réservé à une petite équipe sous accords. Aucun accès public aux systèmes internes.

Le périmètre à retenir

Interprétation éditoriale à partir de l’annonce.

Des analyses publiées avec cet accès pourraient éclairer les décisions d’utilisateurs professionnels. Leur portée dépendrait encore des systèmes examinés, des méthodes et des informations effectivement disponibles.

Les mots utiles pour comprendre

Évaluation d’un agent

Évaluer un agent consiste à lui donner des tâches et à examiner ses résultats avec des critères précis. Un score résume cette évaluation. Il faut lire les tâches et les réglages avant de conclure sur ses capacités.

Comprendre cette technologie

Sources et vérifications

Anthropic - An update on independent evaluators

Lire la source officielle

Source complémentaire : METR - Risk Assessment

Source vérifiée le . Synthèse originale. Les résultats annoncés restent attribués à leur source. Les dessins expliquent le principe ; les exemples présentent un usage possible.

Annonce officielle intégrale relue le 16 octobre 2026, avec consultation de la page METR sur ses évaluations. Aucun verdict de sécurité n’est déduit de l’annonce.

Publié sur ce site le . Mis à jour le . Rédaction : Boris Shutov, avec l’aide de ChatGPT. Notre méthode éditoriale.