L’institut britannique de sécurité de l’IA propose huit priorités pour tester les modèles
L’essentiel de l’annonce
L’institut britannique AISI propose huit priorités pour sécuriser les modèles avancés pendant leur développement et leur utilisation. Ces bonnes pratiques sont volontaires et ne créent pas de nouvelle obligation légale.
- Date de publication de la source
- Catégorie
- Sécurité et règles
- Périmètre et accès
- Propositions publiques et volontaires destinées aux développeurs de modèles avancés. Le programme ne crée ni certification ni nouvelle obligation légale.
- Sujet du contenu
- Sécurité des modèles avancés
- Entreprises / organismes
- AI Security Institute
- Technologies
- Évaluation d’un agent, Agent IA
Examiner les risques à plusieurs moments
Le programme couvre les tests pendant la création des modèles, leur utilisation et les incidents observés. Il inclut aussi l’intervention d’auditeurs indépendants.
Tester pendant la création
Le programme couvre l’entraînement et les évaluations.
Examiner les usages réels
Les contrôles concernent les usages internes et publics.
Préparer une réponse
Les priorités incluent le traitement et le signalement des incidents.
Choisissez une étape pour lire son explication.
Tester pendant la création
Le programme couvre l’entraînement et les évaluations.
Examiner les usages réels
Les contrôles concernent les usages internes et publics.
Préparer une réponse
Les priorités incluent le traitement et le signalement des incidents.
Illustration simplifiée. Les dessins ne montrent pas de résultats mesurés.
Points techniques et opérationnels
- Les priorités couvrent les incidents impliquant des agents et l’accès d’auditeurs indépendants aux modèles.
- Les propositions prévoient de mesurer les capacités des modèles et leur conformité aux comportements attendus.
Préparer la réponse à un incident
Exemples possibles. L’annonce ne démontre pas de gains pour ces usages.
Exemple pédagogique
Un incident avant publication
Une équipe pourrait définir une réponse à une action non autorisée pendant un test interne, avec des critères de gravité et une personne responsable.
Deux questions pour évaluer l’intérêt
- Quel responsable traite les incidents internes ?
- Les contrôles sont-ils testés dans les usages concernés ?
Qui peut l’utiliser, avec quelles limites ?
Bonnes pratiques proposées
Agenda de travail volontaire. Il ne constitue pas une certification ni une nouvelle loi.
Conditions d’accès : Propositions publiques pour les développeurs de modèles avancés.
Préparer les tests et le traitement des incidents
Interprétation éditoriale à partir de l’annonce.
Le programme relie les tests avant publication aux problèmes qui peuvent apparaître pendant l’utilisation. Une équipe pourrait s’appuyer sur ces priorités pour définir ce qu’elle examine et qui traite un incident. La portée des contrôles dépendrait des usages concernés et des risques retenus. Les propositions ne constituent ni une certification du modèle ni une preuve que tous les risques sont couverts.
Les mots utiles pour comprendre
Sources et vérifications
Source vérifiée le . Synthèse originale. Les résultats annoncés restent attribués à leur source. Les dessins expliquent le principe ; les exemples présentent un usage possible.
Programme volontaire. Son index officiel date le billet du 12 octobre.
Publié sur ce site le . Mis à jour le . Rédaction : Boris Shutov, avec l’aide de ChatGPT. Notre méthode éditoriale.