Évaluer un agent consiste à lui donner des tâches et à examiner ses résultats avec des critères précis. Un score résume cette évaluation. Il faut lire les tâches et les réglages avant de conclure sur ses capacités.
Comprendre le mécanisme
Comparer des parcours avec une règle de réussite
Une évaluation prépare des tâches et définit comment juger leurs résultats. Un contrôleur peut comparer une réponse attendue, vérifier un format ou appliquer une grille. Les scores sont ensuite regroupés pour résumer le test.
Une équipe pourrait préparer dix dossiers fictifs, dont certains sont incomplets. Elle donnerait les mêmes tâches aux assistants comparés et garderait les réglages du test. Une relecture examinerait les dossiers réussis, les erreurs et les interventions nécessaires avant de discuter le score global.
Note du test et travail réel
Une note décrit les cas évalués avec leurs critères. Elle ne démontre pas la réussite sur toutes les situations absentes du test.
Dans un projet
Comparer des assistants sur les mêmes tâches
Une équipe peut demander à plusieurs assistants de traiter les mêmes dossiers avec des critères communs. Elle examine les réussites, les erreurs et les conditions du test. Un score seul ne décrit pas toutes les situations de travail.
Vous fournissez
Dossiers fictifs, résultats attendus et grille commune de contrôle.
Vous contrôlez le résultat
Scores par cas, erreurs décrites et synthèse à interpréter.
Exemple fictif. Il illustre un usage, sans résultat mesuré.
Les points à vérifier
Lisez les tâches, les réglages, les coûts et les erreurs avant de choisir un outil.
Tâches réussiesCompter les dossiers entièrement conformes, sans masquer les cas incomplets.
Limites respectéesCompter les actions non autorisées proposées ou effectuées dans la simulation.
Effort de contrôleMesurer la relecture et les corrections nécessaires pour chaque parcours.
JAPAN AI, entreprise japonaise filiale de GENIEE, ouvre les candidatures à JAPAN AI Cyber. Le premier diagnostic est annoncé gratuit, avec un périmètre convenu individuellement.
PiloteTarif à vérifier
Accès
Candidatures ouvertes pour un premier diagnostic
À prévoir
Accord écrit, domaines enregistrés et modalités à confirmer.
L’évaluateur Artificial Analysis publie AA-Robotics v0.1 en préversion de recherche. Cinq modèles affrontent huit tâches. GPT-6 Astra atteint 69,4 points, contre 64,6 pour GPT-6.1 Sol.
Google annonce l’accès mondial à Deep Review, avec deux revues offertes par semaine. Le service examine les arguments et la cohérence d’un document, avec une décision finale humaine.
DisponibleTarif à vérifier
Accès
Accès public annoncé par Google
À prévoir
Deux revues hebdomadaires offertes. Clé Gemini pour davantage d’usage.
L’institut britannique AISI propose huit priorités pour sécuriser les modèles avancés pendant leur développement et leur utilisation. Ces bonnes pratiques sont volontaires et ne créent pas de nouvelle obligation légale.
Recherche publiéeTarif à vérifier
Accès
Bonnes pratiques proposées
À prévoir
Propositions publiques pour les développeurs de modèles avancés.
Alibaba Cloud décrit AgentCore, une plateforme pour exécuter les agents et suivre leur travail. L’article détaille leurs accès, leurs actions et leur évaluation, sans établir un premier lancement le 12 octobre.
Annonce / accès prévuTarif à vérifier
Accès
Publication technique
À prévoir
Architecture décrite par Alibaba Cloud. Conditions commerciales non précisées dans ce billet.
DigitalOcean ouvre en préversion des outils pour examiner les actions d’un agent et tester des corrections. Le service de données reste en préversion privée, et ces services ne couvrent pas la production.
Préversion / accès anticipéTarif à vérifier
Accès
Préversions publique et privée
À prévoir
Learning : préversion publique. Data : privée sur acceptation. Sans support production.