L’API Claude ajoute des fils temporaires pour alléger les échanges des agents

1Présentation

Dans une longue conversation avec l’API Claude, l’application renvoie habituellement l’historique à chaque appel. Les notes officielles du 2 novembre annoncent les message threads en bêta, qui conservent temporairement cette conversation côté serveur.

Après un premier envoi complet, l’application transmet les nouveaux messages et l’identifiant de la réponse précédente. Anthropic annonce des requêtes plus petites et un premier jeton reçu plus rapidement. Il s’agit d’une optimisation des échanges, pas d’une mémoire durable.

2Ce qui change

Les message threads conservent brièvement la conversation côté serveur. Les appels suivants envoient seulement les nouveaux messages, avec une reprise complète à prévoir.

Envoyer seulement la suite

Le premier appel fournit conversation, consignes et outils. Les suivants réutilisent le fil avec l’identifiant de la dernière réponse et les messages nouveaux.

Prévoir une reprise

Si le serveur ne peut plus continuer le fil, l’application repart de sa copie complète. Certains réglages doivent rester identiques pendant un fil, sinon il faut en créer un nouveau.

3Fonctionnement

Le serveur reconstitue la conversation avant l’appel au modèle. L’application reste la référence durable et doit traiter la disparition du fil.

4Usages possibles

Cette bêta vise notamment les conversations longues et les agents en plusieurs étapes, lorsque la conservation temporaire côté serveur est compatible avec le projet.

5Accès et limites

Le fil expire après cinq minutes d’inactivité et est supprimé au plus tard une heure après son dernier usage. Sa conservation est au mieux : l’application doit garder sa propre copie et pouvoir rejouer l’historique. Aucune API de lecture, liste ou suppression du fil. Fonction non éligible à la rétention nulle et aux organisations avec HIPAA readiness, ni aux lots ou à la compaction à la demande. Le mécanisme n’active pas automatiquement le cache de prompt et ne change pas tarifs ou limites de débit. Gain de latence déclaré par Anthropic, non mesuré ici.

Conditions d’accès. Bêta Claude API, Claude Platform on AWS, Google Cloud en gestion Anthropic et Microsoft Foundry. Restrictions de conservation.

6Pour votre projet

Les développeurs de boucles d’agents peuvent examiner l’allègement des requêtes avec leurs contraintes de confidentialité, de reprise et de stockage applicatif.

• La conservation temporaire est-elle compatible avec les exigences du projet ?
• L’application sait-elle reprendre avec sa copie complète et les mêmes paramètres ?

La date d’août dans l’en-tête bêta ne remplace pas la date d’annonce du 2 novembre.