Technologie

Exécution d’un modèle

Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.

Comprendre le mécanisme

De votre demande à la réponse calculée

Exécuter un modèle, aussi appelé inférence, consiste à appliquer un modèle déjà entraîné à une nouvelle demande. Pour un texte, le logiciel traite des fragments appelés tokens, puis calcule ceux qui formeront la réponse. Le matériel participe à ce calcul.

Pour un essai fictif, une équipe pourrait demander cinq décisions à partir de notes de réunion. Elle comparerait les mêmes notes avec les mêmes réglages, en chronométrant la réponse entière. Une formulation rapide serait ensuite relue pour repérer les décisions inventées.

Exécution et entraînement

L’entraînement modifie les paramètres appris du modèle. Une exécution ordinaire les utilise, sans apprendre automatiquement de votre demande.

Dans un projet

Une demande devient une réponse

Un chef de projet peut envoyer ses notes à un modèle pour préparer un compte rendu. Le logiciel charge le modèle et calcule sa réponse. Le matériel et la longueur des notes influencent le temps nécessaire.

Vous fournissez
Notes fictives et demande de préparer cinq décisions.
Vous contrôlez le résultat
Brouillon de décisions à comparer aux notes originales.

Exemple fictif. Il illustre un usage, sans résultat mesuré.

Les points à vérifier

Vérifiez la compatibilité du modèle, les ressources nécessaires et le délai sur vos propres documents.

  • Délai completMesurer les secondes jusqu’à la dernière ligne, pas seulement la première.
  • Ressources mobiliséesRelever mémoire utilisée ou coût des demandes sur un même lot.
  • Décisions fidèlesCompter les décisions étayées par les notes, puis les ajouts injustifiés.
1

Votre demande

Une question ou un texte à traiter

2

Le calcul

Le logiciel exécute le modèle choisi

3

Le résultat

Vous contrôlez la réponse et son délai

Illustration du principe. Les fonctions disponibles dépendent de l’outil et de vos accès.

78 articles à explorer

Articles 41 - 50 sur 78. Les mots-clés, les dates et les conditions d’accès vous aident à choisir.

Outils et usagesAnnonce

Liquid RIPL vise des réponses génératives en quelques dizaines de millisecondes

Liquid AI

L’essentiel

RIPL exécute les modèles Liquid pendant une interaction à délai court. Les performances annoncées dépendent des demandes, du matériel et de la charge.

DisponibleTarif à vérifier
Accès
Disponible pour déploiements d’entreprise
À prévoir
Déploiements d’entreprise de modèles LFM sur GPU (processeurs spécialisés dans le calcul) NVIDIA. Accès, conditions et tarifs à convenir avec Liquid.
Exécution d’un modèle

Source vérifiée le

Modèles et assistantsAnnonce

Anthropic opère Claude sur Google Cloud avec les accès gérés par IAM

Anthropic

L’essentiel

Anthropic lance Claude Models on Google Cloud, une offre dans laquelle Google Cloud gère l’accès et la facturation, tandis qu’Anthropic opère l’API (interface de communication entre logiciels). Chaque projet crée une organisation Anthropic distincte. L’offre permet d’utiliser les modèles Claude et certaines fonctions d’agents avec des identités et rôles IAM de Google.

DisponibleOffre payante
Accès
Offre lancée le 22 octobre 2026
À prévoir
Abonnement Google Cloud Marketplace, projet activé et rôles IAM requis. La facturation passe par Google Cloud.
Exécution d’un modèleAgent IADonnées connectées

Source vérifiée le

Outils et usagesAnnonce

Hitachi teste une plaque de refroidissement pour les GPU des centres de données IA

Hitachi

L’essentiel

Hitachi présente un prototype de plaque froide destiné aux GPU (processeurs spécialisés dans le calcul) très puissants. Des milliers de petits canaux en U dirigent le liquide vers les zones chaudes pour évacuer la chaleur avec une eau plus chaude et une pression maîtrisée. La réduction d’électricité annoncée reste une projection, pas une mesure en centre de données opérationnel.

ExpérimentationTarif à vérifier
Accès
Prototype présenté
À prévoir
Prototype technique. Aucune offre commerciale, date de disponibilité ou tarification établie dans le communiqué.
Exécution d’un modèle

Source vérifiée le

Agents et développementAnnonce

Ant Group et vLLM publient Humming pour exécuter les modèles compressés sur plusieurs GPU

Ant Group et communauté vLLM

L’essentiel

Ant Group et la communauté vLLM publient Humming, une bibliothèque de calcul pour l’inférence quantifiée. Elle cherche à transformer la réduction de mémoire des modèles en vitesse réelle, sans maintenir une implémentation différente pour chaque format et matériel. Le code est public sous Apache 2.0 et intégré aux installations CUDA de vLLM à partir de la version 0.29.0.

DisponibleTarif à vérifier
Accès
Disponible dans le périmètre annoncé
À prévoir
Bibliothèque ouverte à installer. GPU (processeurs spécialisés dans le calcul) et formats compatibles nécessaires, sans essai effectué.
Exécution d’un modèle

Source vérifiée le

Sécurité et règlesAnnonce

NVIDIA sépare l’exécution des agents de la surveillance chargée de les contenir

NVIDIA

L’essentiel

NVIDIA publie OpenShell Reference Architecture, une architecture destinée à exécuter les agents avec des contrôles extérieurs à leur environnement de travail. Le calcul du modèle, les outils de l’agent et la surveillance utilisent des composants distincts. L’architecture est annoncée disponible, mais les intégrations partenaires ne sont pas toutes au même stade.

DisponibleTarif à vérifier
Accès
Disponible dans le périmètre annoncé
À prévoir
Architecture de référence disponible. Matériel, intégrations et fonctions partenaires ont leurs propres calendriers.
Agent IAEnvironnement isoléExécution d’un modèle

Source vérifiée le

Outils et usagesAnnonce

Ricoh propose au Japon la location d’un serveur LLM installé sur site

Ricoh

L’essentiel

Ricoh complète son kit d’intelligence artificielle générative sur site par une location mensuelle de serveur GPU (processeurs spécialisés dans le calcul). Le matériel est livré avec le modèle Ricoh, Dify et les logiciels nécessaires déjà configurés. L’offre vise les organisations qui veulent traiter leurs données dans leur propre environnement sans acheter immédiatement le serveur.

DisponibleOffre payante
Accès
Offre lancée au Japon
À prévoir
Offre disponible au Japon à partir du 22 octobre 2026, avec un loyer mensuel et des contrats de un, trois ou cinq ans. Prix non publié.
Exécution d’un modèleWorkflow hébergé

Source vérifiée le

Modèles et assistantsAnnonce

Recursive publie Flint pour les agents de code exécutés localement

Recursive

L’essentiel

Recursive, entreprise spécialisée dans la recherche automatisée en IA, présente Flint, un modèle pour les agents de programmation. Ses 39,8 milliards de paramètres ne sont pas tous sollicités à chaque étape. Les poids et une fiche sous licence Apache 2.0 sont publiés, avec des configurations d’exécution distinctes selon le matériel.

DisponibleTarif à vérifier
Accès
Disponible dans le périmètre annoncé
À prévoir
Poids publiés sous Apache 2.0. Matériel, moteur et variante à choisir. Conditions d’API (interface de communication entre logiciels) distinctes.
Exécution d’un modèleAgent IA

Source vérifiée le

Modèles et assistantsAnnonce

Google Cloud ouvre une préversion privée des modèles OpenAI pour ses clients

Google Cloud

L’essentiel

Google Cloud annonce l’arrivée de GPT-6 Astra, GPT-6.1 Sol et GPT-6 Luna dans son catalogue de modèles. L’accès commence en préversion privée pour certains clients d’entreprise. L’annonce originale date du 21 octobre 2026, même si sa traduction japonaise a été publiée le 22.

Préversion / accès anticipéTarif à vérifier
Accès
Préversion privée pour certaines entreprises
À prévoir
Clients d’entreprise sélectionnés. Fonctions de protection supplémentaires annoncées pour plus tard.
Exécution d’un modèleConnexion aux outils de travail

Source vérifiée le

Modèles et assistantsAnnonce

Upstage augmente les tarifs de Solar Pro 4 en réduisant sa remise

Upstage

L’essentiel

Upstage fournit les modèles Solar aux applications et assistants IA. Le 20 octobre, la remise promotionnelle de Solar Pro 4 passe de 70 % à 50 %. À volume de texte identique, les tarifs concernés augmentent de 66,7 %. Cette annonce porte sur la facturation, pas sur un nouveau modèle.

DisponibleOffre payante
Accès
Nouveaux tarifs en vigueur
À prévoir
Nouveaux tarifs effectifs le 20 octobre à 00 h UTC, soit 02 h à Paris. Tarifs au token et hors taxes.
Exécution d’un modèle

Source vérifiée le

Outils et usagesAnnonce

QueryPie laisse les entreprises choisir les modèles du routage automatique

QueryPie

L’essentiel

QueryPie développe des outils de contrôle des accès et une plateforme d’IA d’entreprise. Sa mise à jour du 20 octobre permet aux administrateurs de choisir les modèles et niveaux de raisonnement utilisés pour les tâches légères, équilibrées ou lourdes. Un autre réglage encadre les liens publics de conversations.

DisponibleTarif à vérifier
Accès
Mise à jour disponible
À prévoir
Fonctions annoncées dans QueryPie AIP le 20 octobre. Droits administrateur requis pour ces réglages. Conditions commerciales à préciser.
Workflow hébergéExécution d’un modèle

Source vérifiée le