Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.
Comprendre le mécanisme
De votre demande à la réponse calculée
Exécuter un modèle, aussi appelé inférence, consiste à appliquer un modèle déjà entraîné à une nouvelle demande. Pour un texte, le logiciel traite des fragments appelés tokens, puis calcule ceux qui formeront la réponse. Le matériel participe à ce calcul.
Pour un essai fictif, une équipe pourrait demander cinq décisions à partir de notes de réunion. Elle comparerait les mêmes notes avec les mêmes réglages, en chronométrant la réponse entière. Une formulation rapide serait ensuite relue pour repérer les décisions inventées.
Exécution et entraînement
L’entraînement modifie les paramètres appris du modèle. Une exécution ordinaire les utilise, sans apprendre automatiquement de votre demande.
Dans un projet
Une demande devient une réponse
Un chef de projet peut envoyer ses notes à un modèle pour préparer un compte rendu. Le logiciel charge le modèle et calcule sa réponse. Le matériel et la longueur des notes influencent le temps nécessaire.
Vous fournissez
Notes fictives et demande de préparer cinq décisions.
Vous contrôlez le résultat
Brouillon de décisions à comparer aux notes originales.
Exemple fictif. Il illustre un usage, sans résultat mesuré.
Les points à vérifier
Vérifiez la compatibilité du modèle, les ressources nécessaires et le délai sur vos propres documents.
Délai completMesurer les secondes jusqu’à la dernière ligne, pas seulement la première.
Ressources mobiliséesRelever mémoire utilisée ou coût des demandes sur un même lot.
Décisions fidèlesCompter les décisions étayées par les notes, puis les ajouts injustifiés.
MiniMax annonce une nouvelle version de M3.1 Flash pour les agents et la programmation. Le fournisseur affiche un prix de 0,15 dollar par million de jetons en entrée et 0,60 dollar en sortie. L’accès passe par ses services, les poids du modèle étant annoncés pour plus tard.
DisponibleOffre payante
Accès
Disponible via les services MiniMax
À prévoir
Accès annoncé via API (interface de communication entre logiciels), M Plan et MiniMax Code. Poids à paraître, sans calendrier précis.
Inception, développeur de modèles de langage par diffusion, lance Mercury 3. Le modèle vise les applications où le délai de réponse compte, comme l’assistance client ou les agents qui enchaînent plusieurs étapes. Il est annoncé disponible par API (interface de communication entre logiciels), avec une fenêtre de contexte d’un million de tokens.
DisponibleOffre payante
Accès
Disponible
À prévoir
Service par API (interface de communication entre logiciels). Tarif standard : 0,20 dollar en entrée et 0,70 dollar en sortie par million de tokens. Promotion de lancement distincte.
AI Gateway, le service de Vercel qui relaie les demandes vers des modèles, ajoute une vue par session. Une équipe peut y suivre ensemble les requêtes d’une conversation, leur coût et l’usage du cache.
DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Vue annoncée le 18 octobre pour AI Gateway. Accès au service requis. Coûts et conditions de l’offre à vérifier.
vLLM est un logiciel qui fait fonctionner des modèles d’IA pour d’autres applications. Sa version 0.32.0 ajoute une interface qui reçoit une situation structurée et demande au modèle de choisir ou de noter des options.
DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Version publiée le 18 octobre. Installation et compatibilité matérielle à vérifier. Calcul et exploitation à financer séparément.
DeepSeek remplace son modèle Flash par V4.1-Flash-1017 sur le site, l’application et l’interface de programmation. L’accès conserve le nom deepseek-flash et le tarif annoncé. L’éditeur rapporte des progrès en programmation et raisonnement, sans démontrer un gain identique pour chaque projet.
DisponibleOffre payante
Accès
Disponibilité annoncée
À prévoir
API (interface de communication entre logiciels) facturée à l’usage. Version Flash-1017 indiquée dans la tarification, avec prix inchangés selon l’annonce.
Reflection, un développeur de modèles d’IA, rend disponibles les poids de Beam sous licence Apache 2.0. Ces fichiers permettent à une équipe d’héberger et d’adapter le modèle pour des tâches de programmation, de raisonnement et d’agents.
DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Poids disponibles sous Apache 2.0. Hébergement, matériel et coûts d’exploitation à évaluer séparément. L’accès par API (interface de communication entre logiciels) est distinct.
Amp est un assistant de programmation qui peut travailler sur des machines appelées runners. Il permet désormais de voir leur bureau et de reprendre la main pour examiner une application ou débloquer une étape.
DisponibleTarif à vérifier
Accès
Disponibilité annoncée
À prévoir
Fonction annoncée le 16 octobre pour macOS et Linux, sous conditions techniques. Tarif et accès à vérifier selon l’offre Amp.
Deploy on Azure permet à certains clients Enterprise d’héberger leurs applications et leurs données dans leur propre abonnement Azure. L’offre reste en préversion privée, avec des composants déployés progressivement.
Préversion / accès anticipéTarif à vérifier
Accès
Préversion privée Enterprise
À prévoir
Clients Enterprise sélectionnés et installation revue par leurs équipes techniques. Coûts et composants à confirmer pour chaque configuration.
NVIDIA annonce la disponibilité de Nemotron 3.5 Super VL et Bolt 74B-A9B 24GB. Le premier traite texte et contenu visuel. Bolt E4B 4GB reste annoncé pour le 23 octobre.
DisponibleTarif à vérifier
Accès
Super VL et Bolt 74B disponibles, E4B prévu le 23 octobre
À prévoir
Poids et logiciels d’exécution accessibles. Matériel compatible, licence et mémoire totale de fonctionnement à vérifier.
Le CERN et Mistral signent une déclaration d’intention pour développer des modèles de fondation scientifiques. Leur premier objectif est un modèle de physique entraîné sur des milliards de collisions proton-proton simulées.
Recherche publiéeTarif à vérifier
Accès
Déclaration d’intention et projet de recherche
À prévoir
Travail annoncé entre les partenaires. Aucun accès public au futur modèle confirmé.
