Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.
Comprendre le mécanisme
De votre demande à la réponse calculée
Exécuter un modèle, aussi appelé inférence, consiste à appliquer un modèle déjà entraîné à une nouvelle demande. Pour un texte, le logiciel traite des fragments appelés tokens, puis calcule ceux qui formeront la réponse. Le matériel participe à ce calcul.
Pour un essai fictif, une équipe pourrait demander cinq décisions à partir de notes de réunion. Elle comparerait les mêmes notes avec les mêmes réglages, en chronométrant la réponse entière. Une formulation rapide serait ensuite relue pour repérer les décisions inventées.
Exécution et entraînement
L’entraînement modifie les paramètres appris du modèle. Une exécution ordinaire les utilise, sans apprendre automatiquement de votre demande.
Dans un projet
Une demande devient une réponse
Un chef de projet peut envoyer ses notes à un modèle pour préparer un compte rendu. Le logiciel charge le modèle et calcule sa réponse. Le matériel et la longueur des notes influencent le temps nécessaire.
Vous fournissez
Notes fictives et demande de préparer cinq décisions.
Vous contrôlez le résultat
Brouillon de décisions à comparer aux notes originales.
Exemple fictif. Il illustre un usage, sans résultat mesuré.
Les points à vérifier
Vérifiez la compatibilité du modèle, les ressources nécessaires et le délai sur vos propres documents.
Délai completMesurer les secondes jusqu’à la dernière ligne, pas seulement la première.
Ressources mobiliséesRelever mémoire utilisée ou coût des demandes sur un même lot.
Décisions fidèlesCompter les décisions étayées par les notes, puis les ajouts injustifiés.
Meta décrit un système qui utilise momentanément la puissance de calcul disponible pour ses publicités. Il peut comparer davantage de candidats ou confier certaines demandes à des modèles plus puissants.
Cas documentéTarif à vérifier
Accès
Système interne décrit
À prévoir
Système exploité chez Meta. Ce billet n’annonce pas un outil public.
Microsoft présente Maia 300, une puce destinée à faire fonctionner les modèles IA utilisés par ses services. Sa production commencera en 2027, notamment pour prendre en charge des tâches longues.
Annonce / accès prévuTarif à vérifier
Accès
Production prévue en 2027
À prévoir
Production Microsoft prévue en 2027. Accès client et prix non annoncés.
NVIDIA partage des plans de racks et de plateaux de calcul Vera Rubin avec l’Open Compute Project. Ces éléments aident à assembler l’infrastructure, sans rendre toutes les puces ouvertes.
DisponibleTarif à vérifier
Accès
Plans et logiciels présentés
À prévoir
Contributions MGX/OCP et logiciels ouverts. Coût d’installation non précisé.
Microsoft-Decision-1 attribue un score aux réponses proposées par l’application. Il est accessible en préversion dans Foundry, ainsi que par OpenRouter.
Préversion / accès anticipéOffre payante
Accès
Modèle en préversion
À prévoir
Foundry en préversion. Entrée facturée, sortie gratuite.
Qwen-Image-2.1-Turbo crée et modifie des images avec huit étapes de calcul. Les poids sont disponibles, avec une licence commerciale distincte requise.
DisponibleTarif à vérifier
Accès
Poids disponibles sous conditions
À prévoir
Poids pour recherche et évaluation. Usage commercial soumis à licence distincte.