Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.
Comprendre le mécanisme
De votre demande à la réponse calculée
Exécuter un modèle, aussi appelé inférence, consiste à appliquer un modèle déjà entraîné à une nouvelle demande. Pour un texte, le logiciel traite des fragments appelés tokens, puis calcule ceux qui formeront la réponse. Le matériel participe à ce calcul.
Pour un essai fictif, une équipe pourrait demander cinq décisions à partir de notes de réunion. Elle comparerait les mêmes notes avec les mêmes réglages, en chronométrant la réponse entière. Une formulation rapide serait ensuite relue pour repérer les décisions inventées.
Exécution et entraînement
L’entraînement modifie les paramètres appris du modèle. Une exécution ordinaire les utilise, sans apprendre automatiquement de votre demande.
Dans un projet
Une demande devient une réponse
Un chef de projet peut envoyer ses notes à un modèle pour préparer un compte rendu. Le logiciel charge le modèle et calcule sa réponse. Le matériel et la longueur des notes influencent le temps nécessaire.
Vous fournissez
Notes fictives et demande de préparer cinq décisions.
Vous contrôlez le résultat
Brouillon de décisions à comparer aux notes originales.
Exemple fictif. Il illustre un usage, sans résultat mesuré.
Les points à vérifier
Vérifiez la compatibilité du modèle, les ressources nécessaires et le délai sur vos propres documents.
Délai completMesurer les secondes jusqu’à la dernière ligne, pas seulement la première.
Ressources mobiliséesRelever mémoire utilisée ou coût des demandes sur un même lot.
Décisions fidèlesCompter les décisions étayées par les notes, puis les ajouts injustifiés.
Google a transmis une consigne à Gemma 4 sur un processeur d’IA embarqué dans un satellite expérimental et reçu un texte en retour. Le billet du 30 octobre documente une étape du projet Suncatcher. La robustesse orbitale et l’intérêt économique restent à évaluer.
ExpérimentationTarif à vérifier
Accès
Source officielle vérifiée
À prévoir
Prototype de recherche. Aucune offre commerciale ou capacité réservable annoncée.
Les modèles Kanana-2 transforment les textes en représentations numériques pour la recherche documentaire. Leur taille de sortie est ajustable, avec une licence spécifique qui encadre certains usages commerciaux.
DisponibleTarif à vérifier
Accès
Source officielle vérifiée
À prévoir
Poids téléchargeables sous KananaOpenLicense. Certains services et déploiements revendus à des tiers exigent une licence commerciale distincte.
joey-1 est un modèle spécialisé de deux milliards de paramètres qui retourne des choix et probabilités à partir de questions structurées. Baseten le propose par API (interface de communication entre logiciels) et avec des poids sous licence MIT. Ses performances annoncées restent à vérifier sur les décisions du projet.
DisponibleOffre payante
Accès
Source officielle vérifiée
À prévoir
API (interface de communication entre logiciels) à 0,01 dollar par million de tokens d’entrée, sorties à 0 dollar selon la fiche. Poids annoncés disponibles sous licence MIT.
Orange Cyberdefense obtient un accès anticipé à une variante de Mistral Large 4 spécialisée pour la cybersécurité. Les deux entreprises visent des services managés pour l’audit, les tests d’intrusion et l’investigation, sous contrôle humain.
Annonce / accès prévuTarif à vérifier
Accès
Source officielle vérifiée
À prévoir
Accès anticipé pour Orange Cyberdefense. Intégration progressive annoncée dans des services managés, sans disponibilité ni tarif publics précisés.
NVIDIA et Eclypsium montrent qu’un modèle peut se comporter différemment après une modification de son état en mémoire alors que son fichier, son empreinte et sa signature restent valides. L’étude contrôlée suppose déjà un accès privilégié à l’infrastructure et ne décrit pas une attaque observée en production.
Recherche publiéeTarif à vérifier
Accès
Source officielle vérifiée
À prévoir
Recherche et recommandations publiques. Les protections citées dépendent du matériel, des logiciels et de leur configuration.
AWS documente le déploiement du modèle ouvert NVIDIA Nemotron 3.5 Super VL sur EKS et SageMaker HyperPod EKS. Le guide sépare le chargement des poids, le service d’inférence et la mesure de latence sous plusieurs charges. Il ne prouve pas un gain universel ni la première sortie du modèle.
DisponibleTarif à vérifier
Accès
Source officielle vérifiée
À prévoir
Déploiement dans un compte AWS avec modèles et GPU (processeurs spécialisés dans le calcul) compatibles. Coûts d’infrastructure et conditions des poids à vérifier.
Le catalogue régional Model Studio ajoute le modèle textuel d’Ant Digital à la date du 29 octobre. Le référencement apporte une option supplémentaire aux équipes utilisant ce service à Pékin, sans prouver un lancement mondial.
DisponibleTarif à vérifier
Accès
Sources officielles vérifiées
À prévoir
Référencement Model Studio dans la région Huabei 2, Pékin. Texte uniquement, conditions de compte, prix et quotas à vérifier.
Un réglage de NVIDIA App donne la priorité à l’application active ou à un agent en arrière-plan. Il concerne RTX Spark sous Windows et exige une option de planification GPU (processeurs spécialisés dans le calcul) activée.
DisponibleTarif à vérifier
Accès
Source officielle vérifiée
À prévoir
RTX Spark sous Windows, NVIDIA App et planification GPU (processeurs spécialisés dans le calcul) accélérée par le matériel activée. Matériel distinct de la fonction.
Google présente plusieurs briques pour exposer les fonctions d’une application aux agents, produire des interfaces et exécuter certaines actions localement. Leurs niveaux de maturité vont de la bêta à l’alpha.
Préversion / accès anticipéTarif à vérifier
Accès
Briques en bêta, alpha et préversion
À prévoir
Disponibilité distincte par composant. Vérifier la documentation et les programmes d’accès avant de prévoir un usage en production.
Le fabricant sud-coréen finance la production et le déploiement de RNGD, puis une troisième génération de puces. Les objectifs de volume et les performances énergétiques restent des déclarations de l’entreprise.
DisponibleTarif à vérifier
Accès
Sources officielles vérifiées
À prévoir
RNGD déjà en production selon FuriosaAI. Déploiement commercial et prix sur conditions fournisseur. Troisième génération en développement.
