Modèles et assistantsModèle et formats quantifiés annoncés

NVIDIA Nemotron 3.5 Bolt E4B vise les agents locaux avec environ 4 Go de mémoire

Source publiée le NVIDIA2 min de lecture

L’essentiel de l’annonce

NVIDIA publie un petit modèle orienté conversation et appels d’outils sur appareils locaux. Il propose un contexte de 64 000 tokens et un raisonnement activable.

Date de publication de la source
Catégorie
Modèles et assistants
Périmètre et accès
Sortie technique du 23 octobre.
Sujet du contenu
Petit modèle agentique local
Entreprises / organismes
NVIDIA

Modèle post-entraîné

Bolt E4B part de Gemma 4 E4B puis reçoit un post-entraînement Nemotron. Il peut alterner dialogue et appels d’outils sur plusieurs tours, avec un mode conversationnel destiné aux réponses courtes. Le modèle couvre 35 langues et cible les assistants vocaux, personnages interactifs et interfaces embarquées. NVIDIA fournit des formats quantifiés pour l’exécution locale.

Dialoguer sur l’appareil
1

Dialogue

Le modèle reçoit contexte et outils.

2

Raisonnement

Il répond ou appelle une fonction.

3

Appareil

L’inférence reste sur le matériel local choisi.

Dialogue

Le modèle reçoit contexte et outils.

Raisonnement

Il répond ou appelle une fonction.

Appareil

L’inférence reste sur le matériel local choisi.

Illustration simplifiée. Les dessins ne montrent pas de résultats mesurés.

Points techniques et opérationnels

  • Contexte de 64 000 tokens.
  • Environ 4 Go dans certaines configurations, pas toutes.

Outils en local

Exemples possibles. L’annonce ne démontre pas de gains pour ces usages.

Exemple pédagogique

Exemple fictif

Un assistant vocal local consulte un outil puis répond brièvement.

Deux questions pour évaluer l’intérêt

  • Mesurer la mémoire avec le contexte cible.
  • Vérifier les benchmarks utiles à l’application.

Qui peut l’utiliser, avec quelles limites ?

Modèle et formats quantifiés annoncés

Le nom 4GB n’est pas un plafond universel. Les mesures NVIDIA en Q4_K_M vont de 3,5 à 4,3 Go sur RTX 5070 et de 4,2 à 4,9 Go sur Jetson Orin Nano selon le contexte. Les évaluations sont internes et certaines méthodes ne sont pas encore publiées.

Conditions d’accès : Poids et formats quantifiés annoncés pour exécution locale. Compatibilité, licence et coût matériel à vérifier selon le déploiement.

Poids accessibles

Interprétation éditoriale à partir de l’annonce.

Les performances dépendent du matériel et de la quantification.

Les mots utiles pour comprendre

Exécution d’un modèle

Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.

Comprendre cette technologie

Agent IA

Un agent IA organise plusieurs étapes et utilise des outils pour réaliser une demande. Il peut préparer une action ou l’exécuter si elle est autorisée. L’équipe doit définir les étapes qui demandent une validation humaine.

Comprendre cette technologie

Sources et vérifications

NVIDIA - Introducing NVIDIA Nemotron 3.5 Bolt E4B 4GB

Lire la source officielle

Source vérifiée le . Synthèse originale. Les résultats annoncés restent attribués à leur source. Les dessins expliquent le principe ; les exemples présentent un usage possible.

Page et rapport technique public relus. Aucun poids téléchargé ni matériel testé.

Publié sur ce site le . Mis à jour le . Rédaction : Boris Shutov, avec l’aide de ChatGPT. Notre méthode éditoriale.