Modèles et assistantsConfiguration et mesures documentées

Apple répartit Muse Spark Open sur plusieurs Mac pour le faire fonctionner localement

Source publiée le Apple2 min de lecture

L’essentiel de l’annonce

Apple documente l’exécution du modèle Muse Spark Open sur plusieurs Mac Studio avec MLX, son logiciel de calcul pour l’IA. L’ensemble partage le stockage et les calculs, car le modèle ne tient pas sur une seule machine dans la configuration présentée.

Date de publication de la source
Catégorie
Modèles et assistants
Périmètre et accès
Billet Apple du 15 octobre et documentation publique de MLX.
Sujet du contenu
Partager un modèle entre ordinateurs
Entreprises / organismes
Apple, Meta

Ce qui est annoncé

MLX peut répartir les étapes du modèle entre les ordinateurs ou partager les calculs de chaque étape. Les Mac échangent rapidement par Thunderbolt 5 et RDMA, une technique de transfert entre mémoires. Le câblage et les réglages font partie du dispositif.

Comprendre le fonctionnement
1

Le modèle

Les machines conservent chacune une partie du travail.

2

Les calculs

Des liaisons rapides relient les Mac.

3

Le texte

Le service rassemble le résultat pour l’application.

Le modèle

Les machines conservent chacune une partie du travail.

Les calculs

Des liaisons rapides relient les Mac.

Le texte

Le service rassemble le résultat pour l’application.

Illustration simplifiée. Les dessins ne montrent pas de résultats mesurés.

Points techniques et opérationnels

  • Les poids compressés occupent environ 493 Go avant les besoins de calcul.
  • La documentation MLX précise les contraintes de connexion entre les Mac.

Ce que cela pourrait changer

Exemples possibles. L’annonce ne démontre pas de gains pour ces usages.

Exemple pédagogique

Un assistant de programmation local

Exemple fictif : un développeur relie son assistant à un modèle servi par plusieurs Mac. Les outils externes de l’assistant nécessitent leur propre examen de confidentialité.

Deux questions pour évaluer l’intérêt

  • Comparer les mêmes tailles de contexte.
  • Vérifier le matériel et les échanges entre machines.

Qui peut l’utiliser, avec quelles limites ?

Configuration et mesures documentées

Apple mesure 36,73 fragments de texte, ou tokens, par seconde sur quatre M5 Ultra : contexte de 8 192 tokens et génération de 128 tokens. Résultat fournisseur, non reproduit. Les 300 watts d’un autre essai ne décrivent pas ce cluster.

Conditions d’accès : Plusieurs Mac compatibles, mémoire suffisante, Thunderbolt 5 et configuration RDMA requis. Aucun coût total vérifié.

Le périmètre à retenir

Interprétation éditoriale à partir de l’annonce.

Une équipe pourrait étudier cette configuration pour utiliser un grand modèle sur son matériel, sans déduire sa rentabilité du débit annoncé.

Les mots utiles pour comprendre

Exécution d’un modèle

Exécuter un modèle consiste à lui envoyer une demande et à utiliser du calcul pour produire son résultat. Le délai dépend du modèle, du matériel et des autres tâches en cours. Une mise à jour du logiciel peut modifier ce fonctionnement sans changer les connaissances du modèle.

Comprendre cette technologie

Agent IA

Un agent IA organise plusieurs étapes et utilise des outils pour réaliser une demande. Il peut préparer une action ou l’exécuter si elle est autorisée. L’équipe doit définir les étapes qui demandent une validation humaine.

Comprendre cette technologie

Sources et vérifications

Apple - Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

Lire la source officielle

Source complémentaire : MLX - Distributed Communication

Source vérifiée le . Synthèse originale. Les résultats annoncés restent attribués à leur source. Les dessins expliquent le principe ; les exemples présentent un usage possible.

Sources primaires relues le 16 octobre 2026. Aucun essai du produit.

Publié sur ce site le . Mis à jour le . Rédaction : Boris Shutov, avec l’aide de ChatGPT. Notre méthode éditoriale.