Muse Glimmer : Meta ouvre un modèle de 30 Md de paramètres pour agents locaux

Un modèle pensé pour l'exécution locale d'agents

Meta Superintelligence Labs publie aujourd'hui Muse Glimmer, un modèle de 30 milliards de paramètres distribué sous licence Apache 2.0. L'objectif affiché : permettre l'exécution d'agents autonomes sur un Mac, un PC ou un GPU grand public, sans dépendance au cloud ni connexion réseau. Le modèle vise les cas d'usage qui exigent un accès continu à du contexte personnel — gestion d'agenda, rédaction de messages, organisation de fichiers — et qui nécessitent plusieurs capacités en concert : exécution longue durée, appel d'outils précis, compréhension multimodale, mémoire de contexte long et suivi d'instructions.

Meta positionne Muse Glimmer dans la lignée des travaux de la communauté open sourceLogiciel dont le code source est disponible sous une licence qui autorise étude, modification, redistribution. sur les modèles compacts entraînés efficacement, capables d'approcher les performances de modèles frontière sur des tâches ciblées. Le modèle est disponible dès maintenant sur Hugging Face, accompagné de documentation développeur pour déployer et faire tourner ses propres agents.

Entraînement par distillation et affinement multi-domaines

Muse Glimmer a été entraîné en trois phases pour transférer des capacités de raisonnement agentique depuis un modèle enseignant beaucoup plus grand (Muse Spark) tout en respectant les contraintes mémoire et calcul du matériel local :

• Pré-entraînement : distillation de logits sur les sorties de Muse Spark, avec un mix de données similaire au modèle enseignant.
• Mid-training : entraînement sur données à contexte long, plus orientées agents, avec traces de raisonnement enrichies et données organiques.
• Post-training : combinaison de fine-tuningRéentraînement partiel ou total d’un modèle pré-entraîné sur un jeu de données spécifique pour adapter son comportement. supervisé, distillation on-policy et apprentissage par renforcement sur domaines généraux, raisonnement, code et tâches agentiques.

Le modèle a été évalué selon les standards du Advanced AI Scaling Framework de Meta et validé pour publication en poids ouvertsModèle dont les poids sont publiés (ex. Llama, Mistral), par opposition à une API fermée uniquement..

Capacités agentiques : de l'appel d'outils à la récupération d'erreur

Muse Glimmer a été entraîné et évalué sur un ensemble de capacités nécessaires au fonctionnement d'agents autonomes :

• Complétion de tâches end-to-end : performances solides sur DeepSearch QA, MCP-Atlas, 𝛕-Bench et SWE-Bench, qui mesurent la capacité à travailler dans des scaffolds, écrire et déboguer du code, et résoudre des requêtes multi-tours du début à la fin.
• Appel d'outils fiable : gestion d'un large éventail d'appels de fonctions, avec invocation d'outils selon des schémas précis tout au long de workflows étendus.
• Raisonnement multi-étapes : enchaînement de raisonnements sur de longs horizons, maintien de plans cohérents à travers des workflows complexes.
• Récupération d'erreur : lorsqu'un appel d'outil échoue ou retourne un résultat inattendu, le modèle est entraîné à diagnostiquer l'erreur et réessayer plutôt que de s'arrêter.
• Entrée et raisonnement multimodaux : via un encodeur de perception dédié, le modèle accepte texte et images entrelacés, ce qui permet aux agents d'interpréter captures d'écran, graphiques et documents aux côtés de la conversation.
• Compatibilité scaffold : fonctionne avec OpenClaw et d'autres patterns d'orchestration agentique.
• Effort contrôlable : supporte différents niveaux de raisonnement pour ajuster l'équilibre entre qualité et vitesse.
• Multilingue : entraîné sur données de plus de 100 langues.

Meta compare Muse Glimmer à Gemma4-31B et Qwen3.6-27B sur plusieurs benchmarksJeu de référence public ou interne pour comparer des modèles (MMLU, HumanEval, etc.) — à lire avec prudence hors domaine. LLMLarge Language Model : modèle de langage entraîné sur d’énormes corpus pour prédire et générer du texte. largement utilisés, et indique des performances solides pour sa catégorie de taille. Un rapport d'évaluation détaillé est disponible.

Optimisations pour déploiement local : quantification et décodage spéculatif

Un agent local n'est utile que s'il répond assez vite pour rester fluide. Meta a appliqué deux optimisations pour faire tourner Muse Glimmer à vitesse pratique sur matériel grand public sans sacrifier la qualité.

Quantification pour tenir dans la mémoire GPU
À pleine précision, un modèle de 30 milliards de paramètres nécessiterait plus de 55 Go de mémoire — bien au-delà de ce qu'offre un GPU grand public. Des techniques de quantification compressent les poids du modèle à environ 4 bits de précision, réduisant le modèle de langage à moins de 20 Go. Cela laisse assez de marge pour la mémoire de travail du modèle (son « KV cache »), l'encodeur de perception pour la compréhension d'images, et le drafter de décodage spéculatif, le tout dans une enveloppe de 24 ou 32 Go. Meta indique que cette compression introduit une dégradation minimale voire nulle sur les tâches agentiques.

Décodage spéculatif pour accélérer la génération
Les modèles de langage génèrent normalement le texte un tokenUnité de texte traitée par un modèle (souvent un morceau de mot). Les coûts et fenêtres de contexte se comptent en tokens. à la fois, ce qui peut sembler lent lors de longues chaînes de raisonnement ou d'appels d'outils multi-étapes. Muse Glimmer est livré avec un modèle « drafter » léger basé sur DFlash — un petit réseau compagnon qui propose des blocs entiers de tokens d'un coup. Le modèle principal vérifie ensuite ces propositions en parallèle, acceptant les tokens corrects et corrigeant les erreurs. Cette technique permet à Muse Glimmer de générer du texte significativement plus vite que la génération token par token standard, tout en produisant une qualité de sortie identique. Des versions quantifiées du drafter sont fournies pour limiter l'empreinte mémoire.

Résultat
Meta mesure la vitesse du modèle K-Quant-17GB avec le drafter DFlash quantifié sur MacBook M4-Max, M5-Max et RTX-5090. Le modèle est décrit comme assez rapide pour une conversation fluide et une interaction agent en temps réel, le tout tournant entièrement sur l'appareil.

Disponibilité et écosystème

Les poids de Muse Glimmer sont disponibles dès maintenant sur Hugging Face. Dans les jours à venir, des intégrations optimisées sur llama.cpp, MLX et ExecuTorch seront déployées. Le modèle pourra être exécuté localement via Ollama, LM Studio et Unsloth, déployé avec des frameworks edge (llama.cpp, ExecuTorch, MLX), servi à l'échelle avec vLLM et SGLang, ou utilisé rapidement via Together AI, Fireworks AI et OpenRouter. Il est également possible de le personnaliser en s'appuyant sur la fonctionnalité TorchTitan de PyTorch pour affiner le modèle.

Meta travaille avec AMD, Arm, Dell, Intel et NVIDIA pour optimiser les performances sur différents appareils. Une documentation est publiée pour aider les développeurs à démarrer et construire de manière responsable avec Muse Glimmer, incluant des guides pour configurer des scaffolds personnalisés. Les ressources sont disponibles sur le AI Developer Center de Meta.