Meta發布Muse Glimmer，採用開放權重，透過新型蒸餾管道面向裝置端AI代理

科技公司 Meta Meta Superintelligence Labs 發布了 Muse Glimmer，這是一個擁有 30 億參數的智能體 AI 模型，採用寬鬆的 Apache 2.0 許可證發布。該模型旨在作為一個功能齊全的自主代理運行——包括規劃、工具調用、自我驗證和故障恢復——同時保持足夠小巧，可以在僅配備 24 GB 顯存的消費級硬體上本地運行。 

這些權重數據可立即在 Hugging Face 上獲取，並整合了 O 等流行的推理引擎和平台。llamaLM Studio、vLLM、SGLang、Together AI、Fireworks AI 和 OpenRouter 計劃在未來幾天內陸續推出。 

此次發布延續了 Meta 開源基礎 AI 研究的傳統，這次的目標是滿足日益增長的對本地、始終在線的代理工作流程的需求，這些工作流程不依賴雲端連接或外部基礎設施。

Muse Glimmer：架構、訓練與局部最佳化

此新型AI模型採用客製化架構和創新的蒸餾方法構建，旨在將來自規模更大的教師模型（名為Muse Spark）的智能體推理能力遷移到更高效的模型中。訓練流程包含三個階段：預訓練階段，透過教師模型的輸出進行logit蒸餾；中期訓練階段，使用包含推理軌跡的擴展上下文、智能體密集型資料進行訓練；後期訓練階段，結合監督式微調、策略內蒸餾和強化學習，涵蓋通用領域、編碼領域和智能體領域。該模型在發布前已使用Meta的高級AI擴展框架進行評估。

基準測試結果表明，Muse Glimmer 在 DeepSearch QA、MCP-Atlas、τ-Bench 和 SWE-Bench 等任務上，性能與 Gemma4-31B 和 Qwen3.6-27B 等同等規模的同類產品相比具有競爭力。除了核心推理功能外，Muse Glimmer 還透過專用感知編碼器支援多模態輸入，支援 100 多種語言的多語言操作，並相容於 OpenClaw 等智能體編排模式。

為了實現實際的本地部署，Meta 應用了量化技術，將模型壓縮到大約 4 位元精度，使其佔用空間減少到 20 GB 以下。這為 KV 快取、圖像編碼器以及基於 DFlash 的輕量級推測性解碼產生器留出了足夠的記憶體。此生成器並行產生標記區塊，以加速生成過程，同時不影響輸出品質。 

Meta 在 MacBook M4-Max、M5-Max 和 RTX-5090 硬體上驗證了該設置，報告稱其速度足以實現流暢的對話和完全在設備上的即時代理互動。