Launch

Muse Glimmer: Neues offenes Meta-Modell läuft lokal als „Always-on“-Agent auf Mac und PC

Meta. © Julio Lopez auf Unsplash
Meta. © Julio Lopez auf Unsplash

Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.

Meta Superintelligence Labs hat am Montag „Muse Glimmer“ vorgestellt: ein Modell mit 30 Milliarden Parametern, das laut Unternehmen auf einem Mac oder einem PC mit einer einzelnen Consumer-GPU laufen soll. Die Gewichte stehen ab sofort unter der Apache-2.0-Lizenz auf Hugging Face – deutlich freizügiger als bei früheren Llama-Modellen. Im Gegenzug muss man die Leistungserwartung gegenüber den großen Cloud-Modellen neu kalibrieren.

Der Zweck des Modells ist eng gefasst: Muse Glimmer ist nach Angaben von Meta für „Always-on“-Agenten-Workflows gebaut, die dauerhaft lokal laufen. Als Einsatzfelder nennt das Unternehmen lokale Agents und Function Calling, lokales Coden sowie den Einsatz als „LLM-as-a-judge“, also als bewertende Instanz für andere Modellausgaben. Die Argumentation dahinter: Ein Agent, der Kalender verwaltet, Nachrichten entwirft und Dateien ordnet, braucht tiefen Zugriff auf persönlichen Kontext – und der muss nicht zwingend in die Cloud wandern. Dazu kommt der Offline-Betrieb ohne Internetverbindung.

Wie das Modell auf ein Notebook passt

Meta hat Muse Glimmer nicht von Grund auf trainiert, sondern aus einem größeren Modell destilliert. Im Pre-Training lernte Muse Glimmer laut Firmenangaben über Logit-Distillation von den Ausgaben des größeren Modells Muse Spark. Im Mid-Training folgten längere Kontexte, agentenlastigere Daten und ausführlichere Reasoning-Traces, im Post-Training eine Mischung aus Supervised Fine-Tuning, On-Policy-Distillation und Reinforcement Learning.

Damit das Ergebnis auf Consumer-Hardware passt, waren zwei technische Eingriffe nötig, die Meta offen beschreibt:

  • Quantisierung. In voller Präzision bräuchte ein 30-Milliarden-Parameter-Modell nach Meta-Angaben über 55 GB Speicher – mehr, als jede Consumer-GPU bietet. Durch Komprimierung der Gewichte auf rund 4 Bit schrumpft das Sprachmodell auf unter 20 GB. Damit bleibt innerhalb eines Budgets von 24 oder 32 GB noch Platz für den KV-Cache, den Perception-Encoder für Bildverständnis und das Draft-Modell. Die Kompression führe bei agentischen Aufgaben zu „minimaler bis keiner“ Verschlechterung, schreibt Meta.
  • Speculative Decoding. Ein leichtgewichtiges „Drafter“-Modell auf Basis von DFlash schlägt ganze Token-Blöcke auf einmal vor, die das Hauptmodell parallel prüft. Meta beziffert die Beschleunigung mit dem Faktor 3,1 auf einer RTX 5090, 1,8 auf einem MacBook mit M5 Max und 1,5 auf einem M4 Max.

Funktional deckt das Modell die üblichen Agenten-Anforderungen ab: Tool-Aufrufe mit präzisen Schemata, mehrstufiges Reasoning über längere Horizonte, Fehlerbehandlung bei fehlgeschlagenen Tool-Calls, multimodale Eingaben aus Text und Bildern (etwa Screenshots, Charts, Dokumente), einstellbare Reasoning-Stärke sowie Training auf Daten aus mehr als 100 Sprachen. Als Scaffold nennt Meta unter anderem OpenClaw.

Wo die Grenzen liegen

Wer Muse Glimmer mit den Spitzenmodellen aus der Cloud vergleicht, muss mehrere Einschränkungen mitdenken – einige davon ergeben sich schon aus der Ankündigung selbst.

Der Vergleich fehlt. Meta stellt Muse Glimmer ausschließlich Modellen ähnlicher Größe gegenüber, konkret Gemma4-31B und Qwen3.6-27B. Die Formulierung im Blogpost lautet, das Modell schneide „für seine Größenklasse“ stark ab. Ein Benchmark-Vergleich mit den großen proprietären Modellen aus der Cloud wird nicht gezogen. Als Testfelder nennt Meta DeepSearch QA, MCP-Atlas, 𝛕-Bench und SWE-Bench. Sämtliche Zahlen stammen bislang vom Anbieter selbst; unabhängige Messungen etwa durch Artificial Analysis stehen noch aus.

Größe schlägt weiterhin durch. 30 Milliarden Parameter stehen Frontier-Modellen gegenüber, die in Mixture-of-Experts-Architekturen ein Vielfaches davon aufbieten. Für eng umrissene, wiederkehrende Agenten-Aufgaben mit klaren Tool-Schemata mag das reichen – bei breitem Weltwissen, schwierigem Reasoning und Nischen-Domänen ist der Abstand nach oben strukturell.

Quantisierung kostet Präzision. Metas Aussage, die Kompression auf 4 Bit verschlechtere die Ergebnisse kaum, bezieht sich ausdrücklich auf agentische Aufgaben. Für andere Aufgabentypen gibt es keine entsprechende Angabe.

Der Kontext konkurriert mit dem Modell um Speicher. Meta nennt keine Kontextlänge. Auf lokaler Hardware teilt sich der KV-Cache das Speicherbudget mit dem Modell selbst – lange Kontexte sind damit teurer als in der Cloud, wo sie schlicht mitskaliert werden.

Tempo bleibt relativ. Meta gibt nur Beschleunigungsfaktoren an, keine absoluten Tokens pro Sekunde. Und die genannten Referenzgeräte – MacBooks mit M4 Max oder M5 Max, eine RTX 5090 – sind Hardware am oberen Ende des Consumer-Segments. „Läuft auf einem Mac oder PC“ heißt in der Praxis: 24 bis 32 GB Grafik- beziehungsweise Unified Memory.

Betrieb und Sicherheit liegen beim Nutzer. Wer lokal betreibt, bekommt keine serverseitigen Updates, keine nachgelagerten Moderationsschichten und keine Verfügbarkeitszusagen. Meta gibt an, Muse Glimmer nach dem hauseigenen „Advanced AI Scaling Framework“ evaluiert und für ein Open-Weight-Release freigegeben zu haben. Bei offenen Gewichten gilt allerdings generell, dass sich Schutzmechanismen durch Fine-Tuning wieder entfernen lassen.

Was die Apache-2.0-Lizenz erlaubt

Der lizenzrechtliche Teil ist die eigentliche Neuerung. Apache 2.0 ist eine permissive, von der Open Source Initiative anerkannte Lizenz. Konkret bedeutet das:

  • Erlaubt sind kommerzielle Nutzung, Veränderung, Weiterverbreitung und Sublizenzierung – ohne Umsatz- oder Nutzerobergrenzen.
  • Kein Copyleft: Wer das Modell verändert oder in ein Produkt einbaut, muss die Änderungen nicht offenlegen. Abgeleitete Werke dürfen proprietär bleiben.
  • Ausdrückliche Patentlizenz: Beitragende räumen Nutzungsrechte an ihren Patenten ein. Wer allerdings selbst Patentklage wegen des Werks erhebt, verliert diese Lizenz (Retaliation-Klausel).
  • Pflichten: Lizenztext und Copyright-Hinweise müssen mitgeliefert, Änderungen an Dateien kenntlich gemacht und eine vorhandene NOTICE-Datei weitergereicht werden.
  • Nicht enthalten sind Markenrechte – Metas Namen und Logos darf man nicht ohne Weiteres für eigene Produkte verwenden. Gewährleistung und Haftung sind ausgeschlossen.

Damit fallen die Beschränkungen weg, die frühere Llama-Modelle prägten: Deren Community-Lizenz war keine Open-Source-Lizenz im engeren Sinn, sondern enthielt unter anderem eine Grenze von 700 Millionen monatlich aktiven Nutzern, ab der eine gesonderte Vereinbarung mit Meta nötig war, eine angehängte Acceptable Use Policy sowie Namensnennungspflichten.

Eine Einschränkung bleibt trotzdem: Apache 2.0 gilt für die veröffentlichten Gewichte. Trainingsdaten und der vollständige Trainingsstack werden nicht offengelegt. Muse Glimmer ist damit ein Open-Weight-Modell unter einer Open-Source-Lizenz – reproduzierbar im Sinne eines vollständigen Nachbaus ist es nicht.

Verfügbarkeit

Die Gewichte stehen auf Hugging Face bereit. In den kommenden Tagen sollen Integrationen für llama.cpp, MLX und ExecuTorch folgen; lokal ausführen lässt sich das Modell über Ollama, LM Studio und Unsloth, für den Betrieb im größeren Maßstab nennt Meta vLLM und SGLang sowie die Anbieter Together AI, Fireworks AI und OpenRouter. Anpassen lässt sich das Modell über PyTorchs TorchTitan. An Hardware-Optimierungen arbeitet Meta nach eigenen Angaben mit AMD, Arm, Dell, Intel und Nvidia.

Rank My Startup: Erobere die Liga der Top Founder!
Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Deep Dives

Wasner + Steinschaden | Der KI Podcast

News, Modelle, Strategien

#glaubandich CHALLENGE 2027

Österreichs größter Startup-Wettbewerb - Top-Investoren mit an Bord
© Wiener Börse

IPO Spotlight

powered by Wiener Börse

RankMyStartup.com

Steig' in die Liga der Top Founder auf!

2 Minuten 2 Millionen | Staffel 13

Alle Startups | Alle Deals | Alle Hintergründe

Future{hacks}

Zwischen Hype und Realität

Trending Topics Tech Talk

Der Podcast mit smarten Köpfen für smarte Köpfe

Weiterlesen