Magic: Wiener AI-Gründer wollen Frontier-Modell für wenige Millionen Dollar trainiert haben

Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.

Rund zwei Jahre lang war es sehr ruhig um Magic. Nun meldet sich das von den beiden Wienern Eric Steinberger und Sebastian De Ro gegründete AI-Startup mit einem Research-Update zurück, das eine der teuersten Fragen der Branche betrifft: Wie viel Rechenleistung braucht es eigentlich, um ein konkurrenzfähiges Sprachmodell von Grund auf zu trainieren?

Die Antwort, die Magic in einem soeben veröffentlichten Blogpost gibt, fällt selbstbewusst aus. Das eigene Pretraining-Rezept sei inzwischen mehr als zehnmal recheneffizienter als jenes der führenden offen verfügbaren Basismodelle. Die Argumentation dahinter: Wer keine 100.000 Chips im Rechenzentrum stehen habe, müsse den Rückstand über Algorithmen aufholen.

Was Magic konkret behauptet

Das Team gibt an, die Qualität des Basismodells von DeepSeek V4 Pro mit etwa 50-mal weniger Rechenoperationen erreicht zu haben. Das entspreche ungefähr der Hälfte jener Rechenleistung, die einst in GPT-3 geflossen ist, oder rund 500.000 Dollar an Kosten auf Nvidias GB200-Systemen. In einem zweiten Schritt habe man dasselbe Rezept um den Faktor zehn hochskaliert, also auf etwa vier Millionen Dollar, und dabei alle öffentlich verfügbaren Basismodelle bei den sogenannten Perplexity-Evaluierungen übertroffen. Nach den eigenen Skalierungsgesetzen würde ein vergleichbar starkes Modell mit dem Rezept von DeepSeek mehr als 100 Millionen Dollar kosten.

„Frontier pretraining is said to be a big-lab-only game. We don’t have 100k chips yet, so there’s only one way: algorithmic efficiency. Our new recipe matches DeepSeek V4 Pro’s pretrain using 50x less compute – that’s roughly half the FLOPs used for GPT3, or ~$0.5M on GB200.“

Gemessen wird dabei nicht mit den üblichen Benchmark-Tests, sondern über den sogenannten Bits-per-Byte-Verlust auf zurückgehaltenen Daten. Der Grund: Basismodelle haben noch kein Reinforcement Learning und kein Fine-Tuning durchlaufen und reagieren daher stark auf die Formulierung von Prompts, was klassische Benchmarks unzuverlässig macht. Als Testdaten dienten laut Magic der eigene Code, von anderen Startups zugekaufte private Code-Repositories, wenig zitierte aktuelle Forschungspapers sowie private Mathematikaufgaben.

Womit sich Magic vergleicht

Bemerkenswert ist die Auswahl der Vergleichsmodelle. Magic misst sich an den offenen Gewichten aus China und den USA, konkret an DeepSeek V4 Pro und V4 Flash, an Kimi K2 des chinesischen Anbieters Moonshot sowie an Nvidias Nemotron 3 Ultra. Die Basismodelle von Anthropic, Google und OpenAI fehlen in der Aufstellung schlicht deshalb, weil sie nicht öffentlich zugänglich sind. Magic verweist ersatzweise auf Kimi K3 und Metas Muse Spark, die gegenüber Kimi K2 Verbesserungen um den Faktor 2,5 beziehungsweise 3,3 andeuten würden.

Um die Zahlen zu untermauern, hat das Team eigenen Angaben zufolge die Vergleichswerte in mehreren Inferenz-Engines nachgerechnet und zusätzlich den Anbieter Fireworks zur Überprüfung herangezogen. Ein Randbefund: Nvidias Nemotron 3 schneide beim reinen Pretraining durchgehend besser ab als DeepSeek V4 Pro, was darauf hindeuten könnte, dass die schwächeren Benchmark-Ergebnisse des Modells eher am Post-Training liegen.

In einem kurzen Reinforcement-Learning-Durchlauf auf Mathematikaufgaben kommt das aktuelle Magic-Modell laut der Grafik im Blogpost auf eine Trefferquote von 72 Prozent. Zum Vergleich führt das Startup unter anderem GPT-6 Astra mit 100 Prozent, Claude Fable 5.1 mit 98 Prozent und Kimi K3 mit 75 Prozent an, verweist aber selbst darauf, dass diese Modelle vermutlich um Größenordnungen mehr RL-Rechenzeit gesehen haben.

Einordnend gilt: Sämtliche Zahlen stammen vom Unternehmen selbst, sind bislang nicht extern überprüft, und ein Modell hat Magic bis heute nicht veröffentlicht. Der Blogpost endet dementsprechend mit dem Satz, man freue sich darauf, „das Ding“ endlich zu releasen.

Wer hinter dem Startup steht

Magic wurde von Eric Steinberger und Sebastian De Ro gegründet, die einander bereits aus dem Hochbegabtenprogramm der HTL Spengergasse in Wien kennen. Wie Trending Topics bereits ausführlich beschrieben hat, trainierten die beiden dort in den Sommerferien auf zusammengesammelten Schulcomputern erste KI-Modelle. Steinberger forschte mit 19 an der TU Wien und war später am Trinity College Cambridge, am MIT und bei Facebook AI tätig, De Ro arbeitete unter anderem bei Automic Software, den ÖBB und als CTO beim österreichischen Startup Firestart. Der Firmensitz liegt heute in den USA.

Finanziert ist das Unternehmen üppig. Nach einer Runde über 23 Millionen Dollar unter Beteiligung von Alphabet folgten 117 Millionen Dollar und schließlich eine Runde über 320 Millionen Dollar, an der sich unter anderem der frühere Google-CEO Eric Schmidt, Jane Street, Sequoia, Atlassian, CapitalG sowie die Investoren Nat Friedman, Daniel Gross und Elad Gil beteiligten. Die Bewertung lag damit bei rund 1,5 Milliarden Dollar. Parallel dazu kündigte Magic eine Partnerschaft mit Google Cloud an, um Rechenkapazität mit Zehntausenden GB200-Chips aufzubauen.

Vom Kontextfenster zum Pretraining

Bekannt wurde Magic vor allem durch eine andere Ansage. Mit LTM-2-mini präsentierte das Startup ein Modell mit einem Kontextfenster von 100 Millionen Token, was etwa zehn Millionen Codezeilen oder rund 750 Romanen entspricht. Damals sprach das Unternehmen vom 50-Fachen dessen, was Googles Gemini verarbeiten konnte, und vom 780-Fachen von OpenAIs GPT-4o. Ein öffentlich nutzbares Produkt entstand daraus bis heute nicht.

Genau diese Reihenfolge beschreibt Magic nun auch selbst als Strategie: Pretraining, agentisches Reinforcement Learning und Long Context seien zusammen ausreichend, um übermenschliche Coding-Agents zu bauen und die eigene AI-Forschung zu automatisieren. Begonnen habe man mit dem langen Kontext, jetzt folge das Pretraining.

Was als Nächstes kommt

Als nächste Schritte nennt das Team langfristiges Reinforcement Learning, mit dem Agents auch nach dem Deployment weiterlernen sollen, sowie Arbeit an Alignment-Verfahren. Eine aktualisierte „AGI Readiness Policy“ mit Deployment-Kriterien und Sicherheitsanforderungen sei in Vorbereitung.

Und schließlich betreibt Magic mit dem Blogpost auch Recruiting. Man sei vermutlich das kleinste Team der Welt, das Modelle mit einer Billion Parametern trainiere, heißt es dort.