Local AI

Perplexity und Nvidia lassen chinesisches KI-Modell lokal am „Portable Computer“ laufen

DGX Spark by Nvidia. © Nvidia
DGX Spark by Nvidia. © Nvidia

Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.

OpenClaw lässt schön grüßen: Das KI-Startup Perplexity hat soeben „Portable Computer“ vorgestellt, eine Version seines Agenten-Produkts Perplexity Computer, die vollständig auf dem Rechner der Nutzerinnen und Nutzer läuft. Entwickelt wurde sie gemeinsam mit Nvidia. Die Ankündigung fällt zeitlich mit Berichten zusammen, wonach Nvidia bei Perplexity zu einer Bewertung von mehr als 30 Milliarden Dollar einsteigen will.

Wo die lokale KI läuft

Portable Computer ist zunächst für den NVIDIA DGX Spark verfügbar, Nvidias KI-Rechner im Desktop-Format. Er basiert auf der Grace-Blackwell-Plattform GB10 mit einer 20-Kern-ARM-CPU und 128 GB Unified Memory. Eine Version für PCs mit RTX-GPUs soll folgen. Das erste Release läuft unter Linux, Windows-Unterstützung ist angekündigt. Zugang haben Pro- und Max-Abonnentinnen und -Abonnenten, die Installation erfolgt laut Perplexity per Ein-Klick-Setup aus der App heraus.

Auf dem Gerät laufen nicht nur die Modelle, sondern auch der gesamte Unterbau: Orchestrator, Planner, Tool Router, Scheduler, die Task-Queue und der lokale Suchindex. Für die Nutzung entstehen keine Credit-Kosten, solange die Arbeit lokal bleibt, was hochvolumige Routineaufgaben ökonomisch attraktiver machen soll.

Welche Modelle zum Einsatz kommen

Als lokale Modelle stehen Qwen 3.8 27B und PPLX 27B zur Verfügung, eine von Perplexity nachtrainierte Variante des Qwen-Modells. Dieses Post-Training zielt darauf ab, möglichst viel einer Aufgabe auf dem Gerät zu erledigen und erst dann in die Cloud auszuweichen, wenn es die Aufgabe erfordert. Ergänzend soll NVIDIA Nemotron 3.5 Lightning in den Modell-Picker kommen, ein offenes 30B-Modell mit Mixture-of-Experts-Architektur, das Nvidia als deutlich schneller als vergleichbare offene Modelle bewirbt. Die Diktierfunktion nutzt das Nemotron 3.5 ASR Model und arbeitet ebenfalls lokal, Audiodaten verlassen das Gerät also nicht.

Reicht die lokale Rechenleistung nicht aus, kann der Orchestrator eine Aufgabe an die Cloud übergeben, für aktuelle Web-Informationen, Browser-Nutzung, verbundene Apps oder eines von mehr als 15 Frontier-Modellen. Perplexity betont, dass vor jeder Übertragung von Inhalten die Zustimmung der Nutzerin oder des Nutzers eingeholt wird. Über Konnektoren angebunden sind Google Drive, Gmail, Slack und GitHub. Code- und Tool-Ausführung laufen wie in der Cloud-Variante in isolierten Sandbox-Umgebungen.

Das Argument dahinter: Viele der wertvollsten Aufgaben für KI-Agenten betreffen Daten, die das eigene Gerät am besten gar nicht erst verlassen, etwa private Codebases, Vertragsentwürfe oder Mandantenunterlagen. Perplexity verweist auf ein begleitendes Research-Blogpost, in dem das Unternehmen Benchmark-Ergebnisse zu Genauigkeit, Geschwindigkeit und Credit-Effizienz darlegt.

Die Gerüchte um einen Nvidia-Einstieg

Parallel zur Produktankündigung berichtete The Information, dass Nvidia über ein weiteres Investment in Perplexity verhandelt, zu einer Bewertung von mehr als 30 Milliarden Dollar. Beim vergangenen Funding vor rund einem Jahr lag die Bewertung noch bei etwa 20 Milliarden Dollar. Dem Bericht zufolge soll auch ein Technologie-Lizenzdeal zur Diskussion gestanden haben. Bestätigt ist bislang nichts, beide Unternehmen haben sich zu den Gesprächen nicht geäußert.

Perplexity hat seinen annualisierten Umsatz laut den Berichten auf rund 750 Millionen Dollar gesteigert, nach weniger als 250 Millionen Dollar zu Jahresbeginn. Nvidia ist bereits investiert, neben Geldgebern wie Jeff Bezos und SoftBank. Beobachterinnen und Beobachter deuten ein weiteres Investment als eine Art Absicherung: Sollte sich die Architektur der KI-Suche verschieben, etwa weg von großen Cloud-Clustern, wäre Nvidia auf beiden Seiten präsent.

Nvidias zwei Schienen

Genau diese Doppelstrategie lässt sich derzeit gut beobachten. Auf der einen Seite ist Nvidia zum Großinvestor der Modellhäuser geworden, deren Training gigantische Cloud-Kapazitäten verschlingt. Bei OpenAI hat der Konzern ein Investment von bis zu 100 Milliarden Dollar in Aussicht gestellt, ausgezahlt in Etappen, jeweils beim Einsatz eines weiteren Gigawatts an neuer Infrastruktur, insgesamt geht es um mindestens zehn Gigawatt an Rechenzentren. Bei Anthropic steigt Nvidia gemeinsam mit Microsoft ein, mit bis zu 10 Milliarden Dollar bei einer Bewertung von 350 Milliarden Dollar, verbunden mit der Zusage von bis zu einem Gigawatt an Grace-Blackwell- und Vera-Rubin-Systemen.

Auf der anderen Seite drückt Nvidia die Hardware in Richtung lokaler KI. Der Konzern optimiert offene Modelle von Qwen, Meta, DeepSeek und anderen für RTX-PCs, DGX Spark und Jetson, veröffentlicht mit der Nemotron-Reihe eigene offene Modelle für Agenten-Workloads und baut die Software-Umgebung rund um den Desktop-Rechner aus, unter anderem mit einem Clustering von mehreren Spark-Systemen. In seinem Local-AI-Blog stellt Nvidia die Perplexity-Kooperation als Beleg dafür vor, dass agentische Workflows inzwischen auf persönlicher Hardware laufen können.

Ökonomisch ergänzen sich die beiden Schienen: Verlagert sich Inferenz vom Rechenzentrum auf den Schreibtisch, verkauft Nvidia weiterhin Chips, nur eben in anderer Verpackung. Bleibt sie in der Cloud, profitiert der Konzern über die Rechenzentrumsgeschäfte und über seine Beteiligungen. Perplexity selbst formuliert die Erwartung offensiv: Mit jeder Chip-Generation und jedem Modell-Release werde ein größerer Teil der Arbeit auf den eigenen Maschinen erledigt.

Ob die lokale Variante über eine technisch interessierte Zielgruppe hinauskommt, hängt allerdings am Preis der Hardware und an der Frage, wie oft der Agent in der Praxis doch in die Cloud eskalieren muss.

Rank My Startup: Erobere die Liga der Top Founder!
Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Deep Dives

Wasner + Steinschaden | Der KI Podcast

News, Modelle, Strategien
#glaubandich CHALLENGE: SVAN triumphiert in Klagenfurt

#glaubandich CHALLENGE 2027

Österreichs größter Startup-Wettbewerb - Top-Investoren mit an Bord
© Wiener Börse

IPO Spotlight

powered by Wiener Börse

RankMyStartup.com

Steig' in die Liga der Top Founder auf!

2 Minuten 2 Millionen | Staffel 13

Alle Startups | Alle Deals | Alle Hintergründe

Future{hacks}

Zwischen Hype und Realität

Trending Topics Tech Talk

Der Podcast mit smarten Köpfen für smarte Köpfe

Weiterlesen

Newsletter

Founders Dispatch

Zwei Mal pro Woche kostenlos in die Inbox: die wichtigsten Startups, Deals und Tech-Entwicklungen aus Europa, handgeschrieben von der Redaktion.

Jederzeit abbestellbar. Mehr über den Newsletter