NVIDIA Vera Rubin: Revolutionäre KI-Beschleuniger-Architektur für Rechenzentren

NVIDIA Rubin ist die neue Generation der KI-Beschleuniger-Architektur, die auf Blackwell folgt. Im Gegensatz zu früheren Ansätzen liegt der Fokus von Rubin weniger auf einzelnen GPUs, sondern auf einer umfassenden Computing-Plattform. Die NVIDIA Vera Rubin vereint Grafikbeschleuniger, den neuen Vera Server-Prozessor, Hochgeschwindigkeitsspeicher und Netzwerkkomponenten zu einem System für das Training und die Ausführung großer neuronaler Netze.

Warum wurde NVIDIA Vera Rubin entwickelt?

Das Hauptziel der Plattform ist es, der rasant steigenden Rechenlast moderner KI-Systeme gerecht zu werden. Reasoning-Modelle erzeugen riesige Mengen an Tokens, arbeiten mit langen Kontexten und autonome KI-Agenten führen Hunderte von Operationen pro Aufgabe aus. Für solche Szenarien reicht die Leistung eines einzelnen High-End-GPUs nicht mehr aus: Speicherbandbreite, Datenaustausch zwischen Beschleunigern und die Effizienz des gesamten Rechenzentrums werden entscheidend.

Rubin markiert deshalb die nächste Entwicklungsstufe des Ansatzes, den NVIDIA mit Grace Hopper und Blackwell begonnen hat. Das Unternehmen verwandelt dabei ganze Server-Racks in einen einzigen, großen Rechenkomplex, in dem Dutzende von GPUs und CPUs als zusammenhängendes System agieren.

Was ist NVIDIA Vera Rubin und warum folgt sie auf Blackwell?

Vera Rubin steht nicht für einen einzelnen Prozessor, sondern für eine Familie von Technologien und Systemen rund um die Rubin-Architektur. Im Zentrum stehen der Rubin GPU und der Vera Server-CPU, ergänzt durch NVLink 6 Switch, ConnectX-9 SuperNIC, BlueField-4 DPU und Spectrum-6 Netzwerkkomponenten. Diese Elemente werden gemeinsam entwickelt, um Engpässe zwischen Rechenleistung, Speicher und Datenübertragung zu verringern.

Herzstück ist das Serversystem Vera Rubin NVL72, das in einem Rack 72 Rubin GPUs und 36 Vera CPUs vereint. Die Beschleuniger sind über NVLink 6 verbunden, sodass Software sie als einen großen Rechenpool und nicht nur als Einzelkarten nutzen kann.

Gerade für moderne neuronale Netze ist dieser Ansatz entscheidend. Modelle mit Hunderten Milliarden oder sogar Billionen Parametern können unmöglich auf einem einzigen Beschleuniger untergebracht werden. Die Aufteilung auf viele GPUs macht die Geschwindigkeit der Interconnects zum Schlüsselfaktor für die Gesamtperformance.

Blackwell verfolgte dieses Konzept bereits mit GB200 NVL72, Rubin geht einen Schritt weiter: NVIDIA steigert die Speicherbandbreite, erneuert die Interconnects und ersetzt den Grace CPU durch den neuen Vera Prozessor. Die Architektur ist damit für komplexe Reasoning-Modelle, Agentensysteme und Inference mit langem Kontext optimiert.

NVIDIA betrachtet das Rechenzentrum nun als neue "Recheneinheit". In Vera Rubin bestimmt nicht mehr (nur) die Stärke einer einzelnen GPU die Performance, sondern wie effizient Dutzende von Beschleunigern, CPUs, Speicher und Netzwerk als System zusammenarbeiten.

Deshalb ist Vera Rubin weit mehr als nur eine schnellere Grafikkarte nach Blackwell. Es handelt sich um eine neue Serverarchitektur, die KI auf Rack-Ebene und für große AI-Fabriken skaliert.

Architektur von NVIDIA Rubin: GPU, Vera CPU, HBM4 und NVLink 6

Rubin GPU

Das Herz der Vera Rubin Plattform ist die Rubin GPU, eigens für KI-Modelle entwickelt. Sie enthält 336 Milliarden Transistoren, 224 Streaming-Multiprozessoren und 896 Tensor Cores - ein deutlicher Sprung gegenüber Blackwell mit 208 Milliarden Transistoren.

Rubin setzt auf zwei große Compute-Dies, die intern per NV-HBI verbunden sind. So kann NVIDIA extrem große GPUs bauen, ohne einen riesigen monolithischen Chip fertigen zu müssen.

Ein zentrales Upgrade ist die Transformer Engine der dritten Generation, spezialisiert auf die häufigen Operationen moderner Transformer-Modelle und mit Unterstützung für niedrige Präzision wie NVFP4. Ein Rubin GPU erreicht laut NVIDIA bis zu 50 PFLOPS NVFP4 für Inference und bis zu 35 PFLOPS beim Training - Werte, die sich nicht direkt mit klassischer FP32-Grafikkartenleistung vergleichen lassen.

Dieser Fokus spiegelt den Wandel der KI-Workloads wider: Moderne Reasoning-Modelle führen nicht nur kurze Antworten aus, sondern verarbeiten lange Argumentationsketten, nutzen Tools, verarbeiten zusätzlichen Kontext und generieren Tausende Tokens pro Anfrage.

HBM4-Speicher

Eine der wichtigsten Neuerungen ist der HBM4-Speicher. Jede Rubin GPU erhält bis zu 288 GB HBM4 mit bis zu 22 TB/s Bandbreite - im Vergleich zu 8 TB/s bei Blackwell ein Sprung um das 2,8-fache.

Dies ist nicht nur für riesige Modelle entscheidend. Beim Textgenerieren muss der Beschleuniger ständig auf die Gewichte des neuronalen Netzes und den KV-Cache zugreifen. Je länger der Dialog und je mehr Nutzer gleichzeitig bedient werden, desto größer die Speicherbelastung.

HBM4 ist damit ein Schlüsselbaustein für moderne KI-Beschleuniger: Mehr Kapazität erlaubt es, mehr Daten direkt am GPU zu halten, die hohe Bandbreite verringert Wartezeiten.

Mehr zu HBM4: Die neue Generation KI-Speicher und HPC

Im vollständigen Vera Rubin NVL72 Rack summiert sich der HBM4-Speicher auf rund 20,7 TB und die Bandbreite auf etwa 1,58 PB/s - ein Wert, der zeigt, warum der Vergleich einzelner GPUs immer weniger aussagekräftig ist.

NVIDIA Vera CPU

Mit Rubin bringt NVIDIA den neuen Vera CPU, einen eigenen, Arm-kompatiblen Serverprozessor mit 88 Olympus-Kernen und bis zu 1,5 TB LPDDR5X-Speicher. Im Vera Rubin Superchip ist er direkt mit zwei Rubin GPUs über NVLink-C2C mit bis zu 1,8 TB/s Bandbreite verbunden.

Seine Aufgabe ist nicht das KI-Rechnen selbst, sondern die Datenaufbereitung, Task-Steuerung und Ausführung von Code, der sich nicht für Tensor Cores eignet. Die schnelle Verbindung minimiert Verzögerungen durch klassische Schnittstellen und verhindert Leerlauf auch bei sehr großen Modellen.

NVLink 6 und GPU-Zusammenschluss

Der nächste Engpass ist der Datenaustausch zwischen den Beschleunigern. Rubin nutzt NVLink der sechsten Generation: Bis zu 3,6 TB/s pro GPU, und im NVL72-Rack bis zu 260 TB/s Gesamtdurchsatz.

Dadurch können alle 72 Rubin GPUs im NVL72 über ein Hochgeschwindigkeits-Fabric Daten austauschen - essenziell für Mixture-of-Experts-Modelle, bei denen verschiedene Netzwerkteile auf unterschiedlichen GPUs laufen.

Die Rubin-Architektur ist somit auf vier eng verzahnte Ressourcen ausgelegt: Tensor Core Rechenleistung, HBM4, schnelle CPU-GPU-Kommunikation und skalierbares NVLink. Schwächelt einer dieser Faktoren, leidet die Gesamteffizienz.

Vera Rubin Performance: Warum ist sie für moderne KI so wichtig?

Die Leistungsfähigkeit von Vera Rubin bemisst sich heute nicht mehr nur in FLOPS. Für KI-Systeme ist entscheidend, wie viele Tokens pro Watt generiert werden, wie viele Beschleuniger für das Training nötig sind und wie schnell die Infrastruktur mit langen Kontexten arbeitet.

Laut NVIDIA liefert Vera Rubin NVL72 beim Reasoning-Workload Kimi K2 Thinking bis zu zehnmal mehr Tokens pro Megawatt als GB200 NVL72 und senkt die Kosten für eine Million Tokens um das Zehnfache. Dies bedeutet nicht, dass Rubin immer zehnmal schneller ist als Blackwell - der Vorteil variiert je nach Modell, Kontextlänge und Aufgabenstellung.

Gerade bei Agentensystemen zeigt sich der Gewinn: Im Gegensatz zu einfachen Chatbots, die eine Anfrage beantworten, können KI-Agenten Informationen suchen, externe Tools nutzen, weitere Modelle starten und Ergebnisse mehrfach analysieren. Das steigert die Anzahl der zu verarbeitenden Tokens massiv.

Die Hauptlimitierung ist daher nicht mehr nur die Geschwindigkeit einzelner Matrixoperationen, sondern der permanente Datenfluss zwischen HBM4, GPU und anderen Beschleunigern. Die hohe Speicher- und NVLink-Bandbreite von Rubin ermöglicht es, solche Dauerbelastungen besser zu bewältigen.

NVIDIA veröffentlichte im August 2026 Ergebnisse des AgentX-Tests für agentisches Programmieren: Im Vergleich zu GB300 NVL72 erzielte Vera Rubin NVL72 bis zu 30-fach höheren Durchsatz pro Megawatt bei 160 Tokens/Sekunde pro Nutzer. Die Zahlen stammen aus NVIDIA-internen Messungen und stehen zum Zeitpunkt der Veröffentlichung noch zur unabhängigen Überprüfung aus.

Beim Training großer Modelle setzt Rubin auf die Effizienz des Gesamtsystems. NVIDIA gibt an, dass für das Training eines 10-Billionen-Parameter-Mixtures-of-Experts mit Vera Rubin NVL72 rund viermal weniger GPUs benötigt werden als mit GB200 NVL72 - ein erheblicher Vorteil bei Kosten, Energie und Netzwerkaufwand.

Hier wird das Thema AI Fabric: Netzwerk für das Training von neuronalen Netzen auf tausenden GPUs wichtig. Die Performance hängt maßgeblich davon ab, wie schnell Beschleuniger Zwischenergebnisse austauschen können. Ein schneller GPU hilft wenig, wenn er auf Daten warten muss.

Deshalb ist Vera Rubin von Beginn an für große AI-Fabriken konzipiert: NVLink skaliert innerhalb des Racks, InfiniBand und Spectrum-X Ethernet verbinden zahlreiche Racks zu noch größeren Clustern. Im Mai 2026 begann laut NVIDIA die Massenproduktion für Infrastrukturen mit Tausenden von Beschleunigern.

Ein besonderer Vorteil zeigt sich bei Mixture-of-Experts-Modellen: Für jeden Token wird nur ein Teil des Netzes aktiviert, aber die Experten können auf verschiedenen GPUs liegen. Die Geschwindigkeit des Interconnects und Speichers entscheidet, wie viel Zeit für Kommunikation verloren geht.

Ein weiteres zentrales Szenario ist der lange Kontext: Wenn ein Modell mit Hunderttausenden oder Millionen Tokens arbeitet, muss immer mehr Kontext gespeichert und wiederverwendet werden - z.B. beim Programmieren, Dokumentenanalyse oder autonomen Agenten.

Die Performance von Vera Rubin resultiert somit aus der gleichzeitigen Steigerung von GPU-Leistung, HBM4-Bandbreite und Interconnect-Geschwindigkeit - alles eingebettet in eine skalierbare Serverarchitektur, die auf Milliarden generierter Tokens und riesige Datenvolumina ausgelegt ist.

NVIDIA Rubin vs. Blackwell: Die wichtigsten Unterschiede

Rubin setzt den von Blackwell eingeschlagenen Kurs fort, aber nahezu jeder Kernbaustein wurde überarbeitet: höhere GPU-Rechenleistung, Wechsel auf HBM4, verdoppelte NVLink-Bandbreite und der neue Vera CPU. Die Unterschiede zeigen sich nicht nur in den Einzelkomponenten, sondern im Aufbau des gesamten Serversystems.

Die Werte beziehen sich auf Server-Beschleuniger von NVIDIA, die tatsächliche Rechenleistung hängt von den Datenformaten und Konfigurationen ab.

Der Unterschied bei den GPUs ist besonders markant: Rubin verfügt über 336 Milliarden Transistoren gegenüber 208 Milliarden bei Blackwell, liefert bis zu 50 PFLOPS NVFP4 im Inference (Blackwell: 10 PFLOPS) und besitzt die dritte Generation der Transformer Engine für moderne Modelle.

Doch allein mehr Rechenleistung reicht nicht: Schnellere GPUs benötigen auch eine höhere Speicher- und Interconnect-Bandbreite. Rubin setzt deshalb auf HBM4 (22 TB/s pro GPU statt 8 TB/s) - ein entscheidender Vorteil bei langen Kontexten und massenhaftem Inference.

Auch beim Zusammenschluss der Beschleuniger gibt es große Fortschritte: NVLink 6 verdoppelt die Bandbreite pro GPU gegenüber NVLink 5; im NVL72-System steigt die Gesamtkapazität von 130 auf 260 TB/s.

Gerade bei Mixture-of-Experts-Modellen, deren Teilnetze auf unterschiedlichen GPUs laufen, ist das entscheidend, um Wartezeiten zu minimieren und die Recheneinheiten optimal auszulasten.

Wer das Vorgängermodell genauer verstehen will, findet Details in NVIDIA B200 und Blackwell: Neuer Standard für KI-Beschleuniger.

Auch die CPU wurde erneuert: Während Blackwell auf den Grace CPU setzt, nutzt Rubin den Vera-Prozessor mit 88 Olympus-Kernen - zugeschnitten auf die typischen Workloads moderner AI-Fabriken.

Ebenfalls verdoppelt wurde die Bandbreite der CPU-GPU-Verbindung: NVLink-C2C bei Blackwell liefert 900 GB/s, Vera und Rubin zusammen bis zu 1,8 TB/s.

Rubin ist daher weit mehr als ein einfaches Leistungsupgrade von Blackwell. Während Blackwell bereits das Server-Rack in ein eng gekoppeltes Rechensystem verwandelte, optimiert Rubin alle kritischen Komponenten gleichzeitig: GPU, Speicher, CPU und Netzwerk.

Das zentrale Architekturmerkmal ist die Optimierung für neue Workloads: Blackwell zielte auf universelles Training und Inference, Rubin dagegen auf Reasoning und agentische KI mit langen Kontexten und sehr vielen generierten Tokens pro Anfrage.

Daher vergleicht NVIDIA Generationen zunehmend nicht nur nach FLOPS, sondern nach Tokens pro Megawatt, Inference-Kosten und der Anzahl benötigter Beschleuniger fürs Training - entscheidende Faktoren für große Rechenzentren.

Was ist Rubin CPX und wie entwickelt sich Vera Rubin weiter?

NVIDIA Rubin CPX

Neben dem Rubin GPU hat NVIDIA auch den Rubin CPX vorgestellt - ein Beschleuniger speziell für extrem langen Kontext beim Inference, etwa für KI-gestützte Programmierung, Analyse großer Codebasen, generatives Video und ähnliche Aufgaben mit riesigem Informationsvolumen.

Rubin CPX ist keine stärkere Version des Rubin GPU, sondern für massive-context processing optimiert und mit 128 GB GDDR7 ausgestattet, um ein besseres Preis-Leistungs-Verhältnis für Spezialaufgaben zu bieten.

Der Monolith liefert bis zu 30 PFLOPS NVFP4 und steigert die Attention-Leistung im Vergleich zu GB300 NVL72 laut NVIDIA um den Faktor drei - entscheidend, da Attention mit wachsendem Kontext besonders rechenintensiv wird.

Beispiel: Ein KI-Assistent für Programmierung kann mit Millionen Tokens gleichzeitig größere Codebereiche analysieren, Zusammenhänge erkennen und komplexere Änderungen vornehmen, ohne das Projekt ständig in kleine Teile zu zerlegen.

Auch bei Video entstehen ganz neue Anforderungen: Die Analyse einer Stunde Videomaterial kann über eine Million Tokens benötigen. Rubin CPX kombiniert Video-Encoding/Decoding mit Long-Context-Inference - ideal für Suche, Analyse und Generierung von Langzeit-Content.

Die größte Konfiguration wird die Vera Rubin NVL144 CPX, die Vera CPUs, Rubin GPUs und Rubin CPX kombiniert und so unterschiedliche Inference-Stufen auf spezialisierte Prozessoren verteilt. Für ein Rack werden bis zu 8 ExaFLOPS KI-Leistung, 100 TB schneller Speicher und 1,7 PB/s Bandbreite genannt.

Das zeigt, wohin sich die NVIDIA-Architektur entwickelt: Statt ein Universal-GPU zu bauen, entstehen mehrere Prozessortypen, die auf bestimmte Aufgaben spezialisiert sind.

Anwendungsbereiche von Vera Rubin

Der Hauptmarkt von Vera Rubin sind große Rechenzentren: Cloud-Anbieter, Entwickler von Basismodellen, wissenschaftliche Computing-Zentren und Unternehmen mit eigenen AI-Fabriken. Es handelt sich um eine völlig andere Klasse als GeForce-Grafikkarten - entscheidend sind Tausende verbundene Beschleuniger, Megawatt an Leistung und maximale Auslastung der Infrastruktur.

Schon 2026 läuft die Massenproduktion. NVIDIA arbeitet mit großen Serverherstellern und globalen Lieferketten; die Architektur ist auf weiteres Skalieren bis hin zu Infrastrukturen mit Zehntausenden GPUs ausgelegt.

Ein erstes großes Einsatzfeld ist Cloud-KI: Microsoft will Vera Rubin NVL72 in der nächsten Fairwater-Infrastruktur nutzen, CoreWeave wird zu den ersten Cloud-Providern mit Vera Rubin zählen. Entwickler müssen also keine eigenen Serverracks kaufen, um Zugang zur Architektur zu bekommen.

Auch im Supercomputing ist Vera Rubin vorgesehen - nicht nur für generative KI, sondern auch für klassische HPC-Aufgaben mit hoher Präzision, etwa Klimamodellierung, Strömungsdynamik, Quantenchemie oder Energieforschung. Große wissenschaftliche Einrichtungen wie das Los Alamos National Laboratory, NERSC und das Leibniz-Rechenzentrum planen Systeme auf Vera Rubin-Basis.

Die Idee spezialisierter Komponenten innerhalb der AI-Fabrik setzt sich fort: Neben Rubin GPU und CPX ergänzt NVIDIA dedizierte Beschleuniger für Inference, Kontextspeicherung, Netzwerk und CPU-Aufgaben. Im August 2026 wurde etwa die Massenproduktion des Groq 3 LPX - ein Spezial-Beschleuniger für schnelles sequentielles Token-Generieren - angekündigt, der die Vera Rubin-Infrastruktur erweitert.

So wird Vera Rubin immer mehr zum Baukasten für unterschiedliche KI-Workloads: Manche Unternehmen benötigen maximale Trainingsgeschwindigkeit, andere günstiges Massen-Inference, wieder andere langen Kontext oder minimale Latenz. NVIDIA adressiert diese Szenarien mit verschiedenen Recheneinheiten, vereint durch eine gemeinsame Software- und Netzwerkplattform.

Rubin CPX steht sinnbildlich für diesen Wandel: Während früher neue Beschleuniger-Generationen primär mehr GPU-Power bedeuteten, geht es heute um Spezialisierung. Je vielfältiger die KI-Workloads werden, desto besser lassen sie sich auf spezialisierte Prozessoren verteilen.

Fazit

NVIDIA Rubin ist weit mehr als nur der nächste GPU nach Blackwell: Es ist der nächste Schritt zur Rechenzentrum-Architektur auf Rack-Ebene. Die Vera Rubin Plattform vereint Rubin GPUs, Vera CPUs, HBM4, NVLink 6 und Netzwerkinfrastruktur, um Latenzen zu minimieren und moderne KI-Systeme effizient zu skalieren.

Die größten Vorteile zeigt Rubin bei Aufgaben mit enormer Rechenlast und permanentem Datenaustausch: Training großer Modelle, Reasoning, AI-Agenten, langer Kontext und massenhaftes Inference. Dabei ist die Bandbreite von Speicher und Interconnects so wichtig wie die Rechenleistung der Tensor Cores.

Im Vergleich zu Blackwell setzt Rubin noch stärker auf die Gesamtinfrastruktur: generierte Tokens, Energieverbrauch, Inference-Kosten und die Effizienz beim Zusammenspiel von Dutzenden oder Tausenden Beschleunigern. Rubin CPX unterstreicht, dass NVIDIA auf Spezialisierung für verschiedene KI-Phasen setzt.

Für Endanwender bleibt Vera Rubin unsichtbar - sie ist Infrastruktur für Rechenzentren, Clouds und Supercomputer. Doch gerade dort laufen die KI-Services der Zukunft, sodass Rubins Entwicklung direkten Einfluss auf die Schnelligkeit, Komplexität und Verfügbarkeit der nächsten KI-Generation hat.