Modder haben einen Weg gefunden

Der Firmware-Exploit setzt dort an, wo Nvidia selbst eine Grenze beschrieben hat: Laut den veröffentlichten Spezifikationen des Herstellers führt jede betroffene GeForce-Karte FP32-Akkumulations-Mathematik nur mit der halben FP16-Akkumulations-Rate aus. Diese Drosselung erfasste alle betroffenen GeForce-Generationen gleichermaßen, also die RTX-20-, 30- und 40-Serie. Die Modder entfernten sie über die Firmware, nicht über eine neue Platine oder einen anderen Chip.

Was zunächst nach einer pauschalen Beschränkung für alle Nvidia-Karten klingt, war es nicht. Nvidias Turing- und Ampere-Profi-Karten waren von der halbierten Rate nie betroffen, wie Tom's Hardware berichtet. Die Grenze verlief also entlang der Produktlinien: Consumer-Karten der GeForce-Reihe auf der einen Seite, Profi-Karten auf der anderen.

Technisch erreicht der Exploit damit genau das, was die Spezifikation zuvor ausschloss: Die betroffenen GeForce-Karten rechnen die FP32-Akkumulation wieder mit ihrer vollen FP16-Rate. Ob dieser Durchsatz in einer konkreten KI-Anwendung ankommt, ist eine zweite Frage – sie hängt davon ab, welche Rechenart die Anwendung tatsächlich beansprucht.

Peak-Leistung ist nicht Alltag

Wie viel davon bei typischen KI-Anwendungen ankommt, lässt sich an zwei Messgrößen ablesen. Laut Tom's Hardware stellt die Freischaltung den nativen Matrix-Mathematik-Durchsatz wieder her, was die Prompt-Verarbeitung und die Bilderzeugung beschleunigen kann. Wie stark die Zugewinne bei den übrigen Karten ausfallen, bleibt laut derselben Quelle offen: Sie variieren von Modell zu Modell.

Zwischen Spitzenwert und Alltag liegt der Unterschied, den die Quelle selbst benennt: Die Verbesserung ist als Möglichkeit formuliert, nicht als Zusage für jede Aufgabe. Die doppelte Peak-Tensor-Rate der RTX 4090 gilt für die Matrix-Mathematik, und genau diese Rechenart schaltet der Exploit frei. Ob eine Anwendung davon profitiert, hängt folglich davon ab, wie viel Matrix-Mathematik sie tatsächlich abruft.

Freischaltung ist nicht Wirkung

Warum also bleibt der praktische Gewinn hinter den Spitzenwerten zurück? Der Grund liegt in der Grenze selbst: Nvidia hat sie laut Tom's Hardware für alle betroffenen GeForce-Generationen so gesetzt, dass FP32-Accumulate-Mathematik nur mit halber FP16-Accumulate-Rate jeder Karte läuft. Die verdoppelte Peak-Tensor-Rate der RTX 4090 ist damit ein Wert für genau diese Rechenart – nicht für jede Aufgabe, die auf der Karte läuft. Wer die Freischaltung mit einem allgemeinen KI-Turbo verwechselt, misst den falschen Wert.

Für Nvidias Turing- und Ampere-Profi-Karten galt diese halbierte Rate ohnehin nie, wie aus den veröffentlichten Spezifikationen hervorgeht.