MTP im Praxistest: der KI-Tempo-Trick, der auf meiner Hardware verlor

Ein gehypter Tempo-Trick hat meine KI langsamer gemacht

In der KI-Welt kursiert gerade ein Beschleuniger namens MTP. Die Versprechen klingen verlockend: zwei bis drei Mal schnellere Antworten, ohne Qualitätsverlust, quasi gratis, man muss es nur einschalten. Genau solche Versprechen prüfe ich lieber, bevor ich mich darauf verlasse. Also habe ich MTP auf meinem eigenen Gerät gemessen. Das Ergebnis war das Gegenteil dessen, was das Netz verspricht.

Der Reihe nach.

Was MTP überhaupt ist

Ein Sprachmodell schreibt normalerweise Wort für Wort. Für jedes einzelne Wort rechnet die Grafikkarte einmal durch das gesamte Modell. Das ist der Grund, warum lokale KI spürbar Zeit braucht.

MTP steht für Multi-Token-Prediction. Die Idee: Das Modell rät in einem Rutsch die nächsten zwei oder drei Wörter voraus und prüft anschließend in einem einzigen Rechenschritt, ob die Vermutung stimmt. Liegt es richtig, sind mehrere Wörter fertig, wo sonst nur eines entstanden wäre. Diese Fähigkeit ist bei neueren Modellen wie Qwen, DeepSeek oder GLM direkt eingebaut. In der Theorie ist das clever, und auf großen Rechenzentrums-Grafikkarten bringt es tatsächlich Tempo.

Warum ich das gemessen habe

Im Netz stehen Zahlen wie „plus 45 Prozent" oder „drei Mal schneller". Solche Zahlen stammen aber immer von einer bestimmten Kombination: einer bestimmten Grafikkarte, einer bestimmten Software, einer bestimmten Einstellung. Meine Frage war schlicht, ob das auf meiner Hardware genauso gilt, bevor ich es meinen Kunden als Vorteil verkaufe.

Getestet habe ich auf demselben Mini-PC wie im letzten Praxistest, einem Gerät auf NVIDIA-DGX-Spark-Basis, das auf den Schreibtisch passt. Als Modell lief ein großes aktuelles Sprachmodell (Nemotron-3-Super). Ich habe dasselbe Modell zwei Mal laufen lassen, einmal mit dem MTP-Trick, einmal ohne, und jeden Wert mehrfach gemessen.

Das Ergebnis

Die Zahl, auf die es ankommt, ist das Schreibtempo in Tokens pro Sekunde. Ein Token ist ein Wortbaustein, grob ein halbes bis ganzes Wort.

Der vermeintliche Turbo hat das Tempo um ein Fünftel gedrückt. Und je mehr ich den Trick aufdrehte, desto langsamer wurde es. Mit zwei Stufen Vorausschau war die KI über 40 Prozent langsamer als ganz ohne.

Warum ein Beschleuniger bremst

Das Kuriose: Das Modell hat gut geraten. Rund neun von zehn seiner vorausgesagten Wörter waren richtig. Trotzdem war es unter dem Strich langsamer. Der Grund liegt an zwei Stellen.

Erstens kostet das Vorausraten selbst Rechenzeit. Auf einem kleinen Gerät fällt dieser Aufwand stärker ins Gewicht als in einem Rechenzentrum. Zweitens, und das war der eigentliche Übeltäter, schaltet der Trick eine andere Optimierung ab. Die Software hält normalerweise fertig vorbereitete Rechenwege bereit, damit die Grafikkarte nicht bei jedem Wort neu planen muss. Sobald MTP aktiv ist, funktioniert diese Vorbereitung nicht mehr, und die Grafikkarte verliert mehr Zeit, als die Vorausschau einspart.

Ein Trick, der im großen Rechenzentrum gewinnt, kann auf der eigenen Hardware verlieren. Was den Ausschlag gibt, ist nie das Schlagwort allein, sondern die genaue Kombination aus Gerät, Software und Einstellung.

Die Lektion ist größer als MTP

Diese Messung ist ein kleines Beispiel für ein großes Muster. Kaum eine KI-Zahl aus dem Netz lässt sich eins zu eins auf das eigene Haus übertragen. Ein Modell, das in einem Test glänzt, kann auf der eigenen Hardware enttäuschen. Eine Einstellung, die woanders Tempo bringt, kann bei mir bremsen. Das gilt für die Wahl des Modells genauso wie für jede vermeintliche Abkürzung.

Wer eine KI-Lösung auf ein Werbeversprechen stützt, baut auf Sand. Wer sie im eigenen Kontext misst, weiß, woran er ist. Das ist keine akademische Feinheit, sondern der Unterschied zwischen einer Lösung, die im Alltag hilft, und einer, die enttäuscht.

Die ehrliche Ergänzung

Mein Test hat eine Grenze, die ich dazuschreibe, weil eine Zahl ohne ihre Grenzen Werbung ist. Ich habe MTP mit einer bestimmten Server-Software gemessen. Mit einer anderen Software, die für genau dieses Gerät gebaut ist, könnte der Trick durchaus gewinnen. Das ändert nichts an der Kernaussage, es bestätigt sie sogar: Nicht das Stichwort entscheidet, sondern die Kombination. Und die Kombination kennt man erst, wenn man sie gemessen hat.

Genau hier setze ich an. Bevor über Technik, Tricks und Modelle entschieden wird, steht die Frage, wo KI in Ihrem Unternehmen überhaupt den größten Nutzen bringt und was sich unter Ihren Bedingungen wirklich rechnet. Das ist der Ausgangspunkt meiner AI-Impact-Methode, erst der Nutzen, dann die Technik.

Wer über lokale KI im eigenen Unternehmen nachdenkt und keine Lust auf Marketing-Zahlen hat, sondern auf belastbare Messungen, meldet sich gern. Das vollständige Messprotokoll teile ich offen.