#performance
2 Artikel
- 2026-10-17
Tokens pro Sekunde sind zwei Benchmarks im Trenchcoat
Eine einzige Tokens-pro-Sekunde-Zahl versteckt Prompt-Verarbeitung, Decoding und den Workload, der wirklich zählt.
- 2026-03-05
Lokale LLM-Geschwindigkeit sinnvoll vergleichen
Warum Prefill, Generierung, Kontext und Speicher getrennt gemessen werden müssen, wenn lokale Sprachmodelle verglichen werden.