#benchmarks
9 Artikel
- 2026-10-17
Tokens pro Sekunde sind zwei Benchmarks im Trenchcoat
Eine einzige Tokens-pro-Sekunde-Zahl versteckt Prompt-Verarbeitung, Decoding und den Workload, der wirklich zählt.
- 2026-10-13
Entscheidungsmodelle fressen Chat-Modelles Brot
Cloudflare, Amazon und Jev haben alle im Oktober 2026 Entscheidungsmodelle veröffentlicht. Die Frage ist nicht, welches das Beste ist — sondern warum man 2026 ein Chat-Modell für Routing verwenden würde.
- 2026-04-04
MoE-Modelle richtig lesen: Gesamtgröße, aktive Parameter und Kontext
Bei Mixture-of-Experts-Modellen sind Gesamtparameter, aktive Parameter und Speicherbedarf verschiedene Größen. Eine Anleitung, Modellankündigungen nüchtern zu lesen.
- 2026-03-20
Mistral Small 4: Ein großes MoE-Modell für vielseitige lokale Inferenz
Mistral Small 4 kombiniert Reasoning, Bildverständnis und agentisches Coding in einem sparsamen Mixture-of-Experts-Modell.
- 2026-03-07
MiniMax M2.5: Wenn Spitzenmodelle billig genug für dauerhafte Agentenläufe werden
- 2026-03-05
Lokale LLMs für Tool-Aufrufe bewerten
Ein Testkonzept für lokale Modelle, bei dem Auswahl, Argumente, Format und das Unterlassen unnötiger Aufrufe getrennt bewertet werden.
- 2026-03-01
Ich habe 10 KI-Modelle getestet, damit du es nicht musst
Ein Wochenende voller Benchmarks mit lokalen KI-Modellen auf Consumer-Hardware. Hier ist, was wirklich funktioniert.
- 2026-02-26
Grösser ist nicht besser: Wie ein 9-GB-Modell 120 Milliarden Parameter geschlagen hat
Ich habe 17 lokale LLMs über 13 Dimensionen mit 39 Tests gebenchmarkt. Die Ergebnisse haben meine Annahmen über Modellgrösse zerstört.
- 2026-02-23
GPT-OSS 120B: Erste Benchmarks auf Consumer-AMD-Hardware
Echte Benchmarks von OpenAIs Open-Weight-120B-MoE-Modell auf einem Ryzen AI Max+ 395 mit 128 GB Unified Memory. Keine Cloud, keine A100s, nur Bare Metal.