#moe
2 Artikel
- 2026-04-04
MoE-Modelle richtig lesen: Gesamtgröße, aktive Parameter und Kontext
Bei Mixture-of-Experts-Modellen sind Gesamtparameter, aktive Parameter und Speicherbedarf verschiedene Größen. Eine Anleitung, Modellankündigungen nüchtern zu lesen.
- 2026-04-02
Llama 4 Scout: Metas neues MoE-Modell und die Frage nach lokaler Inferenz
Llama 4 Scout verbindet ein MoE-Design mit multimodalen Fähigkeiten und langem Kontext. Für lokale Inferenz sind Speicherbedarf, Quantisierung und unabhängige Tests wichtiger als die Marketingzahl der Gesamtparameter.