#llama-cpp
5 articles
- 2026-10-17
Les tokens par seconde sont deux benchmarks sous un trench-coat
Un unique chiffre de tokens par seconde masque l'ingestion du prompt, le décodage et la charge de travail qui compte réellement.
- 2026-04-02
Bande passante ou capacité : choisir une machine pour les LLM locaux
La bande passante accélère les modèles qui tiennent en mémoire ; la capacité détermine ceux qui peuvent être exécutés.
- 2026-03-14
Mamba rencontre Vulkan : ce que les modèles hybrides changent pour l’inférence locale
Les architectures hybrides à états et l’évolution des backends Vulkan élargissent les possibilités de l’inférence locale.
- 2026-03-05
Quel LLM local est le plus rapide ? Ce que mesure vraiment un benchmark
Préremplissage, génération et paramètres actifs : une lecture prudente des benchmarks de LLM locaux.
- 2026-02-22
Le stack complet : LLM, génération d'images et de vidéos sur une seule machine
Comment j'ai mis en place un stack IA local complet — texte, image et vidéo — sur une seule machine, sans aucune dépendance cloud. Tout en Vulkan, tout coexistant, tout gratuit.