#benchmark
6 articoli
- 2026-10-17
I token al secondo sono due benchmark sotto lo stesso trench
Un solo numero di token al secondo nasconde l'elaborazione del prompt, il decoding e il carico di lavoro che conta davvero.
- 2026-10-13
I modelli decisionali stanno mangiando il pane di quelli conversazionali
Cloudflare, Amazon e Jev hanno lanciato tutti modelli decisionali nell'ottobre 2026. La domanda non è quale sia il migliore — è perché mai usare un modello conversazionale per il routing nel 2026.
- 2026-04-02
Come valutare l'hardware per gli LLM locali
Non esiste un vincitore senza un carico di lavoro definito: memoria, backend, quantizzazione e contesto decidono il confronto.
- 2026-03-05
Quale LLM locale è più veloce? Come costruire un benchmark che dica qualcosa
Prefill, generazione, qualità e configurazione devono essere misurati insieme: una classifica isolata non basta.
- 2026-02-26
Più grande non è meglio: come un modello da 9 GB ha battuto 120 miliardi di parametri
Ho fatto benchmark di 17 LLM locali su 13 dimensioni con 39 test. I risultati hanno distrutto le mie ipotesi sulla dimensione dei modelli.
- 2026-02-23
GPT-OSS 120B: primi benchmark su hardware AMD consumer
Benchmark reali del modello open-weight 120B MoE di OpenAI su un Ryzen AI Max+ 395 con 128 GB di memoria unificata. Niente cloud, niente A100, solo bare metal.