#local-ai
11 articoli
- 2026-09-11
La classifica degli embedding è una lapide
Le classifiche basate sui download raccontano l'inerzia delle adozioni passate, non quale modello di embedding sia la scelta più adatta oggi.
- 2026-06-16
Il runtime dell'agente è il prodotto
Il modello attira gli applausi, ma è il runtime a decidere se un agente produce risultati verificabili oppure soltanto prosa convincente.
- 2026-06-08
La memoria non è un database
La memoria di un agente fallisce più come attenzione che come archiviazione. Trattarla come un database è il modo più rapido per renderla bizzarra.
- 2026-04-02
Come valutare l'hardware per gli LLM locali
Non esiste un vincitore senza un carico di lavoro definito: memoria, backend, quantizzazione e contesto decidono il confronto.
- 2026-04-02
Llama 4 Scout: il nuovo MoE di Meta e l'inferenza locale
Llama 4 Scout è un modello MoE multimodale a pesi disponibili. Architettura, licenza e requisiti pratici contano più dello slogan sul contesto.
- 2026-03-20
Mistral Small 4: un modello MoE da 119 miliardi di parametri progettato per essere versatile
Mistral Small 4 unisce chat, ragionamento, programmazione agentica e input visivi in un modello MoE aperto. La scelta dipende da requisiti, licenza e valutazione riproducibile.
- 2026-03-14
Mamba incontra Vulkan: perché gli ibridi contano per l'AI locale
Le architetture ibride Mamba, MoE e attenzione richiedono nuovi kernel. Il supporto Vulkan amplia le opzioni per l'inferenza locale.
- 2026-03-07
MiniMax M2.5: quando l'intelligenza di frontiera costa abbastanza poco da restare accesa
- 2026-03-05
Quale LLM locale è più veloce? Come costruire un benchmark che dica qualcosa
Prefill, generazione, qualità e configurazione devono essere misurati insieme: una classifica isolata non basta.
- 2026-03-04
Memoria a grafo per agenti IA: Mem0 senza dipendenze cloud
Le basi vettoriali recuperano testi simili; una memoria a grafo rende esplicite le relazioni tra fatti. Mem0 offre entrambe le forme di contesto.
- 2026-03-04
Distillare Claude: cosa si può davvero affermare sul trasferimento di capacità
La distillazione è una tecnica consolidata; attribuire capacità di un modello a un fine-tuning richiede dati, provenienza e valutazioni riproducibili.