#ia-locale
5 articoli
- 2026-10-12
I modelli linguistici a diffusione hanno un problema di cache. Finalmente diventa interessante.
I modelli linguistici a diffusione possono generare testo in parallelo, ma il denoising ripetuto costa caro. Nuovi lavori attenti alla cache rendono il compromesso interessante.
- 2026-03-04
Perché gli agenti IA dimenticano: riparare la memoria con la ricerca ibrida
La ricerca vettoriale da sola manca i termini esatti. BM25 da solo manca il significato. Combinare entrambi con il reranking RRF dà agli agenti IA una memoria che funziona davvero.
- 2026-03-01
Ho testato 10 modelli di IA così non devi farlo tu
Un fine settimana di benchmark con modelli IA locali su hardware consumer. Ecco cosa funziona davvero.
- 2026-02-26
Più grande non è meglio: come un modello da 9 GB ha battuto 120 miliardi di parametri
Ho fatto benchmark di 17 LLM locali su 13 dimensioni con 39 test. I risultati hanno distrutto le mie ipotesi sulla dimensione dei modelli.
- 2026-02-23
GPT-OSS 120B: primi benchmark su hardware AMD consumer
Benchmark reali del modello open-weight 120B MoE di OpenAI su un Ryzen AI Max+ 395 con 128 GB di memoria unificata. Niente cloud, niente A100, solo bare metal.