Run fast, private agents on-device with LFM2.5-24B-A2B
Aggiunta all'archivio di AIChronos il (numero del 13 ottobre 2026 ricostruito)· fonte del · Hugging Face blog
LFM2.5-24B-A2B è un modello di ragionamento da 24 miliardi di parametri con solo 2 miliardi attivi per token (architettura MoE), progettato specificamente per eseguire agenti autonomi in modo veloce e privato direttamente sull'hardware dell'utente. Il modello supera modelli più grandi come Qwen3.6-35B-A3B su benchmark chiave legati all'utilizzo degli strumenti e al flusso di lavoro agentic, mantenendo un consumo efficiente delle risorse grazie alla sua struttura a esperti mista (Mixture of Experts). Grazie all'estensione del contesto fino a 131K token e a una vocabolario espanso tramite tokenizer in-place, gestisce compiti complessi che richiedono ragionamento multi-step senza dipendere da cloud esterni.
- Architettura MoE con 40 strati e routing top-4 su 64 esperti per blocco, attivando solo il necessario (2B parametri) per ogni token generato.
- Prestazioni di inferenza elevate: fino a 184 tok/s su Apple M5 Max e oltre 21K output tokens/s su singola GPU NVIDIA B300 ad alta concorrenza.
- Superiorità sugli strumenti agentic: domina o eguaglia la competizione in cinque dei otto benchmark per l'uso degli strumenti (es. AutomationBench, LiveClaw).
- Addestramento scalato a ~33T token con distillazione multi-dominio e reinforcement learning specifico per agenti.
- Supporto nativo day-one per ecosistemi di inferenza come llama.cpp, MLX, vLLM, SGLang e ONNX.
Perché conta. Per gli sviluppatori che costruiscono agenti AI locali o edge computing, questo modello offre un compromesso ottimale tra potenza cognitiva (ragionamento esplicito) ed efficienza energetica, permettendo di eseguire task complessi senza costi cloud né latenza di rete.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.