ollama/ollama v0.40.4
Aggiunta all'archivio di AIChronos il (numero del 12 ottobre 2026 ricostruito)· fonte del · ollama
La release v0.40.4 di Ollama introduce il supporto nativo per i decision models direttamente dalla riga di comando tramite 'ollama run', permettendo classificazione del testo e scoring contro rubriche senza API esterne. Il runner MLX su Apple Silicon ora gestisce efficientemente questi modelli, mentre vengono ottimizzate le prestazioni dell'inferenza riutilizzando manifesti verificati e stati dei LLM già caricati. Sono state aggiunte funzionalità multimodali per gli embedding tramite llama-server e migliorata l'affidabilità del speculative decoding nel runner MLX.
- Supporto decision models in CLI con comandi come 'ollama run' per domande sì/no o classificazione testo.
- Il runner MLX su Apple Silicon ora supporta i Kev decision models e gestisce meglio gli stati lunghi dei LLM.
- Miglioramenti nelle prestazioni di inferenza riutilizzando modelli già caricati e manifesti verificati.
- Aggiunto supporto per embedding multimodali tramite llama-server con correzione per piccoli context windows.
- Ottimizzazione delle prestazioni del prefilling su GPU NVIDIA per Gemma 4 nel runner MLX.
Perché conta. Questa release è cruciale per gli sviluppatori che costruiscono agenti AI locali, poiché permette di integrare logiche decisionali complesse e embedding multimodali direttamente nell'infrastruttura locale senza dipendenze cloud. L'affidabilità migliorata del speculative decoding e la gestione degli stati lunghi riducono i tempi di inferenza e aumentano la stabilità dei flussi di lavoro basati su modelli locali.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.