huggingface/transformers v5.18.0 — Release 5.18.0
Aggiunta all'archivio di AIChronos il (numero del 30 settembre 2026 ricostruito)· fonte del · huggingface
La release v5.18.0 di Hugging Face Transformers introduce modelli avanzati come Nemotron Omni per il ragionamento multimodale e HyperCLOVAX Vision V2 con supporto al chain-of-thought reasoning tramite token interni. Il rilascio include miglioramenti significativi alla gestione della cache dell'attenzione, ottimizzazioni specifiche per hardware AMD (ROCm) e XPU attraverso FSDP2, nonché l'integrazione di kernel FP8 su dispositivi MPS. Sono stati risolti vari bug legati all'inizializzazione dei modelli RTDetrModel/SEWDForCTC e alle incompatibilità con torch.compile per i modelli Mllama.
- Integrazione di NemotronH Omni, un modello ibrido Mamba-Transformer capace di elaborare congiuntamente testo, immagini, video e audio.
- Implementazione di HyperCLOVAX Vision V2 che combina il backbone NAVER con Qwen2.5-VL per abilitare ragionamento a catena tramite thinking tokens.
- Ottimizzazione delle prestazioni su hardware AMD direzionando le operazioni FA3 attraverso `aiter-flash-attn` e supporto FP8 sui dispositivi MPS con torch >= 2.15.
- Miglioramenti alla robustezza del processore di immagini per Pixtral e correzione dei bug relativi all'uso errato di `base_model_prefix` in RTDetrModel/SEWDForCTC.
- Upgrade della gestione della cache che supporta diversi tipi di attenzione tramite un nuovo meccanismo di pausa, migliorando la scalabilità dell'inference.
Perché conta. Questa release è cruciale per gli sviluppatori che operano con LLM e agenti locali poiché abilita l'uso efficiente su hardware eterogeneo (AMD/XPU), introduce capacità di ragionamento multimodale avanzate e stabilizza il deployment tramite correzioni critiche sulla gestione della memoria e dell'inizializzazione.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.