Rufus-Air: An Open LLM Post-Training Recipe
Aggiunta all'archivio di AIChronos il (numero del 25 settembre 2026 ricostruito)· fonte del · Chia-Yuan Chang, Renyuan Cheng, Rui Feng, Xiaotian Han, Yuan He, Hongye Jin (Amazon)
Rufus-Air è un protocollo di post-training aperto e riproducibile basato su GLM-4.5-Air-Base (106B), strutturato come una pipeline seriale di otto stadi che evolvono dalle capacità base a quelle avanzate tramite tecniche SFT, RL per ragionamento/coding/agenti e RLHF.
- Il training si fonda su componenti open-source e dati pubblici senza nuovi annotazioni umane o teacher distillati interni.
- La difficoltà del filtering mantiene i prompt di Reinforcement Learning entro un intervallo produttivo per l'apprendimento.
- L'affidabilità della ricompensa è il principio pratico guida per ordinare le diverse fasi del training pipeline.
- Le scelte infrastrutturali e ingegneristiche sono considerate parte integrante della ricetta, non solo dettagli implementativi.
- Il modello risultante supera la versione ufficiale GLM-4.5-Air post-trained ed è competitivo con modelli open di dimensioni simili.
Perché conta. Questa ricerca offre una roadmap riproducibile per migliorare LLM locali e agenti autonomi utilizzando dati pubblici, evitando costi elevati di annotazione umana o distillazione proprietaria.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.