Concetto · 2 novità
Top-K selection
Pagina pubblicata il · ultima novità il
Cronologia
- Learning Where to Split: Dynamic Band Splitting for Audio Source SeparationPer uno sviluppatore che lavora con LLM, agenti e AI locale, DBS offre una soluzione avanzata per la separazione audio che può migliorare l'efficacia delle applicazioni basate su audio, come assistenti vocali o sistemi di riconoscimento vocale.
- Block Sparse Attention with Log-Linear ComplexityPer gli sviluppatori che lavorano con LLM e agenti, PISA permette di estendere il contesto gestibile riducendo drasticamente i costi di memoria e calcolo, rendendo fattibili inferenze su dispositivi locali o edge. Questa efficienza è cruciale per implementare sistemi multi-agente dove la comunicazione tra nodi richiede contesti lunghi ma risorse limitate.