PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents
Aggiunta all'archivio di AIChronos il (numero del 18 ottobre 2026 ricostruito)· fonte del · Kshitij Mishra, Abhijith Sharma, Nils Lukas, Salem Lahlou
Il paper presenta PROBE, un algoritmo per l'addestramento di auditori basati su LLM che interagiscono con agenzie tramite dialoghi multi-turno per rilevare violazioni di politiche. Questo approccio combina la scoperta di violazioni, la plausibilità comportamentale e il progresso della conversazione in un reward composto.
- PROBE addestra auditori interattivi con agenzie
- Utilizza dialoghi multi-turno per rilevare violazioni di politiche
- Combina diversi obiettivi nel reward composto
Perché conta. È rilevante per uno sviluppatore che lavora con LLM e agenti, poiché offre una soluzione scalabile per l'audit automatico delle politiche, complementando i benchmark di capacità e sicurezza.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.