Thinking Inertia: LLMs Keep Thinking When Told Not To
Aggiunta all'archivio di AIChronos il (numero del 13 ottobre 2026 ricostruito)· fonte del · Dianqiao Lei, Kevin Qinghong Lin, Pan Lu, Philip Torr, James Zou (Stanford University)
Lo studio indaga il comportamento 'no-thinking' dei Large Language Models (LLMs), dimostrando che l'inibizione esplicita del ragionamento non elimina automaticamente le tracce di inferenza visibile. Gli autori introducono una metricazione tripartita basata su pre-answer trace, Empty-Thinking Rate e LLM-as-judge Explicit Inference Rate per distinguere tra output puri, testo irrilevante ed esplicite deduzioni. I risultati evidenziano un fenomeno chiamato 'Thinking Inertia', dove il ragionamento persiste nonostante i controlli rigorosi, specialmente in task aperti o quando lo spazio delle risposte si espande. La capacità di fermare il ragionamento non può essere assunta dalle impostazioni del modello e richiede una valutazione sistematica distinta dalla semplice abilità di reasoning.
- I proxy tradizionali per misurare la mancanza di pensiero (es. modalità thinking disabilitata) sono inaffidabili perché possono comunque emettere ragionamenti o filler testuali.
- Il fenomeno 'Thinking Inertia' mostra che l'inferenza esplicita persiste anche sotto controlli rigorosi e diventa più prevalente all'aumentare dello spazio delle risposte possibili.
- La precisione del modello rimane stabile su task booleani e a scelta multipla, mentre nei task aperti emerge un trade-off tra conformità 'answer-only' e accuratezza del compito.
- Fornire candidati di risposta (candidate answers) facilita la produzione di output puramente descrittivi senza inferenza esplicita.
- Lo studio conferma che il controllo della ragionamento è una capability non banale che merita valutazione sistematica insieme alle capacità cognitive.
Perché conta. Per gli sviluppatori di agenti e sistemi AI locali, questo paper evidenzia un rischio critico: l'assenza di output logici visibili non garantisce realmente la mancanza di inferenze interne o 'allucinazioni ragionate'. È fondamentale implementare metriche specifiche come quelle proposte (Empty-Thinking Rate) per validare che i modelli operino in modalità passiva quando richiesto, specialmente in contesti dove il silenzio computazionale è un requisito di sicurezza.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.