Quanto deve ragionare un modello IA: la manopola che decide costo e attesa

Da un paio d’anni i modelli di intelligenza artificiale più capaci non rispondono e basta: prima ragionano. Vuol dire che generano per conto proprio un testo intermedio in cui esaminano il problema, provano una strada, la scartano, ne provano un’altra e solo alla fine scrivono la risposta che vedete. Quel testo intermedio quasi sempre non ve lo mostrano. Lo pagate però, perché si conta a token esattamente come la risposta, e lo aspettate, perché il modello lo scrive prima di cominciare a rispondervi.

Un token è il pezzetto di testo in cui il modello divide quello che legge e quello che scrive, circa tre quarti di parola. È l’unità con cui si misura tutto: il prezzo, la velocità, la memoria.

La cosa che in pochi sanno è che quanto ragiona, il modello, non è una sua caratteristica fissa. È una regolazione, e nella maggior parte dei casi è in mano vostra.

Il caso che ha reso la cosa evidente

Il 14 agosto 2026 il laboratorio Qwen di Alibaba ha pubblicato Qwen 3.8 27B, un modello a pesi aperti, cioè scaricabile e utilizzabile sul proprio computer senza passare da un servizio esterno, con una licenza permissiva. Nella versione compressa occupa 17 gigabyte su disco: sta su un portatile ben equipaggiato. Fin qui la buona notizia.

La documentazione del modello prevede tre livelli di sforzo di ragionamento, basso, medio e altissimo. Il predefinito è l’ultimo. Ha provato a usarlo così Simon Willison, che di mestiere prova i modelli e ne pubblica le misure. I numeri raccontano meglio di qualunque spiegazione cosa vuol dire lasciare quella manopola al massimo.

Per un disegno vettoriale di un pellicano in bicicletta, che è la prova con cui Willison confronta i modelli da due anni, il modello ha scritto 22.276 token di ragionamento per produrne 3.223 di risposta: sette volte più pensiero che risultato, con ventuno minuti di attesa. Lo stesso identico compito, con il ragionamento spento, è finito in centotrentasette secondi.

Il secondo esempio è ancora più chiaro, perché la richiesta era banale: disegnare un cerchio. Il modello si è messo a valutare se aggiungere anelli concentrici, tacche di misurazione, un’animazione discreta e quale accostamento di colori scegliere. Diversi minuti dopo ha consegnato uno studio geometrico animato che era una bella cosa e non era quello che gli era stato chiesto.

E però il ragionamento serve

Sarebbe comodo concludere che quella manopola va tenuta bassa e non se ne parla più. La stessa serie di prove dice il contrario, ed è la parte utile.

A un certo punto Willison ha chiesto al modello di costruirgli uno strumento vero: una pagina che prendesse le coordinate restituite dal modello stesso su una fotografia e ci disegnasse sopra i riquadri, riproporzionandoli sulle dimensioni reali dell’immagine. Con il ragionamento attivo il programma ha funzionato al primo colpo. Con il ragionamento spento la pagina veniva fuori quasi giusta, ma i riquadri finivano nel posto sbagliato.

La differenza fra i due esiti dice qual è il criterio. Il ragionamento paga quando il compito ha una catena di passaggi che devono tornare: un calcolo, una conversione di unità, un pezzo di codice che deve girare, una deduzione che parte da più vincoli. Non paga quando il compito è di forma, cioè quando la risposta va scritta bene ma non va derivata.

Come regolarla, in pratica

Dove sta la manopola dipende da come usate il modello. Nelle interfacce di chat è la scelta fra un modello normale e uno “di ragionamento”, oppure un interruttore che si chiama pensiero prolungato o simili. Chi collega il modello a un programma tramite le API ha un parametro esplicito. Chi lo fa girare in locale lo trova nelle impostazioni del programma che lo carica.

Una regola di partenza ragionevole:

• Sforzo basso o nessuno per riassumere, riformulare, tradurre, correggere, classificare, estrarre campi da un documento, scrivere una prima bozza. Sono la gran parte delle richieste di una giornata di lavoro.
• Sforzo medio quando c’è da mettere insieme informazioni da più punti di un testo lungo, o da rispettare più vincoli contemporaneamente.
• Sforzo alto per il codice che deve funzionare al primo colpo, i conti, le analisi che devono reggere a una verifica, i problemi in cui una risposta sbagliata costa più dell’attesa.

Il modo più economico per decidere è provare due volte la stessa richiesta, una per livello, sul tipo di compito che vi capita più spesso. Se la risposta migliore non si distingue da quella veloce, avete appena trovato dove risparmiare.

Il conto, per chi lo paga a consumo

I token di ragionamento si fatturano come quelli in uscita, che sono i più cari. Un rapporto di sette a uno fra pensiero e risposta, come nell’esempio del pellicano, significa una bolletta moltiplicata per otto rispetto alla stessa richiesta senza ragionamento. Su una domanda sola non se ne accorge nessuno. Su un processo automatico che gira diecimila volte al giorno è la differenza fra un servizio sostenibile e uno da spegnere.

Chi fa girare i modelli sul proprio hardware paga la stessa cosa in un’altra valuta. Nelle prove di Willison il modello locale produceva fra i 15 e i 30 token al secondo, mentre i grandi modelli offerti come servizio viaggiano su valori diverse volte più alti. Il tempo di attesa non compare in nessuna fattura, però lo pagano le persone che aspettano. Ed è il motivo per cui un modello ottimo su un portatile può restare inutilizzabile in produzione: la scelta fra modelli aperti e servizi in abbonamento si gioca almeno quanto sulla velocità che sulla qualità.