Claude Code in automatico dal 14 agosto: approvare a mano è più rischioso

Dal 14 agosto Claude Code, lo strumento di Anthropic per far lavorare l’IA sul codice, smette di chiedere il permesso a ogni passo: la modalità automatica diventa l’impostazione predefinita per i piani Pro, Max e Team. Al posto della richiesta di conferma c’è un classificatore che esamina ogni comando e blocca quelli irreversibili, distruttivi o diretti fuori dall’ambiente di lavoro.

Sembra una notizia per sviluppatori. I numeri con cui Anthropic la giustifica riguardano invece chiunque abbia adottato un assistente IA al lavoro, perché non parlano della macchina: parlano di noi.

Il 97%

Nell’uso reale di Claude Code, il 97% delle richieste di permesso viene approvato. La quota di rifiuti è del 3%.

Il confronto che rende il dato eloquente è interno allo stesso strumento: quando l’assistente propone un piano di lavoro, gli utenti lo respingono nel 39% dei casi. Le stesse persone, davanti alla stessa interfaccia, bocciano quattro piani su dieci e tre permessi su cento. La differenza non è nel giudizio, è nella frequenza: un piano si legge perché arriva ogni tanto, un permesso si clicca perché arriva ogni pochi secondi.

Lo si vede anche in quello che le persone fanno per non vedere più la finestrella: quasi la metà degli utenti attivi ha scritto a mano una regola che autorizza in anticipo i comandi di shell, il 62% ha usato almeno una volta la scorciatoia per non chiedere più, e un quarto delle sessioni parte già con i permessi disattivati.

L’esperimento sui 1.053 tester

Per misurare quanto valga davvero quel clic, Anthropic ha ingaggiato 1.053 collaudatori retribuiti. A metà sessione, mentre lavoravano in un ambiente di prova, una delle richieste di permesso è stata sostituita con un comando chiaramente pericoloso.

Si sono fermati in 143 su 1.053, cioè il 13,6%. Il classificatore della modalità automatica avrebbe bloccato l’89% degli stessi comandi. Nel confronto diretto ha fermato 800 comandi che una persona aveva approvato, mentre le persone ne hanno fermati 6 che lui lasciava passare.

Il dato più duro, però, è come cambia il numero col passare del tempo: all’inizio di una sessione i collaudatori bloccavano circa il 17% dei comandi pericolosi, dopo una cinquantina di richieste erano scesi intorno al 5%. La macchina, a parità di condizioni, restava ferma sulla sua percentuale.

Quello che i numeri non dicono

Vale la pena tenere presente da dove arrivano queste misure: le ha prodotte l’azienda che vende lo strumento, per motivare una scelta che ha già preso. Anche le verifiche esterne che cita sono commissionate. Non è un’accusa, è il contesto: finché non arriva una verifica indipendente, quei numeri restano una posizione di parte ben documentata.

C’è poi un limite che nessuna percentuale copre. Un classificatore riconosce un comando pericoloso perché sembra pericoloso. Non riconosce un comando innocuo che fa danno perché arriva nel momento sbagliato, o perché l’istruzione che lo ha generato era nascosta dentro un contenuto che l’assistente ha letto per conto suo.

Cosa portarsi a casa

Se in azienda avete adottato un assistente IA e vi siete tranquillizzati perché “tanto chiede sempre conferma”, il 97% dice che quella tranquillità è già finita da un pezzo. Non perché qualcuno sia distratto: perché un sistema che chiede il permesso ogni pochi secondi trasforma la decisione in un riflesso. Con chiunque.

La domanda utile non è se lasciare o meno il pilota automatico. È un’altra, e viene prima: a quali dati e a quali strumenti arriva l’assistente quando esegue. Quello è il perimetro che decide il danno possibile. Si disegna a monte, non alla finestrella di conferma.