Alla guida, non nel ciclo
Perché «human in the loop» è la metafora sbagliata per l'era dell'AI — e che cosa dovrebbe sostituirla.
Entra in una qualsiasi discussione sulla governance dell’AI nel 2026 e nel giro di cinque minuti sentirai la stessa formula: human in the loop. È l’espressione a cui si appoggiano i regolatori, quella che i consulenti vendono, quella che i consigli di amministrazione ripetono per rassicurarsi che qualcuno, da qualche parte, tenga ancora il timone.
Suona responsabile. In realtà è il modo sbagliato di pensare al rapporto tra chi guida un’organizzazione e l’AI — e il costo di sbagliare metafora si legge già nei dati.
Come il ciclo ha preso il sopravvento
«Human in the loop» non nasce con l’AI. Viene dall’ingegneria dei sistemi di controllo, dove indicava un operatore che sorvegliava un processo automatico e interveniva quando qualcosa usciva dalla tolleranza. Il suo compito era binario: approvare, respingere, correggere. Il sistema faceva il lavoro; l’umano era il fermo di sicurezza.
Quando il dibattito sull’etica dell’AI ha avuto bisogno di un vocabolario per la supervisione, se l’è preso in blocco. E la metafora presa in prestito si è portata dietro i suoi presupposti. In un ciclo è il sistema che conduce il processo: l’umano entra quando viene chiamato, valuta una decisione isolata ed esce. La paternità appartiene alla macchina. All’umano resta la gestione delle eccezioni.
Era uno schema utile finché l’AI svolgeva compiti stretti e prevedibili. Adesso è uno schema pericoloso.
Che cosa nasconde il ciclo
Le ricerche recenti sull’adozione continuano a far emergere lo stesso problema. Project NANDA del MIT, l’Osservatorio Artificial Intelligence del Politecnico di Milano, lo State of Generative AI in the Enterprise di Deloitte, lo Swiss AI Report: metodologie diverse, esito identico. Le organizzazioni che impostano l’adozione dell’AI come «mettere l’umano nel ciclo» producono tre fallimenti ricorrenti.
La postura reattiva. Quando il ruolo dell’umano si riduce ad approvare o respingere ciò che l’AI produce, l’umano smette di generare. La capacità di dare direzione si atrofizza. Dopo qualche mese la squadra sa correggere ma non sa più originare, e il muscolo strategico si indebolisce proprio mentre la posta strategica si alza.
La trappola dell’eccezione. Chi revisiona a caccia di errori sta facendo riconoscimento di schemi ad alta velocità. Coglie gli sbagli evidenti. Si lascia sfuggire quelli sistemici — la deriva che si accumula, i presupposti incorporati, le cose che prese una per una funzionano e messe insieme non stanno in piedi. Il ciclo ottimizza la correttezza locale ed è strutturalmente cieco all’incoerenza complessiva.
Il vuoto di paternità. Quando nessuno sente di averlo scritto, nessuno lo difende. I contenuti prodotti così rendono misurabilmente meno — meno interazioni, meno fiducia, e uno sconto sempre più rapido da parte di un pubblico che ha imparato a riconoscere la grana di una scrittura senza padrone. La customer experience costruita sullo stesso schema genera interazioni competenti e dimenticabili.
Nulla di tutto questo è un argomento contro l’uso dell’AI. È un argomento contro la metafora con cui la stiamo governando.
L’umano alla guida
Un modello diverso: l’umano non sta nel ciclo, sta alla guida.
Alla guida, l’umano possiede la direzione, lo standard e il risultato. L’AI è lo strumento più potente che gli sia mai capitato fra le mani — ma resta uno strumento, non un coautore con diritto di voto. Lo spostamento non è cosmetico: cambia tre cose.
L’inquadramento passa da reattivo a direttivo. La prima domanda smette di essere «questo risultato è accettabile?» e diventa «quale esito sto producendo, e qual è la via più breve per arrivarci?». L’AI viene arruolata sulla via. Non propone la destinazione.
La responsabilità passa dalle eccezioni agli esiti. L’umano non risponde di aver intercettato gli errori. Risponde di ciò che è stato prodotto, punto. È un’asticella più alta, ed è l’unica che regge quando qualcuno viene a controllare — un giudice, un cliente o il mercato.
La cadenza passa dai controlli a campione alla definizione della direzione. Invece di passare in rassegna ogni pezzo che l’AI produce, chi guida investe nel definire il mandato, i vincoli, la base di evidenze e lo standard di finito. Il carico di revisione scende. Il tetto di qualità si alza.
Non è un modello più morbido, è un modello più esigente. Richiede persone capaci di articolare che cosa vogliono davvero — una capacità da cui gran parte delle organizzazioni si è disabituata in vent’anni.
Perché conta adesso
I mercati in cui lavoro, quello svizzero e quello italiano, mostrano la divaricazione con chiarezza. Una quota crescente di aziende medio-grandi ha portato l’AI generativa dentro almeno un processo. Una quota molto più piccola sa dire, in una frase sola, che cosa sta cercando di ottenere e in che modo l’AI la sta aiutando. La distanza tra l’aver installato e l’aver deciso continua ad allargarsi.
Ogni trimestre in cui quella distanza resta aperta, la postura reattiva si consolida. Le squadre producono di più, originano di meno e accumulano una dipendenza organizzativa che nessuno ha scelto consapevolmente.
Le aziende che comporranno un vantaggio nell’era dell’AI non saranno quelle con i modelli migliori. Saranno quelle in cui chi guida è rimasto alla guida: ha usato l’AI per amplificare una direzione che stava già dando, invece che per sostituire una direzione che non aveva più tempo di dare.
Che cosa farà questo blog
Questo è l’inizio di una serie. Nei prossimi mesi scriverò — partendo dai riscontri, citando la ricerca reale — su tre territori che si intersecano.
I contenuti nell’era dell’AI. Che cosa cambia quando il costo di produzione si avvicina a zero. Che cosa resta scarso. Che cosa il pubblico premia davvero.
La customer experience come nuova prima linea. Dove l’AI aiuta, dove fa danni, e perché le aziende che vincono sulla customer experience sono quelle che trattano l’AI come uno strumento al suo servizio, non come la sua strategia.
Adozione e governance. Che cosa dice la ricerca su quali schemi funzionano, quali falliscono e perché tanti programmi di AI restano fermi alla fase pilota.
Ogni pezzo sarà fondato su ricerca primaria — accademica, di mercato o operativa — e dichiarerà le sue fonti. La promessa non è che avrò ragione. La promessa è che mostrerò le evidenze e ti lascerò verificare il lavoro.
La prima domanda specifica, nel prossimo articolo: che cosa dicono davvero i dati sulla resa dei contenuti quando l’AI entra nel ciclo di produzione — e che cosa cambia quando l’umano esce dal ciclo e passa alla guida.
Resta nei paraggi.
— Stefano