Un agente AI prepara una risposta a un cliente, aggiorna il CRM, modifica un file, apre una richiesta di rimborso e programma l’invio di un’email. A quale passaggio deve fermarsi e chiedere il permesso? E quando, invece, può continuare mentre una persona controlla dall’alto?
È qui che entra in gioco la differenza tra human-in-the-loop e human-on-the-loop, IN da una parte e ON dall’altra. Nel primo modello l’essere umano è un passaggio obbligatorio del processo: senza la sua approvazione l’azione non parte. Nel secondo l’agente lavora in autonomia entro limiti prestabiliti, mentre una persona osserva indicatori, controlla campioni e può intervenire o fermare il sistema. Non è una scelta ideologica tra controllo e libertà: dipende dal rischio, dalla reversibilità dell’azione e dalla capacità di accorgersi in tempo di un errore.
La distinzione è particolarmente importante nei sistemi agentici usati in azienda. Un chatbot propone parole; un agente può usare strumenti e produrre effetti nel mondo: inviare, acquistare, modificare, pubblicare, cancellare. Più l’AI passa dal “dire” al “fare”, più occorre progettare con precisione il ruolo umano.
Che cosa significa human-in-the-loop
Human-in-the-loop (HITL) significa che una persona è dentro il flusso operativo. L’agente può analizzare dati, formulare una proposta o preparare un’azione, ma incontra un punto di controllo obbligatorio. L’umano approva, corregge o respinge; soltanto dopo il sistema può proseguire.
È il modello adatto quando una decisione può produrre conseguenze economiche, legali, sanitarie, reputazionali o difficili da annullare. Non basta mostrare un pulsante “Approva”: la persona deve ricevere il contesto necessario, avere tempo sufficiente e poter davvero cambiare la decisione.
Un esempio semplice: l’agente legge un reclamo, consulta l’ordine e propone un rimborso di 280 euro. In modalità human-in-the-loop il responsabile vede motivazione, dati usati e importo, poi autorizza o modifica l’operazione. Il sistema non trasferisce denaro da solo.
Che cosa significa human-on-the-loop
Human-on-the-loop (HOTL) significa che una persona supervisiona il processo senza approvare ogni singola azione. L’agente opera entro un perimetro definito; dashboard, registri, avvisi e controlli a campione permettono al supervisore di capire che cosa sta succedendo e intervenire in caso di anomalia.
È adatto ad attività frequenti, a rischio contenuto, misurabili e facilmente reversibili. L’autonomia non elimina il controllo: lo sposta dalla singola operazione alla qualità complessiva del sistema.
Per esempio, un agente classifica ogni notte centinaia di documenti interni. Il responsabile non conferma ogni etichetta, ma controlla un campione, osserva il tasso di errore e riceve un avviso se cresce oltre la soglia. Le classificazioni restano tracciate e correggibili.
Human-in-the-loop vs human-on-the-loop: la differenza in tabella
| Aspetto | Human-in-the-loop | Human-on-the-loop |
|---|---|---|
| Ruolo umano | Approva o corregge prima dell’azione | Supervisiona il sistema mentre opera |
| Flusso predefinito | L’agente si ferma | L’agente continua |
| Controllo | Su ogni caso sensibile | Su metriche, anomalie e campioni |
| Velocità | Più bassa e legata alla disponibilità umana | Più alta e scalabile |
| Uso tipico | Decisioni ad alto impatto o poco reversibili | Attività a basso rischio, osservabili e reversibili |
| Rischio principale | Approvazioni frettolose e “fatica da conferma” | Accorgersi troppo tardi di una deriva |
| Strumenti necessari | Gate, spiegazioni, confronto e possibilità di rifiuto | Log, soglie, alert, audit e arresto immediato |
Attenzione: on-the-loop non significa out-of-the-loop
Esiste una terza condizione: human-out-of-the-loop. L’AI decide e agisce senza approvazione puntuale, senza supervisione operativa efficace o senza una reale possibilità di intervento. Non è un sinonimo di human-on-the-loop.
La differenza sembra sottile finché non arriva un incidente. Se il supervisore riceve un report il giorno dopo, quando l’agente ha già inviato mille comunicazioni sbagliate, non era davvero “sopra il circuito”: era fuori dal circuito.
Il tema è noto da molto prima dell’AI generativa. Nel paper “Ironies of automation” del 1983, Lisanne Bainbridge osservava un paradosso ancora attuale: più il sistema automatizza il lavoro ordinario, più alla persona restano i casi rari e difficili, proprio quelli per cui è complicato mantenere allenamento e consapevolezza. Mica Endsley ha poi analizzato il problema nel lavoro “From Here to Autonomy”, collegandolo alla perdita di consapevolezza situazionale quando l’essere umano viene allontanato troppo dal processo.
La matrice pratica: rischio, reversibilità, osservabilità e tempo
L’articolo di Bajara Notes da cui nasce questa riflessione propone un criterio molto concreto per i team di sviluppo: guardare il costo dell’errore e la reversibilità dell’azione. È una buona base, che possiamo estendere a qualsiasi progetto agentico con quattro domande.
- Quanto è grave un errore? Una bozza imperfetta non equivale a un bonifico errato.
- L’azione è reversibile? Rinominare un file con cronologia è diverso dal cancellare dati o inviare una comunicazione pubblica.
- L’errore è osservabile? Possiamo accorgercene con test, metriche o controlli automatici?
- Quanto tempo abbiamo per intervenire? Un alert utile dopo un’ora può essere inutile in un processo che produce danni in pochi secondi.
| Rischio e reversibilità | Modello consigliato | Esempio |
|---|---|---|
| Basso rischio, facile annullamento | Human-on-the-loop | Ordinare documenti interni con cronologia delle modifiche |
| Rischio medio, errore rilevabile prima dell’impatto | On-the-loop con soglie ed escalation | Aggiornare campi non critici del CRM e isolare i casi incerti |
| Rischio alto o annullamento costoso | Human-in-the-loop | Concedere un rimborso, pubblicare un listino, inviare un contratto |
| Impatto critico o irreversibile | Più controlli umani e separazione dei ruoli | Pagamento, terapia, rilascio in produzione o decisione sul personale |
Otto esempi concreti di human-in-the-loop
1. Email a clienti e comunicazioni pubbliche
L’agente raccoglie i dati, prepara il testo e suggerisce i destinatari. Una persona verifica tono, fatti, allegati e lista di invio. È un controllo necessario soprattutto per crisi, reclami, variazioni di prezzo e comunicazioni legali.
2. Rimborsi, pagamenti e ordini
L’AI può controllare policy e documenti, ma l’azione che muove denaro richiede autorizzazione. Si può introdurre una soglia: piccoli rimborsi standardizzati vengono gestiti automaticamente; quelli anomali o sopra un importo definito arrivano a un responsabile.
3. Selezione del personale
Un agente può riordinare candidature e mettere in evidenza competenze dichiarate. Non dovrebbe trasformare un punteggio opaco in un rifiuto automatico. Il recruiter deve poter vedere i dati usati, correggere il risultato e valutare elementi che il sistema non conosce.
4. Sanità e percorsi di cura
L’AI può segnalare una possibile anomalia o preparare un riepilogo clinico; diagnosi e terapia richiedono giudizio professionale. Nel mio approfondimento su AI e ruolo del medico il punto centrale è proprio questo: supporto e sostituzione non sono la stessa cosa.
5. Contratti e pareri legali
L’agente confronta clausole, segnala differenze e propone una bozza. Un professionista controlla interpretazione, giurisdizione e rischio prima che il documento venga condiviso o firmato.
6. Deploy e modifiche a database di produzione
L’agente può scrivere codice, test e documentazione in un ambiente isolato. Il passaggio in produzione, una migrazione di dati o la modifica di credenziali richiedono un gate umano, spesso con una seconda approvazione.
7. Decisioni su credito, assicurazioni e frodi
Il sistema può ordinare i casi per rischio. Se blocca un conto, rifiuta una pratica o modifica un premio, serve un riesame effettivo: non una firma automatica su un punteggio incomprensibile.
8. Pubblica amministrazione e servizi essenziali
Un agente può verificare la completezza di una domanda e preparare l’istruttoria. La decisione che incide su diritti, benefici o accesso a un servizio deve restare contestabile e attribuita a un responsabile. È un’applicazione concreta del tema affrontato nell’articolo sull’intelligenza artificiale nella Pubblica Amministrazione.
Otto esempi concreti di human-on-the-loop
1. Classificazione di documenti interni
L’agente assegna cartelle e metadati. Il supervisore controlla campioni settimanali e riceve un alert se aumenta la percentuale di documenti classificati con bassa confidenza.
2. Arricchimento del CRM in modalità reversibile
L’agente completa settore, dimensione e informazioni pubbliche sulle aziende, senza modificare campi critici. Ogni variazione è registrata e può essere annullata; i conflitti vengono inviati a una persona.
3. Preparazione di report ricorrenti
L’AI raccoglie dati da più fonti e genera una sintesi interna. Il responsabile non approva ogni report, ma controlla indicatori di qualità, citazioni e anomalie. Se il documento deve uscire dall’azienda, si aggiunge un gate.
4. Ricerca documentale con escalation
L’agente cerca informazioni, confronta fonti e produce una risposta con link verificabili. Se le fonti sono insufficienti o in conflitto, non improvvisa: chiede aiuto.
5. Sviluppo software in ambienti isolati
L’agente crea test, documentazione o componenti standard su un branch separato. La pipeline automatica controlla il codice e il team esamina le eccezioni. I permessi non includono il rilascio autonomo in produzione.
6. Assistenza clienti per domande standard
Il sistema risponde usando una base di conoscenza approvata, ma passa a un operatore reclami, minacce, richieste economiche, dati sensibili e casi con bassa confidenza. Il supervisore osserva tasso di escalation e correzioni.
7. Gestione di file e fogli di calcolo
Un agente riordina righe, normalizza formati e compila campi derivabili, lavorando su una copia o con cronologia attiva. La persona controlla il risultato complessivo e può ripristinare la versione precedente.
Nel blog trovi anche cinque esempi pratici dell’agente Genspark e una prova di Claude Cowork in tre attività concrete.
8. Monitoraggio tecnico e manutenzione
L’agente individua pattern insoliti, apre ticket e applica correzioni già approvate su sistemi non critici. Se supera una soglia di costo, tocca un servizio sensibile o incontra un evento mai visto, si ferma e chiama il tecnico.
Il modello migliore è spesso ibrido e dinamico
In-the-loop e on-the-loop non devono essere due etichette assegnate una volta per tutte. Lo stesso agente può cambiare modalità a seconda del caso.
- Una risposta informativa standard può partire in modalità on-the-loop; un reclamo passa in-the-loop.
- Un rimborso entro 20 euro e conforme alla policy può essere automatico; un importo maggiore richiede approvazione.
- Una modifica su un ambiente di test può essere sorvegliata; il deploy in produzione richiede un gate.
- Una ricerca con fonti concordanti può proseguire; fonti in conflitto attivano l’escalation.
- Dopo una serie di anomalie, il sistema può retrocedere automaticamente da on-the-loop a in-the-loop.
Questa è la vera maturità agentica: non concedere autonomia in blocco, ma costruire una scala di autonomia legata a condizioni osservabili.
Che cosa dice la ricerca sull’interazione tra persone e automazione
Il paper di Parasuraman, Sheridan e Wickens “A model for types and levels of human interaction with automation” propone di non considerare l’automazione come un interruttore acceso o spento. Un sistema può automatizzare in misura diversa raccolta delle informazioni, analisi, scelta e azione. È esattamente ciò che serve per progettare un agente: possiamo lasciargli cercare e confrontare, ma mantenere umana la decisione finale.
Le “Guidelines for Human-AI Interaction” di Amershi e colleghi, presentate alla conferenza CHI 2019 dell’ACM, ricordano che un buon sistema deve rendere chiaro che cosa sa fare, mostrare informazioni contestuali, permettere correzioni e sostenere un controllo umano coerente nel tempo.
Ben Shneiderman, nel lavoro “Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy”, contesta l’idea che molta automazione implichi necessariamente poco controllo umano. Si possono progettare sistemi con alta automazione e alto controllo: l’agente svolge molto lavoro, ma le persone mantengono comprensione, responsabilità e capacità d’intervento.
Anche l’AI Risk Management Framework 1.0 del NIST insiste su governance, mappatura del contesto, misurazione e gestione del rischio. Non prescrive un unico livello di autonomia: chiede di collegare controlli e responsabilità all’impatto concreto del sistema.
AI Act e supervisione umana: che cosa cambia
Il Regolamento europeo sull’intelligenza artificiale, Regolamento (UE) 2024/1689, dedica l’articolo 14 alla supervisione umana dei sistemi ad alto rischio. È importante non generalizzare: la disposizione riguarda quella specifica categoria di sistemi, non qualunque chatbot o agente.
Il principio, però, è utile a ogni progetto serio. La supervisione deve consentire alle persone di comprendere capacità e limiti, riconoscere anomalie, evitare un affidamento automatico eccessivo, interpretare correttamente l’output, ignorarlo o annullarlo e fermare il sistema. Una casella da spuntare non soddisfa questo obiettivo se l’operatore non ha informazioni, autorità o tempo per agire.
Per approfondire il contesto organizzativo, rimando anche alla guida sulla formazione AI in azienda e AI Act e all’articolo sulle decisioni artificiali che possono aiutare o distorcere le scelte.
Come progettare una supervisione che funzioni davvero
- Definire le azioni consentite. Leggere, proporre, scrivere, inviare, acquistare e cancellare non devono avere gli stessi permessi.
- Stabilire i gate. Importi, categorie di dati, destinatari, strumenti e condizioni che richiedono approvazione.
- Mostrare il contesto. Il supervisore deve vedere fonti, passaggi, incertezze e conseguenze dell’azione.
- Costruire escalation reali. L’agente deve saper dire “non lo so” e passare il caso alla persona giusta.
- Registrare tutto. Prompt, strumenti usati, dati consultati, output, approvazioni, modifiche e identità di chi interviene.
- Preparare l’arresto. Un pulsante, una regola automatica o un limite di spesa devono fermare il processo prima che l’anomalia si moltiplichi.
- Testare anche i casi brutti. Dati mancanti, istruzioni in conflitto, prompt injection, servizi non disponibili e richieste fuori policy.
- Misurare gli esiti. Non soltanto quante attività sono state completate, ma errori, danni evitati, correzioni, escalation e tempo umano recuperato.
I due fallimenti opposti da evitare
Il primo è mettere una persona dentro ogni passaggio. Dopo cento conferme al giorno, l’approvazione diventa un riflesso. L’agente sembra controllato, ma l’essere umano fa soltanto clic. È la cosiddetta automation bias: tendiamo ad accettare il suggerimento della macchina, soprattutto quando arriva spesso e sembra plausibile.
Il secondo fallimento è mettere una persona “sopra” un processo che non può davvero vedere o fermare. Una dashboard piena di numeri non è supervisione se gli indicatori non mostrano il rischio, gli avvisi arrivano tardi o l’operatore non ha l’autorità per intervenire.
La domanda giusta non è quindi “c’è un umano?”. È: quale decisione può prendere, con quali informazioni e prima di quale conseguenza?
Una checklist per decidere domani mattina
Prima di attivare un agente, classifica ogni azione con queste domande:
- può causare un danno economico, legale, fisico o reputazionale?
- coinvolge dati personali, credenziali o categorie sensibili?
- l’azione è visibile all’esterno?
- possiamo annullarla in pochi minuti?
- esiste una metrica capace di rivelare un errore?
- il supervisore può intervenire prima che il danno si propaghi?
- l’agente sa riconoscere l’incertezza ed effettuare un’escalation?
- chi risponde del risultato è chiaramente identificato?
Se il danno potenziale è alto, l’azione poco reversibile o il tempo d’intervento breve, scegli human-in-the-loop. Se rischio e impatto sono contenuti, l’errore è osservabile e il ripristino semplice, puoi valutare human-on-the-loop. Se non puoi rispondere alle domande, non aumentare l’autonomia: prima rendi il processo comprensibile.
Il ruolo umano non sparisce: cambia livello
Con gli agenti AI l’umano non deve necessariamente controllare ogni riga, ogni file o ogni messaggio. Deve progettare il perimetro, definire le eccezioni, osservare gli effetti e assumersi la responsabilità delle decisioni importanti.
Il modello corretto non è “AI libera” contro “AI al guinzaglio”. È un sistema in cui l’autonomia cresce soltanto quando aumentano test, tracciabilità, reversibilità e capacità di intervento.
In altre parole: human-in-the-loop quando serve consenso; human-on-the-loop quando serve supervisione; mai human-out-of-the-loop per distrazione.
Domande frequenti
Qual è la differenza tra human-in-the-loop e human-on-the-loop?
Nel modello human-in-the-loop una persona deve approvare o correggere prima che l’agente compia un’azione sensibile. Nel modello human-on-the-loop l’agente opera entro limiti stabiliti, mentre una persona monitora risultati e anomalie e può intervenire.
Human-on-the-loop significa che l’AI lavora senza controllo?
No. Servono log, metriche, controlli a campione, alert, soglie ed efficaci meccanismi di arresto. Senza questi strumenti il sistema rischia di essere human-out-of-the-loop.
Quando è obbligatoria l’approvazione umana?
È prudente renderla obbligatoria per azioni ad alto impatto o difficili da annullare: pagamenti, decisioni sul personale, salute, contratti, sicurezza, servizi essenziali, pubblicazione esterna e modifiche critiche in produzione.
Si può cambiare livello di autonomia in base al caso?
Sì. È spesso la soluzione migliore: casi standard e reversibili procedono sotto supervisione; importi elevati, bassa confidenza, anomalie o dati sensibili attivano un gate umano.
Quali strumenti servono per supervisionare un agente AI?
Permessi minimi, audit log, dashboard, alert, soglie di costo e rischio, versionamento, rollback, escalation e un arresto immediato. Il supervisore deve anche ricevere contesto sufficiente per valutare le azioni.
Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa
Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.
