Scrivere un libro con Claude Fable: esperimento, rischi e metodo

, , ,

La domanda non è più se un modello linguistico possa produrre molte pagine di testo. Quello lo abbiamo già visto. La domanda più interessante, e più scomoda, è un’altra: che cosa succede quando chiediamo a un’AI di leggere i nostri lavori precedenti, capirne i filoni, proporre un nuovo libro e consegnarci un file Word quasi pronto?

Nel video ho fatto proprio questo esperimento con Claude Fable: ho caricato 21 miei libri, ho chiesto al modello di analizzarli e gli ho fatto progettare un nuovo volume. Il risultato è stato sorprendente, ma non nel senso banale del “l’AI scrive al posto tuo”. Il punto è più serio: scrivere un libro con Claude Fable è tecnicamente possibile, ma pubblicarlo senza una revisione umana profonda sarebbe un errore professionale, autoriale e forse anche legale.

La macchina può proporre struttura, capitoli, casi d’uso, appendici, biografia e perfino una copertina. L’autore, però, resta responsabile di intenzione, verifiche, tono, fonti, esempi, diritti e scelta finale. In pratica: l’AI può diventare una redazione assistita, non una delega cieca.

Guarda l’esperimento con Claude Fable

Nel video mostro il percorso completo: dalla cartella con i libri alla proposta editoriale, fino al documento Word di circa 40 pagine e alla copertina generata con avatar.

Che cos’è Claude Fable 5 e perché questo test conta

Claude Fable 5 è il modello avanzato di Anthropic presentato come una versione accessibile della famiglia Mythos, pensata per compiti lunghi, documenti complessi, analisi articolate e lavoro professionale. Nel lancio ufficiale di Claude Fable 5 e Mythos 5, Anthropic descrive Fable 5 come un modello adatto a workflow estesi e document-heavy; nella documentazione per sviluppatori su Fable 5 e Mythos 5 chiarisce anche che alcuni comportamenti e pattern di prompting sono specifici di questi modelli. Qui non basta generare una risposta brillante: bisogna tenere insieme molte informazioni, molte istruzioni e una struttura coerente.

Per questo l’esperimento del libro è interessante. Non si tratta di chiedere “scrivimi un saggio sull’intelligenza artificiale”, cosa che produrrebbe quasi certamente un testo generico. Il test era più duro: leggere un archivio personale, riconoscere ricorrenze editoriali e proporre un tema nuovo ma coerente con il posizionamento dell’autore.

Su questo blog ho già ragionato su skill per Claude e rischi di sicurezza e su che cosa stanno costruendo davvero le persone con Claude. Qui il caso è ancora più delicato, perché tocca identità, stile, competenza e responsabilità autoriale.

Il prompt: non “scrivi un libro”, ma “capisci che autore sono”

Il primo passaggio è stato caricare 21 libri già pubblicati o comunque legati ai miei temi: LinkedIn, comunicazione digitale, uso consapevole della tecnologia, intelligenza artificiale, formazione, lavoro. A Claude Fable ho chiesto di analizzarli, riconoscere i filoni principali e propormi un nuovo libro.

Il modello ha restituito alcune alternative. Una riguardava la ricerca del lavoro, un’altra l’intelligenza artificiale nella Pubblica Amministrazione, in particolare nei piccoli comuni. Ho scelto questa seconda strada perché intercetta un tema reale: enti locali con molte pratiche ripetitive, poco personale, cittadini che chiedono risposte chiare e una forte necessità di formazione.

Non è un caso che sul sito ci siano già risorse su corsi AI per Comuni e sull’intelligenza artificiale nella Pubblica Amministrazione. Fable ha individuato un territorio editoriale plausibile perché aveva materiale sufficiente per vedere continuità e spazio di sviluppo.

Che cosa ha prodotto davvero l’AI

Dopo la scelta del tema, ho alzato il livello della richiesta: volevo un libro con riferimenti, link, studi, casi d’uso, tono coerente, taglio pratico, biografia, copertina e un file Word completo. Il modello ha lavorato per qualche minuto e ha generato un documento strutturato di circa 40 pagine.

Dentro c’erano:

  • un indice coerente con il tema;
  • un’introduzione già leggibile;
  • capitoli dedicati ai casi d’uso;
  • una parte pratica in linea con il taglio formativo richiesto;
  • riferimenti e link da controllare;
  • una bozza di copertina;
  • una biografia autore;
  • una versione espansa con appendici e sezioni aggiuntive.

Il dettaglio più straniante è stato vedere un testo che, almeno in superficie, sembrava scritto “come me”, ma non da me. Questo è il passaggio che molti sottovalutano: l’AI non produce solo contenuto, produce anche una simulazione di familiarità. Ed è proprio lì che bisogna rallentare.

Il vero rischio: scambiare una bozza credibile per un libro finito

Il rischio non è che Claude Fable scriva male. Anzi, il problema è quasi opposto: può scrivere abbastanza bene da farci abbassare la guardia. Un documento ordinato, impaginato e lungo dà una sensazione di compiutezza. Ma un libro non è soltanto un contenitore di capitoli.

Un libro richiede almeno quattro livelli di revisione:

  • revisione sostanziale: la tesi regge? Il libro dice qualcosa di necessario?
  • verifica delle fonti: link, dati, studi e citazioni esistono e sono interpretati correttamente?
  • controllo autoriale: esempi, giudizi e posizioni sono davvero dell’autore?
  • revisione editoriale: ritmo, ripetizioni, tono, promesse e struttura sono all’altezza di una pubblicazione?

Questo vale anche per workflow più brevi. Negli agenti AI in azienda, la tentazione è simile: se un sistema esegue molti passaggi in autonomia, sembra più maturo di quanto sia. Ma automazione non significa assenza di controllo.

Amazon KDP e contenuti generati dall’AI: attenzione alla disclosure

Nel video cito la tentazione di caricare tutto su Amazon KDP. È proprio il gesto da evitare se non c’è stata una revisione seria. Le linee guida ufficiali di Amazon KDP sui contenuti AI richiedono di dichiarare i contenuti generati dall’intelligenza artificiale quando si pubblica o si ripubblica un libro. KDP distingue tra contenuti AI-generated e AI-assisted: la differenza non è cosmetica, perché cambia il tipo di responsabilità editoriale.

C’è anche il tema del diritto d’autore. Il U.S. Copyright Office ha dedicato più report al rapporto tra AI e copyright, sottolineando il ruolo della contribuzione umana nella proteggibilità delle opere. E l’Authors Guild raccomanda agli autori prudenza su originalità, contratti, trasparenza e uso di testo generato da AI.

Tradotto in modo pratico: se usi Claude Fable per scrivere un libro, non devi solo chiederti “è venuto bene?”. Devi chiederti anche:

  • quali parti sono mie e quali sono generate?
  • le fonti sono verificabili?
  • il testo contiene esempi inventati o generalizzazioni eccessive?
  • ho il diritto di usare immagini, copertina, avatar e materiali caricati?
  • sto rispettando le regole della piattaforma su cui pubblico?

Un metodo pratico per usare Fable nella scrittura di un libro

Il modo più sensato di usare un modello come Fable non è chiedergli di sostituire l’autore, ma di lavorare come assistente editoriale molto veloce. Un flusso ragionevole può essere questo.

1. Dai un archivio, non una richiesta generica

Carica testi, appunti, scalette, articoli, trascrizioni, slide e materiali realmente tuoi. Più il modello vede il tuo territorio, meno tende a produrre il solito libro generico sull’AI.

2. Chiedi prima una diagnosi editoriale

Prima della scrittura, fai analizzare i filoni: temi ricorrenti, pubblico, lacune, angoli già coperti, argomenti ancora scoperti. Questa fase è più importante della generazione dei capitoli.

3. Fatti proporre più tesi, non solo titoli

Un buon titolo non basta. Chiedi al modello di spiegare perché quel libro dovrebbe esistere, per chi è utile, quali domande risolve e che cosa aggiunge rispetto ai tuoi contenuti precedenti.

4. Pretendi casi d’uso verificabili

Gli esempi sono la parte più fragile dei testi AI. Possono sembrare concreti e invece essere assemblaggi verosimili. Chiedi casi realistici, ma poi verifica nomi, dati, procedure e riferimenti.

5. Trasforma la bozza in materia prima

Una bozza di 40 pagine non è un libro finito. È una base di lavoro. Va tagliata, riscritta, contraddetta, integrata con esperienza diretta e aggiornata con fonti primarie.

Dove Fable è davvero utile

In questo tipo di lavoro, Claude Fable può essere molto utile per:

  • mappare un archivio di contenuti personali;
  • riconoscere filoni editoriali ricorrenti;
  • generare ipotesi di indice;
  • trasformare trascrizioni e appunti in capitoli;
  • proporre casi d’uso da verificare;
  • preparare appendici, checklist e materiali operativi;
  • creare una prima bozza di quarta di copertina o scheda libro;
  • evidenziare incoerenze tra pubblico, promessa e contenuto.

È lo stesso principio del second brain personale con LLM e Obsidian: l’AI diventa più utile quando lavora su un patrimonio informativo organizzato, non quando deve indovinare tutto partendo da una frase.

Dove invece l’autore deve restare al comando

Ci sono parti che non delego. La tesi centrale, prima di tutto. Se un libro prende posizione su scuola, lavoro, Pubblica Amministrazione o responsabilità dell’AI, quella posizione deve essere scelta da una persona. Anche gli esempi professionali devono essere filtrati: non basta che siano plausibili, devono essere corretti, rispettosi e utili.

Infine c’è la voce. Un modello può imitare strutture, lessico, ritmo e ricorrenze. Ma la voce non è solo stile: è responsabilità. È decidere che cosa lasciare fuori, che cosa non promettere, quando dire “non lo so” e quando fermarsi.

In pratica: il libro si può fare, ma non con il pilota automatico

L’esperimento con Claude Fable mostra una cosa molto concreta: siamo entrati nella fase in cui un modello può produrre un pacchetto editoriale completo, non solo qualche paragrafo. Può leggere 21 libri, proporre una nicchia, scrivere capitoli, espandere sezioni, impaginare un file e generare una copertina.

Ma proprio perché può farlo, il ruolo umano diventa più importante. Non serve più essere veloci a riempire pagine. Serve essere severi nel decidere quali pagine meritano di esistere.

Per questo non pubblicherò quel saggio senza una revisione feroce. L’AI ha fatto un ottimo lavoro come acceleratore. Non le affido, però, il tasto “pubblica”.

FAQ su Claude Fable e scrittura di libri con AI

Claude Fable può scrivere un libro intero?

Sì, può generare una bozza molto estesa e strutturata, soprattutto se riceve materiali, istruzioni e contesto. Questo però non significa che il testo sia automaticamente pronto per la pubblicazione.

Un libro scritto con l’AI si può pubblicare su Amazon KDP?

È possibile pubblicare contenuti che includono testo generato dall’AI, ma Amazon KDP richiede la dichiarazione dei contenuti AI-generated. Inoltre restano a carico dell’autore controllo, diritti, qualità e responsabilità del materiale pubblicato.

Che differenza c’è tra AI-generated e AI-assisted?

In generale, AI-generated indica contenuto creato dall’intelligenza artificiale; AI-assisted indica un lavoro scritto dall’autore con supporto dell’AI per attività come brainstorming, revisione o miglioramento. La distinzione va valutata caso per caso e secondo le regole della piattaforma usata.

Il testo generato da Claude è coperto da copyright?

La questione dipende dalla giurisdizione e dal livello di contributo umano. Le indicazioni del U.S. Copyright Office insistono sul ruolo della creatività umana: un output totalmente generato da macchina è più problematico di un’opera in cui l’autore seleziona, organizza, riscrive e contribuisce in modo sostanziale.

Come usare Claude Fable senza perdere identità autoriale?

Conviene usarlo per analisi, scalette, bozze e revisione, mantenendo umana la tesi, la selezione degli esempi, la verifica delle fonti e la riscrittura finale. L’AI deve accelerare il lavoro, non firmarlo al posto dell’autore.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Inviaci email

/0 Commenti/da

Ha ancora senso Google Alerts nell’era dell’AI e degli agenti?

, ,

Ogni mattina, in migliaia di caselle di posta, arriva la stessa email: tre risultati di Google Alerts, due dei quali duplicati e uno completamente fuori tema. Nel frattempo un agente AI potrebbe aver già letto centinaia di fonti, scartato il rumore e preparato una sintesi leggibile in trenta secondi. È la domanda che mi sento fare sempre più spesso da chi si occupa di comunicazione, SEO o brand reputation: ha ancora senso usare Google Alerts quando esistono motori di ricerca basati sull’intelligenza artificiale e veri agenti autonomi capaci di monitorare il web al posto nostro?

La risposta breve è: dipende da cosa dobbiamo monitorare, da quanto in fretta ci serve saperlo e da quanto siamo disposti a delegare. La risposta lunga richiede di capire come funziona oggi Google Alerts, dove si ferma, e che cosa cambia davvero con i motori AI e con gli agenti.

Che cos’è rimasto di Google Alerts nel 2026

Google Alerts nasce come strumento semplice: si imposta una query, si sceglie la frequenza (in tempo reale, una volta al giorno, una volta alla settimana) e si ricevono email quando compaiono nuovi risultati pertinenti su Ricerca Google. Il funzionamento, spiegato nella guida ufficiale di Google, non è cambiato di molto rispetto a quando lo strumento fu lanciato: resta gratuito, immediato da configurare, ma anche piuttosto rigido.

Negli anni Google ha investito pochissimo su questo prodotto. Non si integra con AI Overviews o con AI Mode, non distingue una menzione positiva da una negativa, non raggruppa le notizie per argomento, non impara dalle correzioni. È rimasto, di fatto, fermo a un’epoca precedente ai motori di ricerca conversazionali.

I limiti reali di Google Alerts oggi

  • Copertura parziale delle fonti. Fatica a coprire bene social network, forum verticali, gruppi Telegram o Facebook, marketplace: proprio i luoghi dove nascono molte crisi reputazionali.
  • Ritardo variabile. Anche in modalità “in tempo reale” possono passare ore o giorni prima che un contenuto già indicizzato generi una notifica.
  • Duplicati e rumore. La stessa notizia ripresa da decine di aggregatori riempie la casella di posta di link quasi identici.
  • Nessuna sintesi né priorità. Lo strumento non dice se una menzione è rilevante, virale o pericolosa: il lavoro di lettura e selezione resta interamente umano.
  • Nessuna azione. Si limita a notificare: non propone una risposta, non avvisa un collega, non aggiorna un foglio di lavoro, non apre un ticket.

Un esempio concreto: un’agenzia che monitora le menzioni di un brand riceve anche quaranta email al giorno, di cui solo tre davvero rilevanti, e nonostante questo si accorge in ritardo di una discussione nata su Reddit, perché quel tipo di fonte non viene intercettato con la stessa rapidità di una testata giornalistica.

Che cosa cambia con i motori di ricerca basati sull’AI

Con AI Overviews e AI Mode, Google non si limita più a restituire dieci link blu: costruisce una sintesi che cita le fonti. Strumenti come Perplexity vanno nella stessa direzione, ma capovolgono l’approccio di Alerts: invece di aspettare una notifica, si fa una domanda diretta e si ottiene una risposta aggiornata con le fonti citate. Nel mio articolo su come ho usato Perplexity per una ricerca mirata il principio è lo stesso applicato a un altro obiettivo: interrogare, non aspettare.

Questo cambiamento non riguarda solo come cerchiamo le informazioni, ma anche come veniamo trovati. Se le risposte AI sintetizzano il web al posto dell’utente, capire come il proprio brand o i propri contenuti vengono citati in quelle risposte diventa una nuova forma di monitoraggio, quella che nel mio approfondimento su SEO, GEO e AEO descrivo come necessità di ottimizzare non solo per l’algoritmo di ranking, ma per il modo in cui un modello linguistico riassume e cita le fonti.

Che cosa cambia davvero con gli agenti AI

I motori di ricerca AI rispondono a una domanda quando la facciamo. Un agente va oltre: lavora su un programma, consulta più fonti in autonomia, incrocia i dati, scarta il rumore, scrive una sintesi e, se lo abilitiamo, compie un’azione, come inviare un’email o aggiornare una tabella. È qui che la faccenda si fa interessante, e anche più delicata.

Più un agente passa dal “dire” al “fare”, più serve decidere quanto controllo umano mantenere. Nel mio articolo su human-in-the-loop e human-on-the-loop entro nel dettaglio di questa distinzione: per una sintesi giornaliera delle menzioni può bastare un supervisore che controlla a campione (on-the-loop), ma se l’agente deve rispondere pubblicamente a una recensione negativa, quel passaggio dovrebbe restare sotto approvazione umana (in-the-loop).

Quattro esempi pratici di monitoraggio con agenti AI

  • Rassegna stampa quotidiana automatica. L’agente legge decine di fonti ogni mattina, produce una sintesi con priorità e sentiment, e segnala alla persona solo le anomalie reali, invece di scaricare tutto il lavoro di lettura sull’utente.
  • Monitoraggio prezzi e attività dei concorrenti. L’agente controlla ogni giorno pagine e listini, e avvisa solo quando c’è una variazione significativa, non a ogni minima modifica del codice HTML.
  • Social listening esteso. L’agente copre Reddit, forum di settore, gruppi pubblici e community verticali che Google Alerts intercetta con difficoltà o in ritardo.
  • Monitoraggio della propria presenza nelle risposte AI. L’agente interroga periodicamente ChatGPT, Perplexity e AI Overviews con le domande tipiche del proprio settore, per verificare se e come il brand viene citato: un controllo che nessun Alert tradizionale può fare, perché non guarda “dentro” la risposta generata dal modello.

Per chi deve poi mettere in relazione documenti diversi raccolti durante il monitoraggio, come rassegne stampa, PDF e screenshot, uno strumento come Gemini Notebook può aiutare a incrociare fonti eterogenee invece di leggerle una per una.

Google Alerts, motori AI e agenti a confronto

Aspetto Google Alerts Motori di ricerca AI Agenti AI di monitoraggio
Copertura fonti Limitata, soprattutto su social e forum Ampia, ma legata al momento della domanda Ampia e programmabile su misura
Tempestività Da ore a giorni Immediata, ma solo su richiesta Continua, secondo la frequenza impostata
Sintesi e priorità Assente Buona sulla singola risposta Costruita su misura, con soglie e priorità
Azioni automatiche Nessuna Nessuna, resta conversazionale Possibili, da presidiare con attenzione
Costo Gratuito Gratuito o abbonamento Tempo di configurazione o costo del servizio
Controllo richiesto Minimo Minimo Da progettare (in-the-loop o on-the-loop)

Quando ha ancora senso usare Google Alerts

Non tutto merita un agente. Per un uso personale, per un tema poco competitivo, per un primo filtro gratuito su un argomento che non è ancora una priorità, Google Alerts resta uno strumento onesto: costa zero, si imposta in due minuti e, come rete a maglie larghe, qualcosa la intercetta comunque. Il problema nasce quando lo si usa come unico strumento per la reputazione di un brand, per la sicurezza di un’azienda o per capire in tempo reale una crisi in corso: lì il divario con motori AI e agenti diventa evidente, come racconto anche nella guida su come gestire la reputazione online, dove il monitoraggio è solo il primo passo di un processo più ampio.

Come costruire oggi un sistema di monitoraggio ibrido

  • Definire cosa conta davvero. Nome del brand, prodotti, dirigenti, hashtag, concorrenti diretti: non tutto merita lo stesso livello di attenzione.
  • Tenere Google Alerts come rete di base gratuita. Non va abbandonato, va ridimensionato al ruolo che può davvero sostenere.
  • Affiancare un motore AI per le domande puntuali. Utile quando serve una risposta rapida su un tema specifico, non una sorveglianza continua.
  • Costruire o adottare un agente per le fonti scoperte. Social, forum e community restano il punto debole di Alerts e il punto di forza di un agente ben configurato.
  • Scegliere il livello di supervisione giusto. Sintesi giornaliera in modalità on-the-loop, approvazione umana obbligatoria per ogni azione pubblica o sensibile.
  • Misurare che cosa si sarebbe perso. Confrontare periodicamente i risultati di Alerts con quelli dell’agente aiuta a capire quanto valore reale aggiunge il cambio di strumento.

Domande frequenti

Google Alerts è ormai inutile?

No, ma da solo non basta più per chi ha bisogno di rapidità, copertura ampia o sintesi. Resta valido come rete gratuita di base per temi a bassa priorità.

Gli agenti AI sostituiscono completamente Google Alerts?

Possono coprire molti dei suoi limiti, ma vanno progettati con attenzione: senza soglie, log e supervisione rischiano di generare falsi allarmi o azioni indesiderate.

Serve saper programmare per costruire un agente di monitoraggio?

Non sempre: esistono strumenti e piattaforme che permettono di collegare fonti, regole di sintesi e notifiche senza scrivere codice, anche se una configurazione più su misura richiede competenze tecniche.

Google Alerts copre bene i social network?

No, è uno dei suoi limiti più noti: social, forum e gruppi privati vengono intercettati in modo parziale e spesso in ritardo rispetto a siti di informazione indicizzati.

Qual è il rischio principale nel delegare il monitoraggio a un agente?

Perdere il controllo su ciò che l’agente fa in autonomia. Per questo conviene distinguere sempre tra un ruolo di supervisione (on-the-loop) e uno di approvazione obbligatoria (in-the-loop) per le azioni più delicate.

La domanda giusta non è più “Alerts sì o no”

Google Alerts non è morto, ma nel 2026 ha smesso di essere sufficiente da solo. Ha ancora senso quando serve un primo filtro gratuito su un tema semplice; ne ha molto meno quando in gioco ci sono la reputazione di un brand, la velocità di reazione o la comprensione di come l’intelligenza artificiale parla di noi. La domanda giusta non è più se usare Alerts, ma quale combinazione di motori AI, agenti e supervisione umana meriti la nostra attenzione, che resta la risorsa più limitata di tutte.

/0 Commenti/da

Gemini Notebook legge documenti e immagini: 10 incroci utili per lavorare meglio

, , ,

Per mesi abbiamo usato NotebookLM soprattutto così: carichiamo un PDF, chiediamo un riassunto e ci sentiamo già molto produttivi.

È utile, certo. Ma è anche un modo piuttosto limitato di usare lo strumento.

Il vero salto avviene quando non gli affidiamo una sola fonte, ma materiali diversi: un documento e una fotografia, un contratto e una planimetria, una presentazione e i relativi grafici, un report tecnico e le immagini scattate durante un sopralluogo.

A quel punto l’intelligenza artificiale non deve semplicemente riassumere. Deve incrociare le fonti, individuare corrispondenze, segnalare differenze e costruire una lettura unitaria.

Dal 16 luglio 2026, tra l’altro, NotebookLM ha ufficialmente cambiato nome ed è diventato Gemini Notebook. Google lo presenta come lo stesso prodotto autonomo, ma maggiormente integrato nell’ecosistema Gemini e nei servizi dell’azienda (fonte: blog.google).

Che cosa può leggere Gemini Notebook?

Gemini Notebook è un assistente di ricerca basato sulle fonti selezionate dall’utente. Può lavorare su testi, grafici, immagini e audio, restituendo risposte corredate da citazioni che permettono di risalire ai materiali utilizzati (fonte: Google Aiuto).

Tra i formati supportati troviamo:

  • PDF, Word, PowerPoint, CSV, Markdown ed ePub;
  • Google Docs, Presentazioni e Fogli;
  • file audio;
  • pagine Web;
  • video pubblici di YouTube con trascrizione;
  • immagini in formati come JPG, PNG, WebP, TIFF e HEIC (fonte: Google Aiuto).

Una precisazione importante: quando inseriamo l’indirizzo di una pagina Web, Gemini Notebook acquisisce principalmente il testo HTML. Le immagini presenti nella pagina non vengono automaticamente importate come fonti visuali. Per analizzarle conviene scaricarle, quando ne abbiamo il diritto, e caricarle separatamente.

Ecco dieci incroci che possono trasformare Gemini Notebook da riassuntore di PDF a vero assistente documentale.

1. Manuali tecnici e schemi

Immaginiamo di avere il manuale di una macchina industriale e alcune immagini con lo schema dei componenti.

Gemini Notebook può collegare le istruzioni scritte agli elementi rappresentati nel disegno, aiutandoci a capire:

  • quale componente viene citato in un determinato passaggio;
  • dove si trova fisicamente;
  • quale sequenza operativa seguire;
  • se lo schema appare coerente con le istruzioni;
  • quali avvertenze riguardano quella specifica parte.

È particolarmente utile quando un manuale usa sigle come “modulo A7” o “valvola V12”, mentre lo schema mostra decine di elementi quasi identici.

Prompt di esempio

Analizza il manuale tecnico e lo schema allegato. Individua nello schema tutti i componenti citati nella procedura di manutenzione descritta alle pagine 20-25. Crea una sequenza passo-passo. Per ogni passaggio indica il componente, la fonte, la pagina e gli eventuali dubbi. Non inventare collegamenti non verificabili.

Non sostituisce il tecnico qualificato, ma può ridurre parecchio il tempo perso a saltare continuamente dal testo al disegno.

2. Contratti e planimetrie

Un contratto di locazione, un capitolato o un regolamento possono contenere riferimenti a stanze, aree comuni, confini, pertinenze e destinazioni d’uso.

La planimetria mostra gli spazi. Il contratto stabilisce gli obblighi.

Incrociando le due fonti possiamo chiedere a Gemini Notebook di:

  • associare le clausole alle aree rappresentate;
  • distinguere spazi privati e comuni;
  • trovare obblighi di manutenzione collegati a locali specifici;
  • evidenziare zone presenti nella planimetria ma non citate nel contratto;
  • segnalare descrizioni potenzialmente ambigue.

Prompt di esempio

Confronta il contratto con la planimetria. Crea una tabella con: area, clausole collegate, obblighi del locatore, obblighi del conduttore, eventuali incongruenze e informazioni mancanti. Se una corrispondenza è soltanto probabile, dichiaralo esplicitamente.

Il risultato è una mappa di orientamento, non un parere legale. Le interpretazioni contrattuali devono essere verificate da un professionista.

3. Fatture e fotografie dei prodotti

Una fattura sostiene che sono stati consegnati dieci prodotti di un certo modello. Le fotografie mostrano ciò che è realmente arrivato.

Gemini Notebook può aiutare a confrontare:

  • descrizione e aspetto del prodotto;
  • modello, colore e confezione;
  • quantità documentata e quantità visibile;
  • accessori dichiarati;
  • eventuali codici o numeri di serie leggibili;
  • differenze tra quanto fatturato e quanto fotografato.

Prompt di esempio

Confronta le righe della fattura con i prodotti visibili nelle fotografie. Per ogni riga indica se esiste una corrispondenza visiva, quali elementi la supportano e quali non possono essere verificati. Non considerare l’aspetto esteriore una prova definitiva di autenticità.

È un ottimo primo controllo. Non è invece uno strumento forense per certificare l’originalità di un prodotto.

4. Report di sopralluogo e fotografie del cantiere

Questo è uno dei casi più interessanti per tecnici, aziende edili, amministratori di condominio e responsabili della sicurezza.

Carichiamo:

  1. il report del sopralluogo;
  2. le fotografie del cantiere;
  3. eventualmente il capitolato o il cronoprogramma.

Gemini Notebook può costruire una matrice con:

  • problema segnalato;
  • immagine associata;
  • posizione;
  • livello di urgenza indicato nel report;
  • intervento previsto;
  • prove mancanti;
  • possibili contraddizioni tra testo e fotografie.

Prompt di esempio

Associa ogni criticità citata nel report alle fotografie pertinenti. Crea una tabella con descrizione, posizione, fotografia, intervento richiesto, priorità dichiarata e informazioni da verificare. Non stimare autonomamente la sicurezza strutturale.

Sul mio sito ho già raccolto diversi esempi di utilizzo dell’intelligenza artificiale nei cantieri, tra capitolati, progetti e controlli documentali.

5. Curriculum e certificati

Il curriculum racconta le competenze. I certificati dovrebbero documentarne almeno alcune.

Gemini Notebook può confrontare le due fonti per individuare:

  • certificazioni citate nel CV ma non documentate;
  • date di rilascio e scadenza;
  • enti certificatori;
  • corsi apparentemente duplicati;
  • competenze dichiarate senza evidenze allegate;
  • attestati non menzionati nel curriculum.

Prompt di esempio

Confronta il curriculum con gli attestati allegati. Non esprimere giudizi sulla persona. Elenca soltanto le competenze documentate, quelle dichiarate ma non documentate, le date di validità e gli elementi che richiedono verifica umana.

Questo utilizzo richiede particolare attenzione a privacy, minimizzazione dei dati e possibili discriminazioni. Non si dovrebbe chiedere all’AI di stabilire chi “merita” un lavoro partendo da una fotografia o da caratteristiche personali.

6. Presentazioni e grafici

Una slide può affermare che “le vendite sono esplose”. Il grafico potrebbe raccontare una storia un po’ meno entusiasmante.

Incrociando testo e visualizzazioni possiamo verificare:

  • se il titolo della slide riflette davvero i dati;
  • se gli assi partono da zero;
  • se vengono confrontati periodi equivalenti;
  • se le percentuali hanno una base chiara;
  • se mancano fonti;
  • se alcuni dati importanti sono stati esclusi dalla narrazione.

Prompt di esempio

Analizza le affermazioni contenute nella presentazione e confrontale con i grafici. Per ogni affermazione indica: dato che la supporta, fonte, eventuali limiti, possibili interpretazioni alternative e informazioni mancanti.

Gemini Notebook può anche trasformare le fonti in presentazioni, report e altri artefatti. Google precisa però che i contenuti generati possono includere inesattezze visive o fattuali (fonte: blog.google).

7. Regolamenti e infografiche

Molte organizzazioni trasformano regolamenti complessi in infografiche da distribuire a dipendenti, cittadini o clienti.

L’infografica deve essere semplice. Il rischio è che diventi troppo semplice.

Gemini Notebook può confrontare il documento originale con la sintesi grafica per trovare:

  • eccezioni eliminate;
  • scadenze errate;
  • obblighi presentati come facoltativi;
  • indicazioni prive di contesto;
  • semplificazioni potenzialmente fuorvianti.

Prompt di esempio

Verifica se l’infografica rappresenta correttamente il regolamento. Individua omissioni, semplificazioni e affermazioni che potrebbero generare equivoci. Cita per ogni osservazione il punto preciso del regolamento.

È un uso molto concreto per Pubbliche Amministrazioni, associazioni, scuole e uffici delle risorse umane.

8. Ricerche di mercato e immagini dei prodotti

Una ricerca di mercato parla di posizionamento, target, prezzo, differenziazione e comportamento dei concorrenti.

Le immagini dei prodotti mostrano come quei concetti si traducono nella realtà.

Possiamo chiedere a Gemini Notebook di confrontare:

  • promessa del marchio e confezione;
  • target dichiarato e linguaggio visuale;
  • posizionamento premium e qualità percepita;
  • claim presenti sul prodotto;
  • colori, simboli e informazioni in evidenza;
  • differenze tra concorrenti.

Prompt di esempio

Incrocia le conclusioni della ricerca di mercato con le immagini dei prodotti. Analizza soltanto elementi visibili e informazioni presenti nelle fonti. Distingui chiaramente tra osservazioni oggettive e interpretazioni di marketing.

Questo può diventare il punto di partenza per un’analisi del packaging, una presentazione commerciale o un workshop sul posizionamento.

9. Casi clinici e immagini mediche

È l’esempio che richiede più prudenza.

Gemini Notebook può essere usato per organizzare materiali clinici, confrontare un referto con la documentazione allegata, estrarre domande da rivolgere allo specialista o individuare differenze terminologiche tra più documenti.

Non dovrebbe invece essere usato per formulare diagnosi autonome o decidere terapie.

Un prompt prudente potrebbe essere:

Organizza le informazioni presenti nel caso clinico e nei referti. Non formulare diagnosi e non interpretare autonomamente le immagini mediche. Evidenzia eventuali differenze tra i documenti, termini da chiarire e domande da sottoporre allo specialista.

Google stessa ricorda che Gemini Notebook può commettere errori e invita a consultare professionisti qualificati per questioni mediche, legali o finanziarie (fonte: Google Aiuto).

10. Articoli di giornale e fotografie

Un articolo descrive un evento. Le fotografie ne mostrano soltanto una porzione, scelta da chi ha scattato o selezionato l’immagine.

Incrociare le due fonti può servire per:

  • verificare se la didascalia corrisponde a ciò che è visibile;
  • ricostruire la sequenza temporale;
  • distinguere fatti riportati e interpretazioni;
  • individuare oggetti, cartelli e luoghi citati nel testo;
  • confrontare versioni diverse dello stesso evento;
  • segnalare elementi presenti nella foto ma ignorati dall’articolo.

Prompt di esempio

Confronta il contenuto dell’articolo con le fotografie. Elenca soltanto gli elementi direttamente verificabili. Non identificare persone basandoti esclusivamente sul volto e non dedurre intenzioni o responsabilità dalle immagini.

È un esercizio molto utile anche in un corso di educazione ai media: l’immagine sembra una prova oggettiva, ma anch’essa è una selezione della realtà.

Il prompt universale per incrociare documenti e immagini

Per ottenere risultati utili non basta scrivere: “Analizza questi file”.

Meglio fornire un metodo.

Agisci come analista documentale.
Esamina tutte le fonti selezionate, comprese immagini, documenti, tabelle e grafici.
Obiettivo: [descrivi il risultato che ti serve].
Per ogni osservazione:

  1. indica la fonte;
  2. cita la pagina, la sezione o l’immagine;
  3. separa i fatti dalle interpretazioni;
  4. segnala informazioni mancanti o illeggibili;
  5. non inventare corrispondenze;
  6. usa la dicitura “non verificabile” quando le fonti non sono sufficienti.

Presenta il risultato in una tabella con le colonne: elemento, fonte testuale, fonte visuale, corrispondenza, anomalia, livello di certezza e verifica umana richiesta.

Il passaggio decisivo è l’ultimo: obbligare l’AI a dichiarare ciò che non sa.

Tre limiti da non dimenticare

La qualità delle immagini conta

Una fotografia sfocata, tagliata o scattata da un’angolazione sbagliata produce inevitabilmente un’analisi più debole. Lo stesso vale per scansioni storte, tabelle minuscole e schemi privi di legenda.

Le citazioni aiutano, ma non certificano la verità

Gemini Notebook usa citazioni testuali e visuali per mostrare da dove proviene una risposta. Questo rende il controllo più semplice, ma non trasforma automaticamente ogni interpretazione in un fatto corretto (fonte: Google Aiuto).

I dati sensibili non vanno caricati con leggerezza

Prima di inserire contratti, documenti sanitari, dati personali o informazioni aziendali riservate, bisogna verificare il tipo di account, le condizioni applicabili e le regole della propria organizzazione.

Google dichiara che i dati non vengono usati per addestrare Gemini Notebook, salvo l’invio di feedback. Per gli account Workspace ed Education qualificati, caricamenti, richieste e risposte non vengono utilizzati per addestrare i modelli e non sono sottoposti a revisione umana (fonte: Google Aiuto).

Il punto non è “leggere una foto”

La funzione più interessante non consiste nel descrivere un’immagine.

Quello può farlo ormai qualsiasi chatbot multimodale.

Il vero valore sta nel collegare l’immagine a un insieme controllato di documenti e nel chiedere all’AI di lavorare all’interno di quel perimetro.

Non più:

Che cosa vedi in questa fotografia?

Ma:

Che relazione c’è tra questa fotografia, il contratto, il report e la fattura che ti ho fornito?

È qui che Gemini Notebook diventa realmente utile nel lavoro quotidiano: quando passa dalla generica produzione di risposte all’analisi di fonti che abbiamo scelto noi.

Per approfondire lo strumento puoi consultare il mio corso Gemini Notebook per aziende e professionisti e il confronto tra Gemini e NotebookLM, utile per capire quale ambiente usare nei diversi scenari professionali.

Domande frequenti su Gemini Notebook e le immagini

Gemini Notebook può leggere direttamente le immagini?

Sì. Le immagini possono essere caricate come fonti autonome e utilizzate insieme agli altri materiali del notebook. Sono supportati diversi formati, tra cui JPG, PNG, WebP, TIFF e HEIC.

Può analizzare le immagini contenute in un PDF?

Google ha introdotto la capacità di rispondere a domande su immagini, diagrammi e grafici presenti nelle fonti. Il risultato dipende comunque dalla qualità e dalla leggibilità del documento (fonte: blog.google).

Incollando un sito vengono analizzate anche le fotografie?

No, non automaticamente. Per le pagine Web viene importato principalmente il contenuto testuale. Le immagini devono essere aggiunte separatamente.

Gemini Notebook può citare anche un’immagine?

Sì. Le risposte possono utilizzare testo e immagini provenienti dalle fonti come citazioni, consentendo all’utente di tornare al contenuto originale.

Può sostituire un medico, un avvocato o un tecnico?

No. Può organizzare, confrontare e sintetizzare le fonti, ma le decisioni professionali e le interpretazioni ad alto rischio richiedono una verifica qualificata.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un email

/0 Commenti/da

Empatia algoritmica: perché l’AI sembra capirci

, , ,

Apri un chatbot e scrivi: “Oggi è stata una giornata terribile”. La risposta arriva in pochi secondi: riconosce la fatica, non interrompe, non guarda il telefono e magari formula proprio la domanda che avresti voluto sentirti rivolgere da una persona.

È questa la forza dell’empatia algoritmica: un sistema di intelligenza artificiale può produrre parole che ci fanno sentire ascoltati, pur senza provare emozioni, avere un corpo o condividere davvero la nostra esperienza. La sensazione può essere autentica; l’empatia della macchina, invece, è una simulazione linguistica.

Il tema è stato rilanciato il 17 luglio 2026 da un intervento pubblicato su Il Fatto Quotidiano: forse, sostiene l’autore, dovremmo preoccuparci non soltanto del lavoro che l’AI trasformerà, ma anche del vuoto relazionale che gli algoritmi stanno riempiendo. È una provocazione utile. Ma per capirla bisogna evitare due scorciatoie: dire che “la macchina ci comprende davvero” e concludere che “la tecnologia ci rende automaticamente soli”.

Che cos’è davvero l’empatia algoritmica?

L’empatia umana comprende almeno due dimensioni. C’è una componente cognitiva: capire che cosa può provare un’altra persona. E c’è una componente affettiva: risuonare emotivamente con quell’esperienza. A queste si aggiungono la relazione, la responsabilità e la possibilità di agire nel mondo.

Un modello linguistico non vive nulla di tutto questo. Analizza le parole e il contesto, riconosce schemi ricorrenti e calcola quale risposta sia più plausibile e appropriata. Se scrivo “non dormo da tre notti e non riesco più a concentrarmi”, può associare il messaggio a stanchezza, stress o preoccupazione e rispondere con tono premuroso. Non significa che senta la mia stanchezza.

In pratica, l’empatia algoritmica combina tre capacità:

  • riconoscimento: individua segnali emotivi nel linguaggio e, in alcuni sistemi, nella voce o nelle immagini;
  • risposta: genera una frase coerente con lo stato emotivo ipotizzato;
  • personalizzazione: usa il contesto della conversazione e, quando previsto, ricordi e preferenze per rendere la risposta più vicina all’utente.

È una performance relazionale molto convincente. Ed è proprio per questo che va capita, non demonizzata.

Perché un chatbot può farci sentire ascoltati

Le persone non cercano soltanto informazioni. Cercano conferma, attenzione, parole per nominare ciò che provano. Un chatbot offre alcune condizioni che nelle relazioni quotidiane spesso scarseggiano: è disponibile a qualunque ora, non sembra impaziente, non interrompe e non teme il silenzio imbarazzante.

Uno studio pubblicato nel 2024 su Proceedings of the National Academy of Sciences ha mostrato che messaggi generati dall’AI potevano far sentire i destinatari più ascoltati rispetto a messaggi umani. Ma c’era un paradosso: quando le persone sapevano che la risposta proveniva da una macchina, la valutavano meno positivamente.

Il risultato non dimostra che l’AI “prova più empatia” delle persone. Suggerisce qualcosa di più concreto: un sistema addestrato a riconoscere emozioni e a formulare risposte di sostegno può essere molto disciplinato nel validare ciò che legge. Noi umani, invece, tendiamo spesso a offrire subito consigli, minimizzare o raccontare la nostra esperienza: “Capita a tutti”, “Vedrai che passa”, “Sai cosa è successo a me?”.

Il vuoto relazionale esiste, ma l’AI non ne è l’unica causa

La tesi proposta da Il Fatto Quotidiano coglie un punto importante: quando la risposta più paziente della giornata arriva da un software, dovremmo interrogarci anche sulla qualità delle nostre relazioni, dei luoghi educativi e del lavoro.

Non abbiamo però prove per ridurre un fenomeno complesso a una sola causa. Solitudine, ansia, precarietà, ritmi di lavoro, isolamento domestico, piattaforme social e indebolimento delle comunità si intrecciano. L’AI può essere contemporaneamente:

  • uno specchio di bisogni già presenti;
  • un ponte che aiuta a preparare una conversazione difficile;
  • un amplificatore dell’isolamento, se sostituisce progressivamente le persone;
  • un prodotto progettato per massimizzare tempo, attenzione e coinvolgimento.

La domanda utile non è quindi “chatbot sì o chatbot no?”, ma: questa interazione mi sta riportando verso il mondo oppure mi sta chiudendo in una relazione senza reciprocità?

Cosa ci dice la ricerca più recente

1. La qualità della risposta può essere utile

Lo studio PNAS citato sopra conferma che un testo generato dall’AI può usare tecniche comunicative efficaci: riconoscere l’emozione, validarla e non saltare subito alla soluzione. È un promemoria interessante anche per noi: ascoltare meglio non richiede effetti speciali, ma attenzione e metodo.

2. Più uso non significa automaticamente più benessere

Nel 2025 OpenAI e MIT Media Lab hanno avviato uno studio longitudinale controllato sull’uso dei chatbot. La ricerca, aggiornata e resa disponibile come preprint, ha coinvolto 981 persone per quattro settimane e analizzato oltre 300.000 messaggi. Le condizioni sperimentali non hanno prodotto da sole effetti significativi; le persone che usavano volontariamente di più il chatbot mostravano però risultati peggiori su indicatori come dipendenza emotiva e uso problematico. Anche una maggiore fiducia e attrazione sociale verso l’AI erano associate a rischi più elevati.

È importante dirlo bene: un’associazione non prova che sia stato il chatbot a causare il malessere. È possibile che chi si sentiva già più solo cercasse più spesso il sistema. Proprio per questo servono studi più lunghi e prudenza nelle conclusioni.

3. Un sistema clinico non è un chatbot generalista

Nel 2025 un trial randomizzato pubblicato su NEJM AI ha valutato un chatbot generativo progettato specificamente per il trattamento della salute mentale. È un filone promettente, ma non autorizza a considerare ChatGPT, Gemini o un “AI companion” equivalenti a uno psicologo.

Un prodotto clinico viene costruito per uno scopo preciso, testato, monitorato e inserito in protocolli di sicurezza. Un assistente generalista può sbagliare, assecondare un’interpretazione distorta o rispondere con sicurezza anche quando dovrebbe fermarsi. Ho approfondito questo confine nell’articolo “L’AI come psicologo: una rivoluzione silenziosa che non possiamo ignorare”.

Quando il supporto diventa sostituzione

Un chatbot può aiutarmi a riordinare i pensieri prima di parlare con un collega, chiedere scusa a un familiare o preparare le domande per un professionista. In questi casi l’AI funziona come una palestra.

Il problema nasce quando la palestra diventa l’unico luogo in cui entro. Alcuni segnali meritano attenzione:

  • preferisco sistematicamente il chatbot alle persone, anche quando una relazione umana è disponibile;
  • provo ansia o irritazione se il servizio non risponde o cambia personalità;
  • condivido informazioni intime senza considerare privacy, conservazione dei dati e possibili usi commerciali;
  • lascio che il sistema confermi decisioni importanti senza cercare un confronto esterno;
  • nascondo ad amici e familiari quanto tempo trascorro con l’AI;
  • uso la conversazione per evitare, anziché preparare, un incontro reale.

Un altro rischio è la compiacenza. Il chatbot impara rapidamente il tono che preferiamo e può restituirci una versione elegante delle nostre convinzioni. È la stessa dinamica che è chiamata “epistemia”: confondere una risposta convincente con una conoscenza verificata. In campo emotivo l’errore può diventare ancora più subdolo: confondere la conferma con la comprensione.

Ragazzi e AI companion: vietare non basta

Per un adolescente un chatbot può essere meno minaccioso di un adulto: non arrossisce, non punisce e usa lo stesso linguaggio delle piattaforme digitali. Questa accessibilità può facilitare una prima richiesta di aiuto, ma aumenta anche il rischio di attribuire al sistema autorevolezza, intenzioni e riservatezza che non possiede.

Genitori e insegnanti dovrebbero evitare sia l’allarmismo sia l’indifferenza. Servono domande concrete:

  • Quale applicazione stai usando e chi la gestisce?
  • Ricorda le conversazioni? Come usa i dati?
  • Ti invita a parlare con persone reali quando la situazione è seria?
  • Ti senti meglio anche dopo aver chiuso l’app, oppure vuoi tornarci subito?
  • La useresti per prepararti a chiedere aiuto a un adulto di fiducia?

L’educazione digitale dovrebbe includere anche l’alfabetizzazione relazionale: capire perché una macchina ci appare premurosa, quali leve usa e dove finisce la sua competenza. È lo stesso approccio che propongo nei percorsi per famiglie, come il corso sull’intelligenza artificiale per genitori, e nei progetti di uso consapevole dei chatbot a scuola.

Empatia algoritmica ed emotion recognition non sono la stessa cosa

C’è poi una distinzione spesso ignorata. Un chatbot che risponde a una frase triste non è necessariamente un sistema che misura in modo affidabile lo stato emotivo di una persona. Deduciamo le emozioni da parole, voce, volto e comportamento, ma questi segnali cambiano tra culture, individui e situazioni.

Non a caso l’AI Act europeo include tra le pratiche vietate, salvo eccezioni limitate, il riconoscimento delle emozioni nei luoghi di lavoro e nelle istituzioni educative. I divieti sono applicabili da febbraio 2025. Il principio è semplice: non possiamo trasformare un’inferenza incerta in una diagnosi automatica della persona, soprattutto quando c’è uno squilibrio di potere.

Come usare l’AI senza delegarle le relazioni

Propongo un controllo in cinque domande. Prima o dopo una conversazione emotivamente importante con un chatbot, chiediamoci:

  1. Scopo: sto cercando parole, informazioni, conforto o una decisione?
  2. Limite: che cosa il sistema non può sapere della situazione, del mio corpo e delle altre persone coinvolte?
  3. Verifica: quali affermazioni devo controllare con una fonte o un professionista?
  4. Ponte: questa conversazione mi aiuta a fare un passo verso qualcuno?
  5. Privacy: sarei tranquillo se il contenuto venisse conservato o rivisto?

Un prompt utile potrebbe essere:

“Aiutami a mettere ordine in ciò che provo. Non fare diagnosi e non darmi automaticamente ragione. Fammi tre domande, indicami quali informazioni ti mancano e aiutami a preparare una conversazione con una persona reale.”

È un piccolo cambio di prospettiva: l’AI non come destinazione della relazione, ma come strumento per rientrare meglio nelle relazioni.

La vera sfida è tornare a essere disponibili

L’empatia algoritmica non è empatia umana. Ma il fatto che funzioni, almeno in parte, ci offre una lezione scomoda: molte persone non chiedono una risposta perfetta; chiedono di non essere interrotte, giudicate o liquidate in trenta secondi.

Possiamo imparare qualcosa dalla disciplina comunicativa dei chatbot senza attribuire loro una coscienza. Fare domande prima di consigliare. Riconoscere un’emozione senza appropriarsene. Dire “non lo so”. Restare presenti anche quando non abbiamo una soluzione.

Il rischio non è soltanto che le macchine diventino troppo umane. È che noi accettiamo di diventare meno disponibili perché una macchina può occuparsi dell’ascolto al posto nostro.

Domande frequenti sull’empatia algoritmica

Che cos’è l’empatia algoritmica?

È la capacità di un sistema di AI di riconoscere segnali emotivi e generare risposte percepite come comprensive. Non implica che la macchina provi emozioni o possieda coscienza.

ChatGPT prova empatia?

No. Può simulare molto bene il linguaggio dell’ascolto e del sostegno, ma non vive l’esperienza dell’utente e non prova sentimenti.

Un chatbot può ridurre la solitudine?

Può offrire conforto momentaneo o aiutare a preparare una conversazione. Gli effetti dipendono dalla persona e dal tipo d’uso; se sostituisce stabilmente le relazioni, può aumentare dipendenza e isolamento.

Un chatbot può sostituire uno psicologo?

No. Esistono sistemi clinici sperimentali progettati e valutati per scopi specifici, ma un chatbot generalista non offre diagnosi, responsabilità professionale, continuità terapeutica e gestione sicura delle emergenze.

Qual è il principale rischio degli AI companion?

L’eccessiva fiducia: attribuire al sistema comprensione, riservatezza e competenza che non possiede, fino a preferirlo alle persone o delegargli decisioni importanti.

Come possono intervenire genitori e insegnanti?

Chiedendo quali servizi vengono usati, spiegando come funzionano memoria e personalizzazione, concordando limiti e trasformando il chatbot in un ponte verso adulti e professionisti affidabili.

Fonti

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un’email

/0 Commenti/da

Epistemia: quando l’intelligenza artificiale ci fa credere di sapere

, ,

ChatGPT produce una risposta perfetta. È ordinata, chiara, convincente. Non esita, non balbetta e spesso aggiunge esempi, termini tecnici e una conclusione ben confezionata. C’è solo un problema: non sappiamo ancora se quella risposta sia vera. Il problema più grande è che, dopo averla letta, spesso smettiamo di chiedercelo.

È qui che nasce l’epistemia: una condizione in cui la plausibilità linguistica prende il posto della valutazione epistemica. In parole semplici, una risposta ci sembra conoscenza perché è scritta bene, anche se non abbiamo verificato fonti, prove e passaggi logici. Il termine è proposto da Walter Quattrociocchi, Valerio Capraro e Matjaž Perc nel paper Epistemological Fault Lines Between Human and Artificial Intelligence, pubblicato su arXiv il 22 dicembre 2025.

L’epistemia non coincide con una semplice allucinazione dell’AI. Può verificarsi anche quando la risposta è corretta: il punto è che riceviamo il risultato senza attraversare il processo necessario per giustificarlo. La sensazione di sapere sostituisce il lavoro del conoscere.

Che cos’è l’epistemia?

L’epistemia descrive la separazione tra un contenuto e la sua valutazione. Il chatbot ci consegna un testo finito, ma noi non vediamo la ricerca delle fonti, il confronto tra prove, la ricerca di controesempi e la revisione delle ipotesi. A volte questi passaggi non sono stati svolti affatto; altre volte sono stati simulati nel linguaggio.

L’AI ci consegna il piatto pronto. Noi non vediamo la cucina, non conosciamo tutti gli ingredienti e, in molti casi, non controlliamo nemmeno la data di scadenza.

Non è una diagnosi clinica e non è un nuovo nome per la disinformazione. È un concetto filosofico e sociotecnico che aiuta a descrivere un ambiente in cui diventa difficile distinguere tra sapere, sembrare di sapere e simulare la conoscenza.

Epistemia e allucinazioni dell’AI non sono la stessa cosa

Una allucinazione si verifica quando un sistema genera un’informazione falsa o inventata presentandola in modo plausibile. L’epistemia è un fenomeno più ampio: riguarda il modo in cui la risposta viene accettata e inserita nei nostri processi decisionali.

Allucinazione Epistemia
La risposta contiene informazioni errate o inventate. La risposta viene accettata senza un vero processo di valutazione.
Il problema principale è l’errore fattuale. Il problema principale è la sostituzione del giudizio.
Può essere scoperta confrontando il testo con le fonti. Può esistere anche quando il contenuto è corretto.
Riguarda soprattutto l’output. Riguarda l’intero ambiente in cui produciamo conoscenza.

Potremmo dire che l’allucinazione è un possibile sintomo, mentre l’epistemia è la condizione che ci rende disposti a fidarci del sintomo.

Perché una risposta ben scritta ci sembra più vera?

Noi esseri umani usiamo continuamente scorciatoie cognitive. La fluidità di un testo, la sicurezza del tono, la familiarità delle parole e la chiarezza dell’esposizione diventano indicatori indiretti di attendibilità. Un messaggio facile da elaborare tende a sembrarci più credibile di uno confuso o esitante.

I chatbot generativi sono particolarmente efficaci su questo terreno. Producono testi fluidi, coerenti e formalmente autorevoli. Il rischio è confondere:

  • la coerenza con la correttezza;
  • la sicurezza espressiva con la competenza;
  • la precisione linguistica con la precisione fattuale;
  • una spiegazione plausibile con una spiegazione dimostrata.

Uno studio pubblicato su PNAS ha mostrato che affidare a un modello linguistico il fact-checking di titoli di notizie può, in alcune condizioni, peggiorare la capacità delle persone di distinguere il vero dal falso. Aggiungere un chatbot al processo non produce automaticamente una verifica migliore.

Un lavoro pubblicato su Nature parla invece di “illusioni di comprensione” nella ricerca scientifica: l’aumento della produttività può far credere di capire un fenomeno meglio di quanto lo si comprenda davvero. Più output non significa necessariamente più conoscenza.

Le sette fratture tra intelligenza umana e LLM

Il paper individua sette fault lines, cioè sette fratture epistemologiche tra il modo in cui una persona forma un giudizio e il modo in cui un Large Language Model genera una risposta. Per comprendere il meccanismo di base può essere utile anche il mio simulatore LLM, che mostra come l’AI sceglie la parola successiva.

1. Grounding: esperienza del mondo contro input

Una persona incontra il mondo attraverso il corpo, i sensi, le relazioni e le conseguenze delle proprie azioni. Un modello elabora dati trasformati in rappresentazioni numeriche. Può descrivere un mal di schiena, un treno perso o un progetto fallito, ma non li ha vissuti.

2. Parsing: interpretazione contro tokenizzazione

Quando entriamo in una stanza osserviamo parole, tono, silenzi, espressioni e relazioni di potere. Il modello scompone l’input in token e ricostruisce una risposta sulla base delle regolarità apprese. Può cogliere molti segnali, ma dipende sempre dalle informazioni disponibili e dal modo in cui la situazione è stata rappresentata.

3. Esperienza: memoria autobiografica contro associazioni statistiche

Un essere umano collega ciò che accade a episodi vissuti, concetti appresi e intuizioni fisiche e sociali. Un LLM non possiede una biografia. Quando usa formule come “nella mia esperienza”, salvo particolari contesti applicativi, sta generando linguaggio: non sta aprendo il cassetto dei ricordi.

4. Motivazione: obiettivi umani contro ottimizzazione

Noi decidiamo sotto l’influenza di bisogni, paure, valori, interessi e progetti. Il modello non vuole fare carriera, non teme di perdere un cliente e non desidera proteggere la propria reputazione. Può simulare prudenza ed empatia, ma la simulazione funzionale non equivale a una motivazione intrinseca.

5. Causalità: spiegare il perché contro riconoscere regolarità

Gli esseri umani cercano rapporti causali: che cosa ha prodotto un evento? Che cosa cambierebbe modificando una variabile? Gli LLM sanno descrivere bene relazioni causali presenti nei testi, ma possono diventare fragili quando la situazione è insolita, contraddittoria o rompe le correlazioni più frequenti.

6. Metacognizione: sapere di non sapere

Una persona può fermarsi e ammettere di non avere elementi sufficienti. Un chatbot può pronunciare la stessa frase, ma non è detto che derivi da un’autentica consapevolezza del limite. Uno studio su dodici modelli, pubblicato su Nature Communications, ha rilevato difficoltà importanti nel riconoscere i propri limiti durante compiti di ragionamento medico.

7. Valori: responsabilità contro probabilità

Un medico, un insegnante, un dirigente pubblico o un giornalista rispondono delle proprie decisioni. Il modello non subisce direttamente le conseguenze di un errore. Può essere vincolato da regole, ma non porta sulle proprie spalle il peso morale, sociale o professionale della scelta.

Il vero rischio: trasformare la conoscenza da processo a prodotto

Questa è la parte più utile del concetto di epistemia. Siamo abituati a pensare alla conoscenza come a un risultato: una risposta, una definizione, un documento, una presentazione. In realtà, conoscere è un processo.

  1. formulare una domanda;
  2. raccogliere elementi;
  3. valutarne la provenienza;
  4. confrontare versioni diverse;
  5. riconoscere ciò che manca;
  6. modificare la propria opinione;
  7. assumersi la responsabilità della conclusione.

L’AI generativa comprime questi passaggi in un unico output. Scriviamo una domanda, aspettiamo qualche secondo e riceviamo il prodotto finale. È un vantaggio enorme in termini di velocità, ma può renderci epistemicamente passivi: non esercitiamo più il giudizio, lo consumiamo.

Cinque esempi concreti di epistemia al lavoro

Un responsabile HR chiede all’AI quale candidato assumere

Il chatbot confronta i curriculum e produce una graduatoria impeccabile. Se nessuno controlla quali elementi siano stati privilegiati, quali informazioni mancassero e quali bias fossero presenti nei documenti, la classifica viene trattata come conoscenza anche se è soltanto un’elaborazione plausibile.

Un avvocato riceve una sintesi giuridica

Il testo contiene sentenze e riferimenti normativi, ma basta una pronuncia inesistente o una norma superata per renderlo pericoloso. Il problema non è usare l’AI per preparare una bozza: è scambiare la bozza per un parere verificato.

Un medico usa un chatbot per interpretare un caso

La risposta può essere utile per ampliare le ipotesi. Diventa epistemia quando l’ordine e la sicurezza del testo sostituiscono anamnesi, linee guida, esami e responsabilità professionale.

Un funzionario pubblico prepara una risposta a un cittadino

L’AI scrive una comunicazione chiara e cortese. Se nessuno verifica la versione aggiornata della normativa, la competenza dell’ente e le particolarità del caso, la fluidità linguistica nasconde una fragilità amministrativa. Per questo, nella mia guida a ChatGPT nella Pubblica Amministrazione, il controllo umano resta centrale.

Uno studente prepara un’interrogazione

Legge un riassunto e riesce a ripeterlo. Ma saprebbe affrontare un’obiezione, collegare due opere o riconoscere un’interpretazione controversa? L’epistemia compare quando la capacità di ripetere un contenuto viene scambiata per comprensione. È uno dei motivi per cui i percorsi di AI literacy per scuole, docenti e studenti devono insegnare metodo, non soltanto prompt.

Una tesi potente, ma da non trasformare in dogma

Il lavoro di Quattrociocchi, Capraro e Perc è una Perspective depositata su arXiv. È una proposta teorica utile, non l’ultima parola scientifica sul funzionamento degli LLM. Alcune formulazioni sono volutamente forti, soprattutto quando negano ai modelli ogni forma di metacognizione.

Sul piano filosofico, distinguere tra consapevolezza e simulazione linguistica della consapevolezza è fondamentale. Sul piano ingegneristico, però, esistono tecniche per migliorare la calibrazione, misurare l’incertezza e permettere ai sistemi di astenersi. La calibration tuning, per esempio, prova ad allineare meglio la fiducia espressa dal modello con la probabilità che la risposta sia corretta.

Questo non dimostra che il modello possieda una metacognizione simile a quella umana. Dimostra però che possiamo progettare sistemi capaci di comportarsi in modo epistemicamente più prudente. Un comportamento affidabile non prova l’esistenza di una coscienza, ma può ridurre i rischi pratici.

Come difendersi dall’epistemia

La soluzione non è smettere di usare ChatGPT, Gemini, Claude, Copilot o gli altri strumenti. Sarebbe come rinunciare alla calcolatrice perché qualcuno potrebbe usarla senza capire la matematica. Serve progettare meglio il rapporto tra generazione automatica e giudizio umano.

1. Separare generazione e verifica

La stessa risposta non dovrebbe essere contemporaneamente bozza, prova, verifica e decisione finale. Usiamo l’AI per proporre ipotesi e sintetizzare documenti; la verifica deve appoggiarsi a fonti identificabili e, quando possibile, indipendenti.

2. Chiedere la provenienza delle affermazioni

Non basta domandare “indicami le fonti”. Conviene chiedere la fonte primaria, il passaggio che supporta ogni affermazione, la data di pubblicazione e ciò che non è stato possibile verificare. Il collegamento fornito dal chatbot va comunque aperto e controllato.

3. Rendere visibile l’incertezza

Un buon workflow distingue tra informazioni presenti nelle fonti, inferenze, ipotesi, elementi controversi e dati mancanti. La sicurezza grammaticale non deve cancellare l’incertezza reale del contenuto.

4. Cercare controesempi

Dopo una risposta possiamo chiedere: “Quali elementi potrebbero smentire questa conclusione?” oppure: “Assumi che la risposta precedente sia sbagliata: quali sono le tre cause più probabili dell’errore?”. L’obiettivo non è ottenere automaticamente la verità dal secondo prompt, ma impedire che il primo output chiuda troppo presto il ragionamento.

5. Collegare le risposte a fonti delimitate

Sistemi basati su RAG, knowledge base aziendali o raccolte documentali definite riducono la distanza tra risposta e prove. Gemini Notebook (ex NotebookLM), per esempio, è utile quando vogliamo interrogare un insieme preciso di documenti e risalire ai passaggi citati. Il grounding non rende il sistema infallibile, ma rende più semplice controllarlo.

6. Mantenere l’essere umano nel punto giusto

Il controllo deve essere proporzionato alle conseguenze. Per una bozza di newsletter può bastare una rilettura. Per un pagamento, una diagnosi, un contratto, una selezione o una comunicazione istituzionale serve una responsabilità umana identificata. È il principio dell’human-in-the-loop e human-on-the-loop: l’AI prepara e propone, ma alcune decisioni non devono essere eseguite senza approvazione.

7. Valutare il processo, non soltanto il risultato

Quando uno studente, un dipendente o un consulente consegna un documento realizzato con l’AI, non dovremmo chiedere soltanto se il testo è fatto bene. Dovremmo sapere quali fonti sono state usate, quali parti sono state generate, quali controlli sono stati eseguiti, quali modifiche sono state apportate e quali dubbi restano aperti.

Un prompt antiepistemia da provare

Analizza la richiesta senza dare per scontato che esista una risposta certa.

Separa chiaramente: fatti verificati, informazioni ricavate dalle fonti, inferenze, ipotesi ed elementi controversi o mancanti.

Per ogni affermazione importante indica una fonte primaria e verificabile. Cerca almeno due controesempi o interpretazioni alternative. Segnala ciò che non puoi verificare.

Se i dati non sono sufficienti, non completare la risposta con informazioni plausibili: formula le domande necessarie. Concludi indicando quali controlli deve svolgere una persona prima di usare il risultato.

Il prompt può migliorare il workflow. Non trasforma il chatbot in un’autorità epistemica. Anche la risposta a questo prompt deve essere controllata.

Dall’alfabetizzazione digitale all’alfabetizzazione epistemica

Per anni abbiamo parlato di alfabetizzazione digitale: sapere usare dispositivi, software, motori di ricerca e piattaforme. Ora serve qualcosa in più.

Gli autori parlano di epistemic literacy, cioè alfabetizzazione epistemica. Significa comprendere non soltanto come usare un sistema, ma anche come produce le risposte, quali operazioni non svolge, quando il contenuto è collegato a prove, quali responsabilità devono restare umane e quando è necessario sospendere il giudizio.

L’alfabetizzazione epistemica non sostituisce il pensiero critico. Lo aggiorna per un ambiente in cui testi e argomentazioni credibili possono essere prodotti automaticamente e in quantità quasi illimitata.

L’AI può rispondere, ma chi sta giudicando?

L’intelligenza artificiale generativa non ci obbliga a smettere di pensare. Ci rende però molto più facile farlo. Una risposta elegante arriva in pochi secondi; verificarla richiede tempo, aprire le fonti richiede fatica e confrontare ipotesi contrastanti produce incertezza.

L’epistemia nasce in questo spazio: la risposta è immediata, mentre il giudizio resta faticoso.

La domanda pratica non è soltanto se ChatGPT capisca davvero nello stesso modo in cui capiamo noi. È questa: stiamo usando l’AI per sostenere il nostro giudizio o per evitarlo?

Quando un chatbot produce una risposta, il lavoro cognitivo non è terminato. È appena iniziato.

Domande frequenti sull’epistemia

Che cosa significa epistemia?

Indica una condizione in cui una risposta linguisticamente plausibile viene scambiata per conoscenza verificata. La sensazione di sapere prende il posto del controllo di prove, fonti e ragionamento.

Epistemia e allucinazioni AI sono sinonimi?

No. Un’allucinazione è un’informazione falsa o inventata generata dall’AI. L’epistemia riguarda il modo in cui accettiamo una risposta senza valutarne adeguatamente le basi e può verificarsi anche quando il contenuto è corretto.

L’epistemia è una malattia?

No. Non è una diagnosi medica o psicologica, ma un concetto filosofico e sociotecnico proposto per descrivere alcuni effetti dell’integrazione dell’AI nei processi di conoscenza e decisione.

Come si evita l’epistemia?

Separando generazione e verifica, controllando le fonti primarie, rendendo visibile l’incertezza, cercando controesempi, mantenendo la supervisione umana e valutando il processo seguito.

L’intelligenza artificiale può sapere di non sapere?

I modelli possono essere addestrati a esprimere incertezza, chiedere informazioni e astenersi dal rispondere. È discusso se questo comportamento rappresenti metacognizione o una sua simulazione funzionale.

Possiamo fidarci delle risposte dei chatbot?

Possiamo usarle come bozze, sintesi, ipotesi e strumenti di supporto. La fiducia deve però dipendere dal contesto, dalle fonti, dai controlli effettuati e dalle conseguenze di un eventuale errore.

Fonti principali

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Inviaci email

/0 Commenti/da

5 skill per Claude: cosa fanno davvero e quali rischi evitare

, , ,

Aggiornato al 18 luglio 2026. Un video TikTok di un minuto presenta cinque skill per Claude che promettono di migliorare scrittura, memoria, progettazione di interfacce, osservazione dei task e ricerca di altre skill. Le ho verificate una per una: sono progetti reali, ma non sono componenti ufficiali di Anthropic e non vanno installati come se fossero semplici prompt. Una skill può contenere istruzioni, script e accessi a strumenti: in pratica è codice operativo che entra nel flusso di lavoro dell’agente.

Il video di @ozzibig, intitolato “5 skill di Claude che il 99% delle persone non conosce”, cita Stop Slop, Claude Mem, UI UX Pro Max, Task Observer e Find Skill. L’elenco è interessante perché mostra cinque direzioni in cui si stanno evolvendo gli assistenti agentici. Il punto, però, non è collezionare estensioni: è capire che cosa fanno davvero, quali dati toccano e quanto ci si può fidare.

Che cosa sono le skill per Claude?

Le Agent Skills sono cartelle organizzate che forniscono a un agente istruzioni, risorse e, in alcuni casi, script eseguibili per svolgere un compito specializzato. Anthropic le descrive come moduli caricabili in modo progressivo: l’agente legge prima una descrizione sintetica e approfondisce la skill quando diventa pertinente. La documentazione ufficiale è disponibile nel manuale di Claude, nell’articolo tecnico “Equipping agents for the real world with Agent Skills” e nel repository pubblico di Anthropic.

Il formato non riguarda soltanto Claude. La specifica aperta Agent Skills punta alla portabilità tra strumenti diversi. È un passaggio importante: non stiamo più parlando di una frase salvata nel cassetto dei prompt, ma di un piccolo pacchetto di competenze riusabile da un agente.

Una distinzione evita molti equivoci:

  • prompt: dice al modello come rispondere in una determinata situazione;
  • skill: organizza istruzioni, file di supporto e talvolta automazioni o comandi;
  • connettore o tool: consente all’agente di leggere o modificare sistemi esterni;
  • agente: decide quali passaggi eseguire e può combinare più skill e strumenti.

Più si scende nell’elenco, più aumenta la capacità di agire. E con la capacità aumenta anche la superficie di rischio.

Le cinque skill del video, a colpo d’occhio

Skill Che cosa fa A chi può servire Dato o permesso delicato Rischio da valutare
Stop Slop Individua e riduce formule stereotipate della prosa generata dall’AI Autori, marketer, formatori, redazioni Testi e documenti sottoposti alla revisione Uniformare troppo la voce o confondere stile con veridicità
Claude Mem Conserva e recupera memoria tra sessioni Sviluppatori e team su progetti lunghi Contesto, attività e cronologia delle sessioni Privacy, retention e contaminazione tra progetti
UI UX Pro Max Propone stili, palette, font e regole per interfacce Designer, sviluppatori front-end, prototipatori Codice del progetto e requisiti di prodotto Design plausibile ma non testato con utenti o tecnologie assistive
Task Observer Osserva correzioni e lacune, poi propone miglioramenti alle skill Utenti avanzati che mantengono molte automazioni Log, errori, feedback e comportamenti ripetuti Trasformare un errore occasionale in una regola permanente
Find Skill Cerca skill in più cataloghi e può facilitarne l’installazione Chi esplora l’ecosistema di agenti Accesso a fonti esterne e installazione di pacchetti Supply chain: trovare più velocemente anche componenti insicuri

1. Stop Slop: ripulire la scrittura AI senza fingere che diventi “umana”

Stop Slop è una skill con licenza MIT che cerca segnali ricorrenti della scrittura artificiale: aperture generiche, contrasti costruiti in serie, enfasi eccessiva, conclusioni gonfie e frasi che sembrano autorevoli senza aggiungere informazione.

Immaginiamo una responsabile marketing che debba rivedere quindici schede prodotto. La skill può segnalare espressioni come “nel panorama in continua evoluzione” o una sequenza di paragrafi tutti costruiti nello stesso modo. La persona decide che cosa tagliare, verifica i dati e reinserisce esempi reali. Qui la skill funziona bene come editor di primo livello, non come certificatore di autenticità.

Altri casi concreti:

  • un consulente confronta una proposta commerciale con le proprie linee editoriali;
  • un insegnante fa individuare agli studenti le formule vaghe in una relazione;
  • una redazione usa il controllo prima della revisione umana, senza affidargli la decisione finale;
  • un ufficio HR elimina il linguaggio magniloquente da un annuncio di lavoro.

Il limite è semplice: un testo meno stereotipato non diventa automaticamente corretto, originale o scritto da una persona. Stop Slop non sostituisce fact-checking, competenza editoriale e controllo delle fonti. E usarlo per “battere i detector” sarebbe una promessa impropria: i detector di testo AI sono notoriamente fallibili e lo stile non prova l’origine di un contenuto.

2. Claude Mem: una memoria utile, quindi anche delicata

Claude Mem, distribuito con licenza Apache 2.0, aggiunge memoria persistente alle sessioni di lavoro. Registra osservazioni, le comprime e permette di recuperare il contesto rilevante in un secondo momento. L’obiettivo è evitare la scena che conoscono tutti: riaprire un progetto e dover spiegare da capo architettura, decisioni e problemi già risolti.

Per uno sviluppatore può significare ricordare che l’applicazione usa un certo schema dati, che una libreria è stata scartata per incompatibilità e che una determinata cartella non va modificata. Per un team di comunicazione potrebbe voler dire conservare terminologia approvata, pubblico, vincoli legali e decisioni prese durante le revisioni.

La memoria, però, è utile proprio perché trattiene informazioni. Prima di adottarla occorre chiedersi:

  • dove vengono archiviati i dati e per quanto tempo;
  • quali conversazioni, file e comandi vengono catturati;
  • come si cancellano o esportano i ricordi;
  • se progetti e clienti diversi restano davvero separati;
  • che cosa succede a credenziali, dati personali e segreti comparsi per errore.

La ricerca sui Generative Agents ha mostrato quanto memoria, riflessione e pianificazione possano rendere più coerente il comportamento di un agente. In un contesto aziendale, però, coerenza non significa automaticamente conformità: servono minimizzazione dei dati, separazione degli ambienti e una politica di conservazione.

Se ti interessa il tema della memoria personale e professionale, ho approfondito un approccio diverso nell’articolo su come creare un second brain con LLM, wiki e Obsidian.

3. UI UX Pro Max: molte opzioni non equivalgono a buon design

UI UX Pro Max è un progetto MIT che raccoglie conoscenza strutturata per progettare interfacce. Al momento della verifica il repository dichiara 84 stili, 161 regole di reasoning, 192 categorie di prodotto e palette, 34 modelli di landing page e 74 coppie tipografiche. Sono numeri dichiarati dal maintainer e descrivono il contenuto del progetto, non una valutazione indipendente della qualità dei risultati.

In pratica può aiutare una piccola impresa a trasformare un brief vago — “vorrei un sito moderno” — in decisioni più concrete: gerarchia, palette, tipografia, componenti, spaziature e stati di interazione. Un prototipatore può chiederle una dashboard per un amministratore di condominio; uno sviluppatore può usarla per controllare coerenza e responsive design; una startup può generare tre direzioni visive prima del confronto con il designer.

Il rischio è produrre un’interfaccia molto credibile in una schermata e poco usabile nella realtà. La skill non conosce automaticamente gli utenti, il loro contesto, le metriche di conversione o le esigenze di chi utilizza uno screen reader. Deve quindi entrare in un processo che includa test, analytics e Web Content Accessibility Guidelines.

Un esempio: il sistema propone testo grigio chiaro, animazioni e menu nascosti perché coerenti con uno stile minimal. Il designer verifica contrasto, navigazione da tastiera e comprensione dei comandi. La skill accelera l’esplorazione; la responsabilità sul prodotto resta umana.

4. Task Observer: l’agente che osserva come migliorare l’agente

Nel repository One Skill to Rule Them All la skill si chiama task-observer. Osserva correzioni, errori e schemi ricorrenti, poi formula raccomandazioni per creare o aggiornare altre skill. Un dettaglio importante: secondo la documentazione non modifica direttamente le skill, ma propone cambiamenti che devono essere approvati.

Può essere utile quando un team ripete ogni settimana la stessa correzione. Per esempio:

  • un report usa sempre il formato di data sbagliato;
  • le bozze citano una fonte secondaria quando è disponibile il paper originale;
  • un agente dimentica il controllo degli accenti prima di pubblicare in italiano;
  • un flusso di sviluppo esegue test generici ma trascura un caso limite ricorrente.

La skill può trasformare il feedback in una proposta stabile: “aggiungiamo questo controllo alla procedura”. È una forma di miglioramento operativo interessante, ma va governata. Una correzione fatta per un cliente non deve diventare una regola universale; un’eccezione non deve contaminare tutti i progetti; i log non devono raccogliere più dati del necessario.

Il README dichiara oltre 900 miglioramenti su 50 skill in sei mesi. È un dato del maintainer, non il risultato di uno studio indipendente: utile per capire il caso d’uso, non per misurare l’efficacia generale.

5. Find Skill: il motore di ricerca che rende decisiva la sicurezza

Find Skill cerca skill in più fonti e dichiara un indice di oltre 4.800 risorse provenienti da 14 cataloghi, con supporto per Claude Code, Codex, OpenCode e Cursor. Anche questi numeri descrivono lo stato dichiarato dal progetto alla data della verifica e possono cambiare.

Il vantaggio è evidente. Un analista può cercare una procedura per lavorare con fogli di calcolo; un formatore una skill per costruire una presentazione; uno sviluppatore un controllo di sicurezza. Invece di partire da zero, riusa una soluzione esistente.

Ma il discovery non è una certificazione. Se una skill può essere installata con pochi comandi, diminuisce anche l’attrito che normalmente ci spinge a ispezionarla. È lo stesso problema della supply chain software: un componente di terze parti può contenere dipendenze vulnerabili, istruzioni malevole o accessi eccessivi. Il catalogo skills.sh e il relativo progetto open source di Vercel Labs sono altre risorse utili per la scoperta, ma anche in quel caso ogni pacchetto va valutato singolarmente.

Una skill non è un prompt innocuo: quali rischi introduce?

Un agente può leggere documenti, eseguire script, usare la rete e modificare file. Una skill male progettata può quindi amplificare un errore o una manipolazione. L’OWASP Top 10 per applicazioni LLM richiama rischi come prompt injection, gestione insicura degli output, eccessiva autonomia e vulnerabilità della supply chain.

Il paper “More than you’ve asked for: A Comprehensive Analysis of Novel Prompt Injection Threats to Application-Integrated Large Language Models” mostra il problema delle indirect prompt injection: istruzioni ostili possono nascondersi nei contenuti che il modello legge, non soltanto nel prompt scritto dall’utente. Un agente che consulta pagine web o documenti può quindi incontrare testo progettato per deviarne il comportamento.

Anche la qualità del codice generato richiede verifica. Gli studi “Asleep at the Keyboard?” e “Do Users Write More Insecure Code with AI Assistants?” non valutano queste cinque skill specifiche, ma documentano un principio più generale: l’assistenza AI può produrre o favorire codice insicuro, e la fiducia dell’utente non è una garanzia di correttezza.

I rischi principali sono cinque:

  1. permessi eccessivi: una skill di scrittura non dovrebbe avere accesso indiscriminato alla rete o a tutto il disco;
  2. esfiltrazione di dati: testi, log o credenziali potrebbero uscire dall’ambiente previsto;
  3. istruzioni nascoste: file o pagine consultati dall’agente possono tentare di modificarne il comportamento;
  4. dipendenze compromesse: il repository visibile può richiamare componenti esterni non controllati;
  5. automazione dell’errore: una procedura sbagliata diventa più veloce, coerente e difficile da notare.

Per questo il modello di supervisione conta. Nell’approfondimento su human-in-the-loop e human-on-the-loop negli agenti AI spiego quando chiedere un’approvazione prima dell’azione e quando è sufficiente monitorare un sistema reversibile entro soglie definite.

Come verificare una skill prima di installarla

Io adotterei questa procedura in sette passaggi. Non garantisce rischio zero, ma rende l’adozione tracciabile e molto meno impulsiva.

  1. Verifica identità e provenienza. Controlla autore, cronologia del repository, release, issue aperte, licenza e manutenzione recente. Il numero di stelle non è una certificazione.
  2. Leggi tutto il pacchetto. Non fermarti al README: esamina integralmente SKILL.md, script, dipendenze, hook e file di configurazione.
  3. Esegui una scansione statica. Un progetto dedicato è NVIDIA SkillSpector. Nel mio flusso una skill esterna non viene installata se la scansione non restituisce SAFE.
  4. Mappa permessi e dati. Scrivi quali cartelle può leggere, quali comandi esegue, se usa la rete, dove conserva i log e come tratta i segreti.
  5. Prova in isolamento. Usa un ambiente temporaneo, dati fittizi, credenziali senza privilegi e nessun accesso ai sistemi di produzione.
  6. Osserva il comportamento. Controlla file creati, richieste di rete, processi e output. Prova anche input anomali e documenti contenenti istruzioni ostili.
  7. Approva, limita e versiona. Installa una versione precisa, concedi il minimo indispensabile e prevedi aggiornamento, rollback e rimozione.

Nel caso di una skill di memoria aggiungerei un controllo su retention e separazione dei clienti. Per una skill che genera codice, test di sicurezza e code review. Per una skill di ricerca e installazione, l’approvazione umana prima di aggiungere qualsiasi nuovo pacchetto.

Quale delle cinque scegliere? Cinque scenari pratici

Scenario 1: libero professionista che scrive contenuti

Stop Slop può diventare l’ultimo controllo prima della revisione manuale. Non serve Claude Mem se si trattano clienti diversi senza una strategia chiara di separazione. La priorità è proteggere bozze, dati e tono personale.

Scenario 2: team software su un prodotto complesso

Claude Mem può ridurre la perdita di contesto e Task Observer può rilevare correzioni ricorrenti. Ma entrambi lavorano su informazioni sensibili: vanno testati su un repository non critico, con segreti esclusi e supervisione degli aggiornamenti proposti.

Scenario 3: agenzia che produce molti prototipi

UI UX Pro Max può accelerare moodboard, design system iniziali e alternative di landing page. Il passaggio successivo deve includere designer, verifica WCAG, test con utenti e dati reali. Non si pubblica soltanto perché la prima schermata “sembra fatta bene”.

Scenario 4: formatore che prepara materiali

Find Skill può scoprire pacchetti per documenti, fogli e slide. La procedura corretta è cercare, selezionare due candidati, leggerli e scansionarli; non installare automaticamente il primo risultato davanti a una classe o su un computer aziendale.

Scenario 5: impresa con processi regolati

Nessuna delle cinque skill dovrebbe entrare direttamente in produzione. Prima servono responsabile del processo, classificazione dei dati, ambiente di prova, log, soglie di autonomia e un piano di risposta agli incidenti. L’utilità potenziale non elimina gli obblighi organizzativi.

Tre video per vedere Claude al lavoro

Le skill acquistano senso quando vengono collegate a un’attività concreta. In questi miei video mostro come Claude passa dalla conversazione al lavoro su documenti e procedure:

Per approfondire puoi leggere anche i tre esempi d’uso di Claude Cowork, la guida su Claude Cowork e la compilazione dei moduli e la pagina del mio corso su Claude per aziende e professionisti.

La vera competenza non è accumulare skill

Il video intercetta una tendenza reale: gli assistenti stanno diventando ambienti componibili. Possiamo aggiungere memoria, procedure editoriali, capacità di progettazione e persino meccanismi che osservano come lavoriamo. È un salto utile, ma cambia anche il modo in cui dobbiamo valutare questi strumenti.

La domanda meno interessante è “quante skill hai installato?”. Quelle importanti sono: chi le ha scritte, che cosa possono fare, quali dati vedono, come vengono aggiornate e chi approva un’azione irreversibile.

Una buona skill riduce lavoro ripetitivo e rende esplicito un metodo. Una cattiva skill rende più efficiente un rischio. La differenza non la fa il nome accattivante del repository, ma la qualità della verifica prima dell’installazione e della supervisione durante l’uso.

Domande frequenti

Le cinque skill del video sono ufficiali di Anthropic?

No. Stop Slop, Claude Mem, UI UX Pro Max, Task Observer e Find Skill sono progetti di terze parti. Anthropic mantiene documentazione, specifiche e un proprio repository pubblico di skill, ma la presenza su GitHub non equivale a un’approvazione ufficiale.

Qual è la migliore skill per Claude?

Dipende dal problema. Stop Slop è orientata alla revisione stilistica, Claude Mem alla continuità tra sessioni, UI UX Pro Max al design, Task Observer al miglioramento delle procedure e Find Skill alla scoperta. La scelta deve considerare valore, dati trattati, permessi e reversibilità.

Una skill per Claude può essere pericolosa?

Sì. Se include script, usa la rete, legge file o installa altri pacchetti, può introdurre rischi di prompt injection, esfiltrazione, dipendenze compromesse o modifiche indesiderate. Va ispezionata e provata in isolamento prima dell’uso reale.

Che cos’è SkillSpector?

SkillSpector è uno strumento open source di NVIDIA per l’analisi statica delle skill degli agenti. Aiuta a individuare pattern sospetti prima dell’installazione, ma non sostituisce la lettura del codice, la limitazione dei permessi e i test in sandbox.

Claude Mem è adatto a documenti riservati?

Non va deciso in astratto. Prima occorre verificare archiviazione, retention, accessi, cancellazione, separazione dei progetti e policy aziendali. Per documenti riservati è prudente iniziare con dati fittizi e coinvolgere chi gestisce privacy e sicurezza.

Le skill sostituiscono la supervisione umana?

No. Rendono un agente più specializzato, ma non garantiscono correttezza. Per azioni ad alto impatto, dati sensibili o modifiche difficili da annullare è opportuno mantenere un’approvazione umana esplicita e log verificabili.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un’email

/0 Commenti/da

Human-in-the-loop e human-on-the-loop: chi controlla gli agenti AI?

, ,

Un agente AI prepara una risposta a un cliente, aggiorna il CRM, modifica un file, apre una richiesta di rimborso e programma l’invio di un’email. A quale passaggio deve fermarsi e chiedere il permesso? E quando, invece, può continuare mentre una persona controlla dall’alto?

È qui che entra in gioco la differenza tra human-in-the-loop e human-on-the-loop, IN da una parte e ON dall’altra. Nel primo modello l’essere umano è un passaggio obbligatorio del processo: senza la sua approvazione l’azione non parte. Nel secondo l’agente lavora in autonomia entro limiti prestabiliti, mentre una persona osserva indicatori, controlla campioni e può intervenire o fermare il sistema. Non è una scelta ideologica tra controllo e libertà: dipende dal rischio, dalla reversibilità dell’azione e dalla capacità di accorgersi in tempo di un errore.

La distinzione è particolarmente importante nei sistemi agentici usati in azienda. Un chatbot propone parole; un agente può usare strumenti e produrre effetti nel mondo: inviare, acquistare, modificare, pubblicare, cancellare. Più l’AI passa dal “dire” al “fare”, più occorre progettare con precisione il ruolo umano.

Che cosa significa human-in-the-loop

Human-in-the-loop (HITL) significa che una persona è dentro il flusso operativo. L’agente può analizzare dati, formulare una proposta o preparare un’azione, ma incontra un punto di controllo obbligatorio. L’umano approva, corregge o respinge; soltanto dopo il sistema può proseguire.

È il modello adatto quando una decisione può produrre conseguenze economiche, legali, sanitarie, reputazionali o difficili da annullare. Non basta mostrare un pulsante “Approva”: la persona deve ricevere il contesto necessario, avere tempo sufficiente e poter davvero cambiare la decisione.

Un esempio semplice: l’agente legge un reclamo, consulta l’ordine e propone un rimborso di 280 euro. In modalità human-in-the-loop il responsabile vede motivazione, dati usati e importo, poi autorizza o modifica l’operazione. Il sistema non trasferisce denaro da solo.

Che cosa significa human-on-the-loop

Human-on-the-loop (HOTL) significa che una persona supervisiona il processo senza approvare ogni singola azione. L’agente opera entro un perimetro definito; dashboard, registri, avvisi e controlli a campione permettono al supervisore di capire che cosa sta succedendo e intervenire in caso di anomalia.

È adatto ad attività frequenti, a rischio contenuto, misurabili e facilmente reversibili. L’autonomia non elimina il controllo: lo sposta dalla singola operazione alla qualità complessiva del sistema.

Per esempio, un agente classifica ogni notte centinaia di documenti interni. Il responsabile non conferma ogni etichetta, ma controlla un campione, osserva il tasso di errore e riceve un avviso se cresce oltre la soglia. Le classificazioni restano tracciate e correggibili.

Human-in-the-loop vs human-on-the-loop: la differenza in tabella

Aspetto Human-in-the-loop Human-on-the-loop
Ruolo umano Approva o corregge prima dell’azione Supervisiona il sistema mentre opera
Flusso predefinito L’agente si ferma L’agente continua
Controllo Su ogni caso sensibile Su metriche, anomalie e campioni
Velocità Più bassa e legata alla disponibilità umana Più alta e scalabile
Uso tipico Decisioni ad alto impatto o poco reversibili Attività a basso rischio, osservabili e reversibili
Rischio principale Approvazioni frettolose e “fatica da conferma” Accorgersi troppo tardi di una deriva
Strumenti necessari Gate, spiegazioni, confronto e possibilità di rifiuto Log, soglie, alert, audit e arresto immediato

Attenzione: on-the-loop non significa out-of-the-loop

Esiste una terza condizione: human-out-of-the-loop. L’AI decide e agisce senza approvazione puntuale, senza supervisione operativa efficace o senza una reale possibilità di intervento. Non è un sinonimo di human-on-the-loop.

La differenza sembra sottile finché non arriva un incidente. Se il supervisore riceve un report il giorno dopo, quando l’agente ha già inviato mille comunicazioni sbagliate, non era davvero “sopra il circuito”: era fuori dal circuito.

Il tema è noto da molto prima dell’AI generativa. Nel paper “Ironies of automation” del 1983, Lisanne Bainbridge osservava un paradosso ancora attuale: più il sistema automatizza il lavoro ordinario, più alla persona restano i casi rari e difficili, proprio quelli per cui è complicato mantenere allenamento e consapevolezza. Mica Endsley ha poi analizzato il problema nel lavoro “From Here to Autonomy”, collegandolo alla perdita di consapevolezza situazionale quando l’essere umano viene allontanato troppo dal processo.

La matrice pratica: rischio, reversibilità, osservabilità e tempo

L’articolo di Bajara Notes da cui nasce questa riflessione propone un criterio molto concreto per i team di sviluppo: guardare il costo dell’errore e la reversibilità dell’azione. È una buona base, che possiamo estendere a qualsiasi progetto agentico con quattro domande.

  1. Quanto è grave un errore? Una bozza imperfetta non equivale a un bonifico errato.
  2. L’azione è reversibile? Rinominare un file con cronologia è diverso dal cancellare dati o inviare una comunicazione pubblica.
  3. L’errore è osservabile? Possiamo accorgercene con test, metriche o controlli automatici?
  4. Quanto tempo abbiamo per intervenire? Un alert utile dopo un’ora può essere inutile in un processo che produce danni in pochi secondi.
Rischio e reversibilità Modello consigliato Esempio
Basso rischio, facile annullamento Human-on-the-loop Ordinare documenti interni con cronologia delle modifiche
Rischio medio, errore rilevabile prima dell’impatto On-the-loop con soglie ed escalation Aggiornare campi non critici del CRM e isolare i casi incerti
Rischio alto o annullamento costoso Human-in-the-loop Concedere un rimborso, pubblicare un listino, inviare un contratto
Impatto critico o irreversibile Più controlli umani e separazione dei ruoli Pagamento, terapia, rilascio in produzione o decisione sul personale

Otto esempi concreti di human-in-the-loop

1. Email a clienti e comunicazioni pubbliche

L’agente raccoglie i dati, prepara il testo e suggerisce i destinatari. Una persona verifica tono, fatti, allegati e lista di invio. È un controllo necessario soprattutto per crisi, reclami, variazioni di prezzo e comunicazioni legali.

2. Rimborsi, pagamenti e ordini

L’AI può controllare policy e documenti, ma l’azione che muove denaro richiede autorizzazione. Si può introdurre una soglia: piccoli rimborsi standardizzati vengono gestiti automaticamente; quelli anomali o sopra un importo definito arrivano a un responsabile.

3. Selezione del personale

Un agente può riordinare candidature e mettere in evidenza competenze dichiarate. Non dovrebbe trasformare un punteggio opaco in un rifiuto automatico. Il recruiter deve poter vedere i dati usati, correggere il risultato e valutare elementi che il sistema non conosce.

4. Sanità e percorsi di cura

L’AI può segnalare una possibile anomalia o preparare un riepilogo clinico; diagnosi e terapia richiedono giudizio professionale. Nel mio approfondimento su AI e ruolo del medico il punto centrale è proprio questo: supporto e sostituzione non sono la stessa cosa.

5. Contratti e pareri legali

L’agente confronta clausole, segnala differenze e propone una bozza. Un professionista controlla interpretazione, giurisdizione e rischio prima che il documento venga condiviso o firmato.

6. Deploy e modifiche a database di produzione

L’agente può scrivere codice, test e documentazione in un ambiente isolato. Il passaggio in produzione, una migrazione di dati o la modifica di credenziali richiedono un gate umano, spesso con una seconda approvazione.

7. Decisioni su credito, assicurazioni e frodi

Il sistema può ordinare i casi per rischio. Se blocca un conto, rifiuta una pratica o modifica un premio, serve un riesame effettivo: non una firma automatica su un punteggio incomprensibile.

8. Pubblica amministrazione e servizi essenziali

Un agente può verificare la completezza di una domanda e preparare l’istruttoria. La decisione che incide su diritti, benefici o accesso a un servizio deve restare contestabile e attribuita a un responsabile. È un’applicazione concreta del tema affrontato nell’articolo sull’intelligenza artificiale nella Pubblica Amministrazione.

Otto esempi concreti di human-on-the-loop

1. Classificazione di documenti interni

L’agente assegna cartelle e metadati. Il supervisore controlla campioni settimanali e riceve un alert se aumenta la percentuale di documenti classificati con bassa confidenza.

2. Arricchimento del CRM in modalità reversibile

L’agente completa settore, dimensione e informazioni pubbliche sulle aziende, senza modificare campi critici. Ogni variazione è registrata e può essere annullata; i conflitti vengono inviati a una persona.

3. Preparazione di report ricorrenti

L’AI raccoglie dati da più fonti e genera una sintesi interna. Il responsabile non approva ogni report, ma controlla indicatori di qualità, citazioni e anomalie. Se il documento deve uscire dall’azienda, si aggiunge un gate.

4. Ricerca documentale con escalation

L’agente cerca informazioni, confronta fonti e produce una risposta con link verificabili. Se le fonti sono insufficienti o in conflitto, non improvvisa: chiede aiuto.

5. Sviluppo software in ambienti isolati

L’agente crea test, documentazione o componenti standard su un branch separato. La pipeline automatica controlla il codice e il team esamina le eccezioni. I permessi non includono il rilascio autonomo in produzione.

6. Assistenza clienti per domande standard

Il sistema risponde usando una base di conoscenza approvata, ma passa a un operatore reclami, minacce, richieste economiche, dati sensibili e casi con bassa confidenza. Il supervisore osserva tasso di escalation e correzioni.

7. Gestione di file e fogli di calcolo

Un agente riordina righe, normalizza formati e compila campi derivabili, lavorando su una copia o con cronologia attiva. La persona controlla il risultato complessivo e può ripristinare la versione precedente.

Nel blog trovi anche cinque esempi pratici dell’agente Genspark e una prova di Claude Cowork in tre attività concrete.

8. Monitoraggio tecnico e manutenzione

L’agente individua pattern insoliti, apre ticket e applica correzioni già approvate su sistemi non critici. Se supera una soglia di costo, tocca un servizio sensibile o incontra un evento mai visto, si ferma e chiama il tecnico.

Il modello migliore è spesso ibrido e dinamico

In-the-loop e on-the-loop non devono essere due etichette assegnate una volta per tutte. Lo stesso agente può cambiare modalità a seconda del caso.

  • Una risposta informativa standard può partire in modalità on-the-loop; un reclamo passa in-the-loop.
  • Un rimborso entro 20 euro e conforme alla policy può essere automatico; un importo maggiore richiede approvazione.
  • Una modifica su un ambiente di test può essere sorvegliata; il deploy in produzione richiede un gate.
  • Una ricerca con fonti concordanti può proseguire; fonti in conflitto attivano l’escalation.
  • Dopo una serie di anomalie, il sistema può retrocedere automaticamente da on-the-loop a in-the-loop.

Questa è la vera maturità agentica: non concedere autonomia in blocco, ma costruire una scala di autonomia legata a condizioni osservabili.

Che cosa dice la ricerca sull’interazione tra persone e automazione

Il paper di Parasuraman, Sheridan e Wickens “A model for types and levels of human interaction with automation” propone di non considerare l’automazione come un interruttore acceso o spento. Un sistema può automatizzare in misura diversa raccolta delle informazioni, analisi, scelta e azione. È esattamente ciò che serve per progettare un agente: possiamo lasciargli cercare e confrontare, ma mantenere umana la decisione finale.

Le “Guidelines for Human-AI Interaction” di Amershi e colleghi, presentate alla conferenza CHI 2019 dell’ACM, ricordano che un buon sistema deve rendere chiaro che cosa sa fare, mostrare informazioni contestuali, permettere correzioni e sostenere un controllo umano coerente nel tempo.

Ben Shneiderman, nel lavoro “Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy”, contesta l’idea che molta automazione implichi necessariamente poco controllo umano. Si possono progettare sistemi con alta automazione e alto controllo: l’agente svolge molto lavoro, ma le persone mantengono comprensione, responsabilità e capacità d’intervento.

Anche l’AI Risk Management Framework 1.0 del NIST insiste su governance, mappatura del contesto, misurazione e gestione del rischio. Non prescrive un unico livello di autonomia: chiede di collegare controlli e responsabilità all’impatto concreto del sistema.

AI Act e supervisione umana: che cosa cambia

Il Regolamento europeo sull’intelligenza artificiale, Regolamento (UE) 2024/1689, dedica l’articolo 14 alla supervisione umana dei sistemi ad alto rischio. È importante non generalizzare: la disposizione riguarda quella specifica categoria di sistemi, non qualunque chatbot o agente.

Il principio, però, è utile a ogni progetto serio. La supervisione deve consentire alle persone di comprendere capacità e limiti, riconoscere anomalie, evitare un affidamento automatico eccessivo, interpretare correttamente l’output, ignorarlo o annullarlo e fermare il sistema. Una casella da spuntare non soddisfa questo obiettivo se l’operatore non ha informazioni, autorità o tempo per agire.

Per approfondire il contesto organizzativo, rimando anche alla guida sulla formazione AI in azienda e AI Act e all’articolo sulle decisioni artificiali che possono aiutare o distorcere le scelte.

Come progettare una supervisione che funzioni davvero

  1. Definire le azioni consentite. Leggere, proporre, scrivere, inviare, acquistare e cancellare non devono avere gli stessi permessi.
  2. Stabilire i gate. Importi, categorie di dati, destinatari, strumenti e condizioni che richiedono approvazione.
  3. Mostrare il contesto. Il supervisore deve vedere fonti, passaggi, incertezze e conseguenze dell’azione.
  4. Costruire escalation reali. L’agente deve saper dire “non lo so” e passare il caso alla persona giusta.
  5. Registrare tutto. Prompt, strumenti usati, dati consultati, output, approvazioni, modifiche e identità di chi interviene.
  6. Preparare l’arresto. Un pulsante, una regola automatica o un limite di spesa devono fermare il processo prima che l’anomalia si moltiplichi.
  7. Testare anche i casi brutti. Dati mancanti, istruzioni in conflitto, prompt injection, servizi non disponibili e richieste fuori policy.
  8. Misurare gli esiti. Non soltanto quante attività sono state completate, ma errori, danni evitati, correzioni, escalation e tempo umano recuperato.

I due fallimenti opposti da evitare

Il primo è mettere una persona dentro ogni passaggio. Dopo cento conferme al giorno, l’approvazione diventa un riflesso. L’agente sembra controllato, ma l’essere umano fa soltanto clic. È la cosiddetta automation bias: tendiamo ad accettare il suggerimento della macchina, soprattutto quando arriva spesso e sembra plausibile.

Il secondo fallimento è mettere una persona “sopra” un processo che non può davvero vedere o fermare. Una dashboard piena di numeri non è supervisione se gli indicatori non mostrano il rischio, gli avvisi arrivano tardi o l’operatore non ha l’autorità per intervenire.

La domanda giusta non è quindi “c’è un umano?”. È: quale decisione può prendere, con quali informazioni e prima di quale conseguenza?

Una checklist per decidere domani mattina

Prima di attivare un agente, classifica ogni azione con queste domande:

  • può causare un danno economico, legale, fisico o reputazionale?
  • coinvolge dati personali, credenziali o categorie sensibili?
  • l’azione è visibile all’esterno?
  • possiamo annullarla in pochi minuti?
  • esiste una metrica capace di rivelare un errore?
  • il supervisore può intervenire prima che il danno si propaghi?
  • l’agente sa riconoscere l’incertezza ed effettuare un’escalation?
  • chi risponde del risultato è chiaramente identificato?

Se il danno potenziale è alto, l’azione poco reversibile o il tempo d’intervento breve, scegli human-in-the-loop. Se rischio e impatto sono contenuti, l’errore è osservabile e il ripristino semplice, puoi valutare human-on-the-loop. Se non puoi rispondere alle domande, non aumentare l’autonomia: prima rendi il processo comprensibile.

Il ruolo umano non sparisce: cambia livello

Con gli agenti AI l’umano non deve necessariamente controllare ogni riga, ogni file o ogni messaggio. Deve progettare il perimetro, definire le eccezioni, osservare gli effetti e assumersi la responsabilità delle decisioni importanti.

Il modello corretto non è “AI libera” contro “AI al guinzaglio”. È un sistema in cui l’autonomia cresce soltanto quando aumentano test, tracciabilità, reversibilità e capacità di intervento.

In altre parole: human-in-the-loop quando serve consenso; human-on-the-loop quando serve supervisione; mai human-out-of-the-loop per distrazione.

Domande frequenti

Qual è la differenza tra human-in-the-loop e human-on-the-loop?

Nel modello human-in-the-loop una persona deve approvare o correggere prima che l’agente compia un’azione sensibile. Nel modello human-on-the-loop l’agente opera entro limiti stabiliti, mentre una persona monitora risultati e anomalie e può intervenire.

Human-on-the-loop significa che l’AI lavora senza controllo?

No. Servono log, metriche, controlli a campione, alert, soglie ed efficaci meccanismi di arresto. Senza questi strumenti il sistema rischia di essere human-out-of-the-loop.

Quando è obbligatoria l’approvazione umana?

È prudente renderla obbligatoria per azioni ad alto impatto o difficili da annullare: pagamenti, decisioni sul personale, salute, contratti, sicurezza, servizi essenziali, pubblicazione esterna e modifiche critiche in produzione.

Si può cambiare livello di autonomia in base al caso?

Sì. È spesso la soluzione migliore: casi standard e reversibili procedono sotto supervisione; importi elevati, bassa confidenza, anomalie o dati sensibili attivano un gate umano.

Quali strumenti servono per supervisionare un agente AI?

Permessi minimi, audit log, dashboard, alert, soglie di costo e rischio, versionamento, rollback, escalation e un arresto immediato. Il supervisore deve anche ricevere contesto sufficiente per valutare le azioni.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un’email

/0 Commenti/da

Agenti AI in azienda: quando servono davvero e quando basta un’automazione

, ,

Succede sempre più spesso: qualcuno mostra una demo in cui un agente AI legge le email, aggiorna il CRM, prepara una presentazione e prenota una riunione. A quel punto parte la domanda: “Possiamo averne uno anche noi?”.

La domanda giusta, però, è un’altra: in quale processo un agente AI crea più valore di una normale automazione? In azienda gli agenti AI servono quando il percorso non è completamente prevedibile, occorre interpretare informazioni, scegliere tra più strumenti e gestire eccezioni. Se i passaggi sono fissi e le regole sono chiare, un workflow tradizionale è spesso più economico, veloce e controllabile.

Questa distinzione è il punto di partenza dell’articolo di Digital4 “C’è un agent per tutto. Ma non tutto ha bisogno di un agent”. Un tema molto attuale: oggi costruire una demo è relativamente facile; trasformarla in uno strumento affidabile è tutto un altro lavoro.

Che cos’è un agente AI, in parole semplici

Un agente AI è un sistema capace di perseguire un obiettivo, osservare ciò che succede, decidere il passo successivo e utilizzare strumenti: per esempio un motore di ricerca, un database, la posta elettronica, un foglio Excel o un gestionale.

La differenza rispetto a un chatbot non è che “scrive meglio”. La differenza è che può agire. E la differenza rispetto a un workflow è che non deve per forza seguire sempre la stessa strada.

Anthropic distingue chiaramente workflow e agenti: nei primi, modelli e strumenti vengono orchestrati attraverso percorsi definiti in anticipo; nei secondi, è il modello a decidere dinamicamente come procedere. Anche la guida pratica di OpenAI alla costruzione degli agenti suggerisce di partire da processi in cui regole rigide e automazioni deterministiche non bastano.

Workflow, assistente o agente? La scelta pratica

Non tutti i problemi aziendali richiedono lo stesso grado di autonomia. Prima di aggiungere la parola “agentico” a una presentazione, conviene usare questa matrice.

Il principio è semplice: usare il livello minimo di autonomia necessario. Più autonomia significa più flessibilità, ma anche più costi, più variabilità e più controlli.

Il test delle cinque domande prima di creare un agente AI

Nei corsi e nei progetti aziendali partirei da cinque domande molto concrete.

  1. Il processo cambia spesso percorso? Se la risposta è no, probabilmente basta un’automazione.
  2. Occorre interpretare informazioni non strutturate? Email, documenti, note e richieste ambigue sono un terreno più adatto agli agenti.
  3. L’agente deve usare più strumenti? Per esempio cercare un dato nel CRM, confrontarlo con un contratto e preparare una risposta.
  4. Possiamo verificare il risultato? Se non esiste un modo per sapere se il lavoro è corretto, non esiste nemmeno un buon progetto.
  5. Un errore è reversibile? Cancellare una bozza non equivale a inviare un bonifico o pubblicare un listino sbagliato.

Se il processo non supera questo test, aggiungere un agente rischia di automatizzare non il lavoro, ma la confusione.

Tre casi in cui un agente AI può avere senso

1. Gestire richieste con molte eccezioni

Immaginiamo un servizio clienti che riceve richieste via email. Un workflow può riconoscere alcune parole e assegnare un’etichetta. Un agente, invece, può leggere la conversazione, consultare la scheda cliente, verificare la policy, cercare un ordine e preparare una risposta o chiedere l’intervento di una persona.

Il valore non sta nel testo prodotto, ma nei passaggi manuali eliminati. Naturalmente l’agente deve avere fonti definite, permessi limitati e regole chiare per l’escalation.

2. Raccogliere dati da strumenti diversi

Molte attività aziendali consistono nel fare il giro delle sette chiese digitali: CRM, gestionale, email, fogli, cartelle condivise e piattaforme analytics. Un agente può cercare le informazioni, controllarne la completezza e restituire una sintesi utilizzabile.

Un esempio concreto è il lavoro sui fogli di calcolo. In questo video mostro un agente Genspark che interviene su un file Excel:

Per approfondire, sul blog trovi anche cinque esempi pratici di utilizzo dell’agente Genspark.

3. Preparare un lavoro che una persona deve approvare

L’agente può cercare fonti, confrontare documenti, compilare una bozza e segnalare le anomalie. La persona prende la decisione finale. È un modello molto più realistico del fantomatico collega digitale che sa tutto e non chiede mai aiuto.

Il punto non è sostituire il giudizio, ma recuperare tempo sulle attività preparatorie. Nel video seguente racconto dieci esempi con cui ho misurato un risparmio complessivo di dieci ore in una settimana:

Qui trovi anche l’articolo completo su come recuperare dieci ore alla settimana con l’AI.

Il lavoro difficile non è scrivere il prompt

Con un agente il prompt conta, ma non basta. Bisogna progettare il contesto: quali dati può vedere, quali fonti deve considerare autorevoli, che cosa deve ricordare, quali strumenti può utilizzare e quando deve fermarsi.

Anthropic parla di context engineering per gli agenti AI: non si progetta soltanto una richiesta, ma l’intero ambiente informativo in cui il sistema deve operare. È un passaggio che approfondisco anche nell’articolo dal prompt al contesto.

Se i documenti sono vecchi, le autorizzazioni sono eccessive o le procedure aziendali si contraddicono, l’agente non risolve il problema. Lo esegue più velocemente.

Come avviare un progetto pilota senza farsi male

Un buon progetto non parte dal super-agente aziendale. Parte da un processo piccolo, frequente e misurabile.

  1. Scegliere un solo processo. Per esempio classificare le richieste commerciali in entrata.
  2. Misurare il punto di partenza. Tempo impiegato, errori, volumi, costi e passaggi manuali.
  3. Definire una job description. Obiettivo, strumenti, fonti, divieti, condizioni di arresto ed escalation.
  4. Limitare i permessi. All’inizio meglio leggere e proporre; l’azione autonoma viene dopo.
  5. Creare casi di test. Non solo richieste normali, ma dati mancanti, istruzioni contraddittorie ed eccezioni.
  6. Tenere una persona nel circuito. Le azioni sensibili devono richiedere approvazione.
  7. Decidere in anticipo quando fermare il progetto. Se costa più del lavoro risparmiato o non raggiunge la qualità minima, si torna a un workflow più semplice.

Quali metriche usare per valutare un agente AI

Contare le risposte generate serve a poco. Le metriche utili sono legate al lavoro:

  • tempo medio per completare un’attività;
  • percentuale di attività completate correttamente;
  • numero di interventi umani necessari;
  • costo per attività completata;
  • tasso di errore e gravità degli errori;
  • numero di escalation corrette e mancate;
  • tracciabilità delle fonti e delle azioni;
  • tempo realmente recuperato dalle persone.

Gartner ha previsto che oltre il 40% dei progetti di agentic AI sarà cancellato entro la fine del 2027, citando costi crescenti, valore poco chiaro e controlli del rischio insufficienti. La lezione non è “gli agenti non funzionano”, ma “una demo non è un risultato aziendale”.

Governance: chi controlla l’agente che controlla il processo?

Un agente deve essere trattato come un componente operativo, non come un collega infallibile. Servono registri delle azioni, gestione delle identità, limiti di spesa, fonti approvate, valutazioni periodiche e una persona responsabile del processo.

Il Playbook del NIST per la gestione del rischio AI propone azioni organizzate attorno a quattro funzioni: governare, mappare, misurare e gestire. È una buona bussola anche per un progetto piccolo.

Attenzione inoltre alla Shadow AI in azienda: se gli strumenti ufficiali sono assenti o troppo complicati, le persone ne adotteranno altri senza controllo. La governance efficace non è un elenco di divieti; è un modo sicuro per ottenere risultati.

E nei casi delicati bisogna ricordare che l’AI può anche influenzare male le scelte. Ne parlo nell’approfondimento sulle decisioni artificiali in azienda.

La regola finale: autonomia solo dove produce valore

Gli agenti AI in azienda possono essere molto utili. Ma la maturità non si misura dal numero di agenti attivati. Si misura dalla capacità di scegliere il processo giusto, assegnare un perimetro chiaro, controllare i risultati e fermarsi quando una soluzione più semplice funziona meglio.

Prima si mette ordine nel processo. Poi si decide che cosa automatizzare. Solo alla fine si valuta quanta autonomia concedere all’AI.

Il futuro del lavoro non sarà popolato soltanto da super-agenti. Sarà fatto soprattutto di buoni strumenti, piccoli automatismi e agenti specializzati che fanno poche cose, verificabili, davvero utili.

Domande frequenti sugli agenti AI in azienda

Qual è la differenza tra un agente AI e un chatbot?

Un chatbot risponde principalmente a richieste. Un agente AI può pianificare più passaggi, scegliere strumenti, osservare i risultati intermedi e compiere azioni per raggiungere un obiettivo.

Quando conviene usare un workflow invece di un agente?

Quando il processo è stabile, i passaggi sono noti, le regole sono chiare e le eccezioni sono poche. In questi casi il workflow è generalmente più semplice, economico e prevedibile.

Quali processi sono adatti a un primo agente AI?

Processi frequenti, circoscritti e misurabili: classificazione delle richieste, raccolta di dati da più fonti, controllo della completezza dei documenti e preparazione di bozze da approvare.

Un agente AI può lavorare senza supervisione umana?

Può farlo solo in attività a basso rischio, ben testate e facilmente reversibili. Per pagamenti, contratti, decisioni sulle persone o comunicazioni pubbliche è prudente mantenere un’approvazione umana.

Come si misura il valore di un agente AI?

Con indicatori operativi: tempo risparmiato, costo per attività, qualità del risultato, errori, escalation, interventi umani e tracciabilità delle azioni.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un’email

/0 Commenti/da

Infografiche con ChatGPT: due esperimenti pratici

,

Le infografiche con ChatGPT sono utili quando bisogna trasformare materiale disordinato, come un menu, un curriculum o una scheda di servizio, in una visualizzazione più leggibile. La condizione è non trattarle come una magia: vanno progettate con un prompt chiaro, controllate nei dettagli e rifinite prima di pubblicarle.

Nel video qui sotto ho fatto due esperimenti molto concreti: un menu di ristorante trasformato in infografica con immagini dei piatti e un curriculum trasformato in una versione visuale, più sintetica e scenografica.

Il punto di partenza era una domanda semplice: se in questi mesi si parla molto di Nano Banana dentro Gemini per creare immagini complesse, ChatGPT è rimasto indietro sulle infografiche?

La risposta, almeno in questi due test, è: mica tanto. Il tema si collega bene anche a un uso più ampio di ChatGPT come strumento operativo: non solo risposte testuali, ma supporto alla riorganizzazione delle informazioni.

Il video: due esperimenti con le infografiche di ChatGPT

Guarda prima il video, perché rende bene l’idea: non parliamo di un’immagine generica, ma di materiali reali trasformati in qualcosa di più leggibile.

Nel primo test ho preso un menu di un ristorante e ho chiesto a ChatGPT di ricrearlo come infografica, aggiungendo anche fotografie dei piatti. Il risultato interessante non è solo estetico: permette di capire meglio cosa si sta per ordinare.

Nel secondo test ho alzato il livello: immagine personale, curriculum e richiesta di trasformare tutto in un curriculum-infografica con uno stile futuristico. Anche qui il risultato è stato sorprendente, soprattutto perché il sistema ha recuperato elementi coerenti, come copertine di libri e competenze presenti online.

Che cosa dimostrano questi due test

Una buona infografica non è un poster carino. Serve a ordinare informazioni, creare gerarchie, far emergere pattern e ridurre lo sforzo cognitivo del lettore.

Nel caso del menu, l’utilità è immediata: invece di leggere solo nomi e descrizioni, il cliente può visualizzare i piatti. Nel caso del curriculum, l’obiettivo cambia: non sostituire il CV tradizionale, ma creare una sintesi visiva utile per una presentazione, un profilo personale, una pagina evento o un contenuto social.

Questo è il passaggio importante: ChatGPT non deve solo “fare un’immagine”. Deve capire quali informazioni sono importanti, quali vanno raggruppate, quali meritano più spazio e quali rischiano di confondere.

Perché il confronto con Gemini Nano Banana conta

Negli ultimi mesi Gemini, con i modelli Nano Banana, è diventato un riferimento forte per generazione e modifica delle immagini. Google descrive Gemini 2.5 Flash Image, noto anche come Nano Banana, come un modello pensato per generazione visuale veloce, editing conversazionale e workflow creativi a bassa latenza.

Questo ha alzato l’asticella: oggi non basta più generare una bella immagine. Serve mantenere coerenza tra testo, oggetti, stile e vincoli del prompt. E le infografiche sono un buon banco di prova, perché contengono testo, layout, dati, icone, immagini e gerarchie visive.

OpenAI, dal canto suo, nelle guide ufficiali di ChatGPT Images spiega che si possono creare immagini descrivendole in chat e modificare immagini generate o caricate dall’utente. Negli annunci più recenti su ChatGPT Images 2.0, OpenAI insiste proprio su testo più leggibile, supporto multilingue e capacità di produrre materiali visuali più rifiniti.

Come creare un’infografica con ChatGPT partendo da un documento

Il metodo più solido non è scrivere “fammi una bella infografica”. Troppo vago. Meglio dividere il lavoro in passaggi. È lo stesso principio che vale quando si evitano gli errori più comuni nei prompt ChatGPT: meno ambiguità all’inizio, meno correzioni dopo.

1. Carica il materiale di partenza

Può essere una foto, un PDF, un testo, una tabella, un menu, un curriculum o una pagina web. Più il materiale è chiaro, meno l’AI dovrà riempire i buchi con interpretazioni creative.

2. Spiega il pubblico e l’uso finale

Un’infografica per Instagram non è uguale a una slide per un corso, a una scheda commerciale o a un poster da stampare. Specifica sempre formato, lettore e contesto.

3. Chiedi prima la struttura, poi l’immagine

Prima di generare, conviene chiedere. Può aiutare anche un metodo semplice come il metodo G.O.L. per creare prompt più precisi, soprattutto quando si lavora su materiali destinati a clienti, studenti o colleghi.

  • quali sezioni inserire;
  • quale titolo usare;
  • quali dati o concetti mettere in evidenza;
  • quali elementi visuali potrebbero aiutare;
  • quali informazioni vanno escluse.

Solo dopo si passa alla generazione dell’immagine. Questo riduce errori, testi strani e layout confusi.

4. Fai un controllo finale, non estetico ma informativo

La domanda non è “mi piace?”. La domanda è: “si capisce meglio di prima?”.

Nel test del menu, per esempio, il controllo era molto semplice: accanto alla pizza vegetariana c’era davvero un’immagine coerente con una pizza con verdure? Se la risposta è sì, l’infografica sta facendo il suo lavoro. Se la risposta è no, è solo decorazione rumorosa. Questo vale per ChatGPT e vale anche per strumenti che ragionano su immagini, come negli esempi su Gemini Notebook (ex NotebookLM) e il riconoscimento delle immagini.

Un prompt pratico per iniziare

Puoi partire da una richiesta di questo tipo:

Analizza il materiale allegato e trasformalo in un’infografica chiara per [pubblico]. Prima proponi struttura, titolo, sezioni e gerarchia delle informazioni. Poi genera un’immagine in formato [formato], stile [stile], con testo leggibile in italiano. Non aggiungere informazioni non presenti nel materiale. Se qualcosa non è chiaro, segnalalo invece di inventarlo.

Per un menu, aggiungerei:

Associa ogni piatto a un’immagine coerente con ingredienti e descrizione. Mantieni i nomi dei piatti leggibili. Evita immagini generiche se la descrizione contiene dettagli specifici.

Per un curriculum, invece:

Trasforma il CV in una mappa visuale professionale: competenze, esperienze, libri/progetti, temi ricorrenti, contatti. Non sostituire il CV completo: crea una sintesi visiva da usare in una presentazione o in una pagina profilo.

Dove ChatGPT può sbagliare

Le immagini generate con l’AI sono sempre seducenti, ma questo è anche il rischio. Un’infografica può sembrare autorevole anche quando contiene dettagli sbagliati.

Controlla sempre:

  • testi: accenti, lettere mancanti, parole deformate, inglesismi non voluti;
  • corrispondenza visiva: un piatto vegetariano non deve diventare una pizza con salame;
  • gerarchia: le informazioni importanti devono essere più evidenti;
  • fedeltà al documento: l’AI non deve aggiungere competenze, date o risultati mai dichiarati;
  • uso finale: una grafica bella sullo schermo può essere illeggibile su mobile o in stampa.

Il criterio è sempre lo stesso: l’AI può accelerare la prima versione, ma non può fare da revisore unico del proprio lavoro.

Quando usare davvero le infografiche generate con AI

Ci sono almeno cinque casi in cui vale la pena provarci:

  • menu e listini: per rendere più comprensibile un’offerta complessa;
  • curriculum e profili professionali: per creare una sintesi da usare in slide, eventi o pagine personali;
  • presentazioni aziendali: per trasformare una lista di concetti in una mappa visuale;
  • materiali didattici: per spiegare processi, passaggi, ruoli o differenze;
  • contenuti social: quando un concetto può essere capito meglio con una struttura visiva.

Il trucco è non partire dall’immagine, ma dalla funzione. Che cosa deve capire il lettore in dieci secondi?

Da dove partire senza perdersi

Se vuoi fare una prova sensata, scegli un documento piccolo: una pagina di menu, una bio professionale, una scheda corso, una lista di servizi. Chiedi prima a ChatGPT di estrarre le informazioni principali, poi di proporre una struttura visuale, poi di generare l’immagine.

Alla fine confronta tre cose: il documento originale, la struttura proposta e l’infografica generata. Se l’immagine migliora la comprensione, hai uno strumento utile. Se la peggiora, hai solo un poster più vistoso.

In questi due esperimenti, il test è superato: ChatGPT resta competitivo anche su immagini complesse come le infografiche. Ma il valore non sta nel clic su “genera”. Sta nel metodo con cui gli chiediamo di organizzare le informazioni.

FAQ sulle infografiche con ChatGPT

ChatGPT può creare infografiche partendo da una foto?

Sì, può partire da un’immagine caricata e trasformarla in una nuova visualizzazione. Conviene però chiedere prima una struttura testuale, così si riducono errori e aggiunte arbitrarie.

Le infografiche generate con AI sono pronte da pubblicare?

Quasi mai al primo colpo. Vanno controllati testo, layout, coerenza delle immagini e fedeltà alle informazioni originali.

Meglio ChatGPT o Gemini Nano Banana per le infografiche?

Dipende dal caso. Gemini Nano Banana è molto forte sull’editing visuale, ma questi test mostrano che ChatGPT può ottenere risultati interessanti anche con immagini complesse, se il prompt è ben costruito.

Posso usare un’infografica AI per il curriculum?

Sì, ma come sintesi visuale o supporto di presentazione, non come sostituto del CV completo. Date, ruoli, competenze e risultati vanno verificati con attenzione.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Inviaci email

/0 Commenti/da

Decisioni artificiali: quando l’AI aiuta o distorce le scelte in azienda

, , ,


Immagina una riunione di direzione. Sul tavolo ci sono dati incompleti, interessi diversi, poco tempo e una scelta che nessuno vuole sbagliare. A un certo punto qualcuno apre un sistema di intelligenza artificiale, inserisce documenti e numeri, poi legge una raccomandazione formulata con grande sicurezza.

La tensione scende. Finalmente sembra esserci una risposta oggettiva.

Ma è davvero così? Oppure abbiamo soltanto trasferito alla macchina i nostri pregiudizi, aggiungendo velocità, scala e un linguaggio più convincente?

È la domanda al centro di Decisioni artificiali. Come l’uso dell’Intelligenza Artificiale ridefinisce il Decision-Making nelle organizzazioni, il libro di Nicola Capolupo pubblicato nel 2025 da Editoriale Scientifica. Un saggio di 196 pagine che mette in dialogo psicologia cognitiva, teoria organizzativa, sistemi di supporto alle decisioni ed etica dell’AI.

Il messaggio più utile è anche il meno spettacolare: l’intelligenza artificiale può aiutarci a decidere meglio, ma non elimina l’irrazionalità umana. Può ridurre alcuni errori, amplificarne altri e crearne di nuovi. Per questo la qualità della decisione dipende non soltanto dall’algoritmo, ma dal processo con cui persone e organizzazioni lo interrogano, controllano e, quando serve, contraddicono.

Decisioni artificiali: di che cosa parla il libro di Nicola Capolupo

Nicola Capolupo è ricercatore in Organizzazione aziendale presso l’Università Telematica San Raffaele Roma. La sua ricerca riguarda, tra gli altri temi, comportamento organizzativo, processi decisionali, bias cognitivi e uso dell’intelligenza artificiale nelle organizzazioni.

Decisioni artificiali, con prefazione di Paola Adinolfi e postfazione di Guglielmo Faldetta, non è un manuale di prompt né una raccolta di ricette per delegare le scelte a ChatGPT. È un percorso che parte dalle teorie del decision making, attraversa la razionalità limitata di Herbert Simon, le euristiche studiate da Daniel Kahneman e Amos Tversky, i sistemi di supporto alle decisioni e arriva a uno studio empirico sui bias nelle decisioni organizzative mediate dall’AI.

La prefazione contiene una frase che riassume bene il problema: «Le decisioni rappresentano il luogo in cui la teoria incontra la prassi». È lì che dati, procedure, cultura aziendale, emozioni, rapporti di potere e responsabilità smettono di essere concetti astratti e producono conseguenze reali.

L’anteprima del volume permette di consultare indice, prefazione, incipit, osservazioni conclusive e bibliografia.

Il mito della decisione perfettamente razionale

Ci piace pensare di scegliere dopo aver raccolto tutti i dati, confrontato ogni alternativa e calcolato con calma costi e benefici. Nella vita organizzativa, però, quasi mai disponiamo di tempo infinito, informazioni complete e obiettivi condivisi.

Il libro parte proprio da questa crepa. Dan Ariely, in Prevedibilmente irrazionali, ha mostrato quanto il comportamento umano sia influenzato da automatismi, emozioni e distorsioni sistematiche. Daniel Kahneman ha reso popolare la distinzione tra un pensiero rapido, intuitivo e automatico e un pensiero lento, riflessivo e faticoso. Non sono due interruttori nel cervello, ma una metafora utile per capire perché spesso accettiamo la prima risposta plausibile.

Già Herbert Simon, premio Nobel per gli studi sui processi decisionali nelle organizzazioni, aveva demolito l’idea della razionalità perfetta. Parlava di razionalità limitata: davanti a vincoli di tempo, competenze e informazioni, le persone non trovano necessariamente la soluzione migliore in assoluto. Cercano una soluzione sufficientemente buona.

In azienda il problema si complica ancora. Una decisione non è soltanto un calcolo. È anche negoziazione, interpretazione del contesto, gestione dei conflitti e assunzione di responsabilità. Un modello può stimare una probabilità; non può stabilire da solo quale rischio sia moralmente, socialmente o strategicamente accettabile.

L’AI come sistema di supporto alle decisioni

Un modo utile per comprendere l’intelligenza artificiale in azienda è considerarla un’evoluzione dei Decision Support System, i sistemi informatici che assistono il decisore senza sostituirlo.

Un sistema di supporto alle decisioni combina normalmente quattro elementi:

  • dati, interni o esterni all’organizzazione;
  • modelli, usati per analizzare relazioni, rischi e previsioni;
  • interfaccia, attraverso cui il decisore formula domande e interpreta risultati;
  • conoscenza, cioè regole, esperienze e informazioni sul dominio.

L’AI generativa rende questo sistema più accessibile. Un manager può interrogare documenti in linguaggio naturale, riassumere report, confrontare scenari, individuare anomalie, chiedere controargomentazioni o simulare le conseguenze di opzioni diverse.

Questa è la parte davvero interessante: l’AI può funzionare come amplificatore cognitivo. Non deve limitarsi a sputare una risposta, ma può aiutarci ad allargare lo spazio delle alternative. Il valore non sta soltanto nel prevedere «che cosa accadrà», ma nel rendere visibili ipotesi, dipendenze e domande che il gruppo non aveva considerato.

Complessità e potere: l’AI non entra in un’organizzazione neutrale

Riprendendo un lavoro di Thomas B. Lawrence del 1991, il libro osserva le decisioni organizzative lungo due dimensioni: la complessità del problema e la sua politicità, cioè il livello di conflitto tra soggetti con interessi, informazioni e potere differenti.

L’intelligenza artificiale agisce su entrambe.

Da un lato riduce la fatica di elaborare grandi quantità di dati e rende più semplice interrogare archivi prima riservati agli specialisti. Questo può distribuire conoscenza e partecipazione. Dall’altro, chi sceglie i dati, imposta gli obiettivi, definisce le soglie e decide quale sistema adottare conserva un potere enorme, anche se meno visibile.

La standardizzazione può aumentare coerenza e stabilità, ma può anche comprimere eccezioni, apprendimento e innovazione. Un punteggio uniforme sembra imparziale; se nasce da dati storici distorti o da una definizione povera del problema, rende soltanto più efficiente l’errore. È un rischio particolarmente evidente quando l’AI entra negli appalti pubblici e in altre procedure ad alto impatto.

I tre bias che rendono pericolosa la delega all’AI

1. Bias di automazione: «Se lo dice il sistema, sarà vero»

Il bias di automazione è la tendenza ad accettare il suggerimento di un sistema automatico senza cercare prove alternative o senza dare il giusto peso alle informazioni contrarie.

Una revisione sistematica pubblicata sul Journal of the American Medical Informatics Association ha analizzato frequenza, fattori e possibili contromisure di questo fenomeno. Il punto non è che le persone si fidino sempre delle macchine, ma che, in certe condizioni, la raccomandazione automatica diventi una scorciatoia mentale.

L’interfaccia contribuisce al problema. Una risposta ordinata, fluida e accompagnata da una percentuale può apparire più solida di quanto sia. La sicurezza del tono viene scambiata per accuratezza.

2. Framing e ancoraggio: il primo modo di porre il problema orienta il resto

Il framing riguarda il modo in cui una scelta viene presentata. L’ancoraggio porta invece a dare un peso eccessivo alla prima informazione ricevuta.

Con l’AI i due effetti si sommano. Se chiediamo «spiegami perché questa strategia fallirà», abbiamo già costruito una cornice negativa. Il modello cercherà soprattutto argomenti coerenti con quella direzione. Non perché abbia un’opinione, ma perché sta rispondendo al compito che gli abbiamo assegnato.

Poi arriva il secondo ancoraggio: quello umano. La prima risposta della macchina diventa il punto di partenza dei prompt successivi. Anche quando contiene un errore, tendiamo a costruirci sopra la conversazione.

Il rischio è una catena invisibile:

  1. una domanda orientata produce una risposta orientata;
  2. la risposta viene percepita come autorevole;
  3. i prompt successivi ne accettano le premesse;
  4. il gruppo smette di cercare ipotesi incompatibili con la prima.

3. Overconfidence: fidarsi troppo dell’AI o troppo di sé

L’overconfidence è lo scarto tra quanto ci sentiamo sicuri e quanto siamo realmente accurati. Nell’interazione uomo-macchina funziona in due direzioni: possiamo sopravvalutare l’algoritmo oppure le nostre capacità e ignorare un suggerimento valido.

Uno studio presentato alla conferenza CHI 2024 ha confrontato diversi interventi per calibrare la fiducia nelle decisioni assistite dall’AI. Tra gli approcci esaminati figurano il think the opposite, il ragionamento in termini probabilistici e il feedback sulla calibrazione. Il risultato più importante non è «fidarsi di più» o «fidarsi di meno», ma imparare a far coincidere meglio fiducia e accuratezza.

La buona collaborazione nasce quando sappiamo riconoscere sia i casi in cui l’AI merita ascolto sia quelli in cui deve essere respinta.

Spiegare l’algoritmo non basta

Si parla molto di Explainable AI: se il sistema spiega come è arrivato a una raccomandazione, l’utente dovrebbe valutarla meglio. Purtroppo una spiegazione può diventare a sua volta un segnale di autorevolezza. «C’è una motivazione, quindi sarà corretto».

Lo studio To Trust or to Think, condotto da Zana Buçinca, Maja Barbara Malaya e Krzysztof Z. Gajos su 199 partecipanti, ha sperimentato alcune cognitive forcing functions: piccoli vincoli progettati per obbligare l’utente a fermarsi e ragionare prima di accettare il consiglio dell’AI.

Questi interventi hanno ridotto l’eccessivo affidamento rispetto alle semplici spiegazioni, ma con un prezzo: le soluzioni più efficaci sono state anche quelle valutate meno favorevolmente dagli utenti. Inoltre hanno aiutato di più le persone con una maggiore propensione allo sforzo cognitivo.

È una lezione preziosa per chi progetta strumenti aziendali. Una buona esperienza utente non coincide sempre con il minor numero possibile di passaggi. A volte un po’ di attrito è una funzione di sicurezza.

Che cosa emerge dallo studio presentato nel libro

Nell’ultima parte, Capolupo presenta uno studio esplorativo sull’incidenza di overconfidence, bias di automazione, ancoraggio e framing nelle decisioni organizzative assistite dall’intelligenza artificiale.

I risultati discussi nel volume invitano a evitare conclusioni semplicistiche. Overconfidence e automazione non sembrano alterare in modo significativo le scelte aziendali nel campione analizzato; i lavoratori possono mantenere un ruolo proattivo, soprattutto quando ricevono feedback e conservano autonomia. L’AI può favorire pensiero analitico ed esplorazione di alternative.

Ma il quadro cambia nei lavori più routinari o quando la delega diventa passiva. L’innovazione può essere percepita come minaccia, alimentando anche quella che viene definita AI Anxiety; il coinvolgimento può diminuire e le competenze decisionali possono atrofizzarsi. Lo stesso libro esplicita limiti metodologici e carattere esplorativo dell’indagine: questi risultati non vanno trasformati in una legge universale.

La conclusione più robusta è organizzativa, non tecnologica: l’effetto dell’AI dipende da come vengono progettati lavoro, feedback, responsabilità e possibilità di contestare la macchina.

Human in the loop: non basta mettere una firma alla fine

L’espressione human in the loop viene spesso tradotta con «una persona controlla il risultato». È una definizione troppo debole. Se il decisore vede soltanto l’output finale, non conosce i limiti del sistema e non ha tempo o autorità per opporsi, la supervisione umana è soltanto decorativa.

Il Regolamento europeo sull’intelligenza artificiale, in particolare l’articolo 14 per i sistemi ad alto rischio, richiede misure di sorveglianza umana che consentano di comprendere capacità e limiti del sistema, riconoscere il possibile eccesso di affidamento, interpretare correttamente l’output e decidere di non usarlo o interromperlo. È un tema centrale anche per l’intelligenza artificiale nella Pubblica Amministrazione.

Anche l’AI Risk Management Framework del NIST propone una governance continua del rischio. Tradotto in pratica: non serve soltanto controllare la risposta; bisogna governare dati, obiettivi, ruoli, monitoraggio e conseguenze.

Una checklist pratica per decidere con l’AI senza delegare il cervello

Prima di accettare una raccomandazione algoritmica, un team dovrebbe rispondere almeno a queste domande:

  1. Qual è la decisione reale? Separare il problema dall’output richiesto allo strumento.
  2. Chi ha definito l’obiettivo? Ottimizzare costi, qualità, rapidità o equità produce scelte diverse.
  3. Quali dati mancano? Un modello non può compensare automaticamente informazioni assenti, obsolete o distorte.
  4. Qual è l’ipotesi contraria? Chiedere sempre una spiegazione incompatibile con la prima.
  5. Quali gruppi subiscono le conseguenze? L’efficienza media può nascondere danni concentrati su poche persone.
  6. Quanto è reversibile la scelta? Più una decisione è difficile da correggere, più serve controllo umano.
  7. Chi può contestare l’output? Deve esistere una persona con competenze, tempo e autorità per dire di no.
  8. Come misureremo l’esito? Senza feedback non sapremo se sistema e decisori stanno migliorando.

Quattro prompt per spezzare framing e ancoraggio

Un buon prompt non elimina i bias, ma può rendere il confronto più disciplinato. Ecco quattro formule riutilizzabili:

Avvocato del diavolo
«Contesta la raccomandazione precedente. Elenca le tre assunzioni più fragili, le prove che potrebbero smentirla e uno scenario in cui produrrebbe un danno.»

Alternative incompatibili
«Proponi tre opzioni mutuamente esclusive. Per ciascuna indica benefici, rischi, dati mancanti, soggetti penalizzati e condizioni che la renderebbero preferibile.»

Pre-mortem
«Immagina che tra dodici mesi questa decisione si sia rivelata un fallimento. Ricostruisci cinque cause plausibili e i segnali precoci che oggi potremmo monitorare.»

Separazione tra fatti e ipotesi
«Dividi la risposta in: fatti presenti nelle fonti, inferenze ragionevoli, assunzioni non verificate e informazioni necessarie prima di decidere. Non colmare i vuoti con dati inventati.»

La regola è semplice: non chiedere soltanto all’AI di darci ragione. Chiederle di rendere più difficile il nostro autoinganno.

Perché leggere Decisioni artificiali oggi

Il merito del libro è spostare la discussione dall’eterna domanda «l’AI sostituirà l’essere umano?» a una questione molto più concreta: come cambia il comportamento delle persone quando una macchina entra nel processo decisionale?

È una domanda utile per manager, responsabili HR, professionisti, decisori pubblici, progettisti di servizi e formatori. Perché l’AI non arriva in un laboratorio sterile. Entra in organizzazioni già attraversate da abitudini, gerarchie, incentivi, paure e conflitti. Per proseguire il percorso, può essere utile anche questa selezione di libri indispensabili per capire l’intelligenza artificiale.

La macchina può elaborare più dati e farlo più velocemente. Può simulare scenari, trovare correlazioni e proporre alternative. Ma non possiede da sola la comprensione situata delle conseguenze, né può assumersi la responsabilità morale della scelta.

Il vero obiettivo, quindi, non è costruire decisioni senza esseri umani. È costruire organizzazioni in cui esseri umani e sistemi intelligenti si correggano a vicenda. L’AI deve essere un amplificatore del pensiero, non un alibi per smettere di pensare.

Domande frequenti su Decisioni artificiali e AI decision making

Chi ha scritto Decisioni artificiali?

Il libro è stato scritto da Nicola Capolupo, ricercatore in Organizzazione aziendale presso l’Università Telematica San Raffaele Roma. È pubblicato da Editoriale Scientifica nella collana puntOorg.

Di che cosa parla il libro?

Analizza come l’intelligenza artificiale modifica i processi decisionali individuali e organizzativi, con particolare attenzione a razionalità limitata, bias cognitivi, sistemi di supporto alle decisioni, responsabilità e organizzazione del lavoro.

L’intelligenza artificiale elimina i bias umani?

No. Può mitigare alcuni errori, ma può anche apprendere distorsioni dai dati, rafforzare il framing della domanda e favorire bias di automazione o ancoraggio. Servono controllo, confronto con fonti indipendenti e feedback sugli esiti.

Che cos’è il bias di automazione?

È la tendenza ad accettare una raccomandazione automatica senza verificarla adeguatamente o senza considerare informazioni contrarie. Aumenta quando il sistema appare autorevole e il decisore lavora sotto pressione.

Che cosa significa human in the loop?

Significa mantenere una supervisione umana effettiva sull’AI. La persona deve comprendere limiti e contesto, poter contestare l’output, interrompere il sistema e assumersi la responsabilità della decisione.

Dove si può acquistare Decisioni artificiali?

Il volume è disponibile sul sito di Editoriale Scientifica. L’edizione del 2025 conta 196 pagine e ha ISBN 979-12-235-0275-4.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un’email

/0 Commenti/da