Tag Archivio per: RAG

Immaginate di affidare un lavoro a un nuovo collaboratore. Gli spiegate benissimo che cosa deve fare, poi gli consegnate tre preventivi superati, una presentazione del 2022, un verbale senza data e una cartella chiamata “Definitivo_vero_ultimo”. Quando sbaglia, gli rimproverate di non aver capito la richiesta.

Con l’intelligenza artificiale rischiamo di fare qualcosa di simile. Dedichiamo molta attenzione alla frase da scrivere nella chat e meno ai materiali che dovrebbero permettere di svolgere il compito. Un’istruzione impeccabile, però, non risolve una contraddizione tra due documenti dei quali abbiamo dimenticato di indicare la validità.

Questa riflessione prende spunto dall’articolo Effective context engineering for AI agents, pubblicato da Anthropic il 29 settembre 2025. Il tema è la progettazione del contesto disponibile agli agenti AI: istruzioni, informazioni e risultati delle azioni, selezionati e aggiornati durante il lavoro.

Che cos’è il context engineering

Il context engineering riguarda la gestione delle informazioni che un modello riceve mentre svolge un compito. Il prompt engineering si concentra sulla formulazione delle istruzioni; il context engineering considera anche documenti, cronologia e strumenti. Anthropic lo presenta come un’evoluzione del prompting, particolarmente rilevante per gli agenti che eseguono più passaggi.

La mia lettura pratica è questa: quando delego all’AI, devo preparare un incarico completo. Che cosa deve produrre? Quali dati deve utilizzare? Quale documento prevale? Quali informazioni mancano? Come controllerò il risultato?

È una prospettiva che si collega al mio metodo G.O.L., Guidare, Obiettivo, Limiti. A quelle istruzioni affiancherei una verifica dei materiali: abbiamo fornito all’assistente ciò che gli serve per rispettarle?

Una finestra di contesto grande non garantisce una lettura perfetta

Il lavoro Lost in the Middle: How Language Models Use Long Contexts, di Nelson F. Liu e colleghi, ha mostrato che, nei modelli e nei compiti studiati, la posizione delle informazioni influenzava le prestazioni. Le risposte erano spesso migliori quando il dato utile si trovava all’inizio o alla fine dell’input, peggiori quando era nel mezzo.

Un altro studio, RULER: What’s the Real Context Size of Your Long-Context Language Models?, di Cheng-Ping Hsieh e colleghi, ha valutato capacità che vanno oltre il recupero di un singolo dettaglio. Nei modelli analizzati, l’allungamento del contesto poteva accompagnarsi a cali importanti delle prestazioni.

Si tratta di ricerche del 2023 e del 2024: non sono una pagella dei chatbot disponibili oggi. Suggeriscono però una precauzione sensata: verificare come il modello usa i materiali sul nostro compito, anziché dedurlo soltanto dalla quantità di testo che può accettare.

Questo non significa che dobbiamo accorciare tutto. Se chiediamo un confronto completo tra due contratti, eliminare le clausole più scomode per “fare pulizia” sarebbe un disastro. L’obiettivo che propongo è rendere riconoscibili le informazioni necessarie, conservando l’accesso agli originali.

Un esempio: preparare un corso aziendale senza confondere i documenti

Supponiamo di dover progettare un corso di tre ore sull’AI per un gruppo commerciale. Abbiamo una mail del cliente, gli appunti della call, un questionario e programmi di corsi precedenti.

La richiesta “Agisci come un formatore esperto e prepara un corso coinvolgente” lascia aperte troppe decisioni. Un programma precedente potrebbe prevedere una giornata intera, un pubblico diverso o strumenti che il nuovo cliente non usa.

Io preparerei il lavoro in questo modo:

MaterialeFunzione nel nuovo incarico
Brief confermato dal clienteStabilisce pubblico, durata, obiettivi e vincoli concordati.
Questionario dei partecipantiDescrive competenze iniziali e bisogni, senza modificare gli accordi commerciali.
Programma precedenteOffre esempi riutilizzabili; durata e condizioni appartengono al vecchio incarico.
Appunti della callSegnalano ipotesi e punti ancora da confermare.

La distinzione decisiva è tra un dato approvato e un’idea ancora in discussione. Se nella call qualcuno ha proposto cinque ore, ma il brief finale ne conferma tre, voglio che l’assistente segnali il conflitto e segua il brief. Non che faccia una media creativa di quattro ore.

Questo schema è una mia applicazione operativa del tema, da adattare al proprio lavoro: proposte commerciali, piani editoriali, report, procedure interne.

Archivio, recupero delle informazioni e contesto sono cose diverse

Un archivio può contenere tutto lo storico di un’organizzazione. Per preparare una proposta specifica, invece, vorrei recuperare i documenti pertinenti e capire quale versione usare.

Il paper Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, di Patrick Lewis e colleghi, descrive un approccio che combina un modello generativo con il recupero di informazioni da una memoria esterna. È il riferimento originario della RAG, Retrieval-Augmented Generation.

In questa prospettiva, la RAG può contribuire a costruire il contesto, ma non esaurisce il problema: dopo aver trovato un documento, bisogna ancora decidere come utilizzarlo. Nel nostro esempio, recuperare il vecchio programma è utile per gli esercizi; copiarne le condizioni commerciali sarebbe un errore.

Per questo, nel mio archivio di lavoro, darei ai materiali una scheda essenziale: titolo, data, stato, progetto di appartenenza e funzione. Un nome come “Programma approvato, cliente X, ottobre 2026” offre un’indicazione molto più comprensibile di “File nuovo 7”.

Per gli agenti conta anche come funzionano gli strumenti

Quando l’assistente può cercare file o interrogare altri servizi, il contesto dipende anche dalle informazioni restituite da quegli strumenti. Nell’articolo Writing effective tools for AI agents, using AI agents, Anthropic raccomanda strumenti con scopi chiari e risposte pertinenti. Segnala inoltre che funzioni sovrapposte possono complicare le scelte dell’agente.

Applicato al nostro corso, vorrei una ricerca che restituisse il programma richiesto, la data e il suo stato. Se la risposta presenta soltanto un titolo, come distinguo una bozza da una versione approvata?

Prima di aggiungere un nuovo collegamento all’assistente, mi chiederei quindi: quale passaggio del lavoro rende possibile? Quali informazioni restituisce? Come verificheremo che siano quelle corrette?

Come mantenere il filo nei lavori lunghi

Per attività prolungate, Anthropic descrive tre strategie: compattare la conversazione, conservare note strutturate fuori dalla finestra di contesto e distribuire compiti mirati a sottoagenti. Sono approcci da scegliere in base al lavoro, non passaggi obbligatori per ogni richiesta.

Per il progetto del corso, io inizierei da una scheda di avanzamento: requisiti confermati, decisioni prese, dubbi aperti, documenti usati e prossimo passo. Se la durata cambia, aggiorno quella scheda e indico quale decisione è stata superata.

La farei controllare anche al responsabile del progetto. Una sintesi sbagliata, conservata con grande efficienza, rimane sbagliata.

Un prompt da provare subito

Ecco una richiesta da usare dopo aver allegato i materiali del nostro esempio:

Aiutami a progettare un corso di tre ore sull’AI per il team commerciale.

Prima di scrivere il programma, prepara una tabella con: documento, data indicata, informazioni utili, ruolo della fonte e possibili contraddizioni. Se data o stato non sono presenti, segnala “non indicato”.

Il brief confermato dal cliente stabilisce i requisiti. Usa il questionario per adattare il livello; i programmi precedenti sono esempi, senza valore per durata o condizioni del nuovo incarico. Gli appunti della call possono contenere proposte non approvate.

Non inventare informazioni mancanti. Fammi le domande necessarie a risolvere i dubbi che impediscono di costruire il programma.

Dopo il chiarimento, proponi una scaletta di 180 minuti, con obiettivo e attività per ogni modulo. Indica a quali materiali si collegano le scelte e distingui le tue proposte dai requisiti del cliente.

Questo prompt rende esplicite le regole del nostro incarico. Il suo valore va verificato sul risultato: riconosce le incongruenze? Rispetta il tempo disponibile? Inventa requisiti?

Un esercizio: stesso prompt, materiali organizzati diversamente

Per un laboratorio, proporrei di preparare due insiemi di documenti con le stesse informazioni. Nel primo lasciamo titoli vaghi e versioni indistinte. Nel secondo aggiungiamo date, stato e funzione delle fonti. Usiamo la stessa richiesta in conversazioni separate, con lo stesso modello e le stesse impostazioni disponibili.

Prima di partire, definiamo i criteri: requisiti rispettati, contraddizioni individuate, dati inventati e correzioni necessarie. Ripetiamo il confronto, perché una singola risposta riuscita non dimostra un vantaggio stabile. È un test pratico locale, non una prova scientifica generale.

Per accompagnare la riflessione sul prompting, qui trovi il mio intervento Tutti dobbiamo imparare a usare i prompt.

Prima di correggere il prompt, controlliamo il briefing

La competenza che mi interessa portare in azienda comprende anche questo: riconoscere le fonti, chiarire gli accordi e accorgersi di ciò che manca. Il context engineering offre un modo utile per ragionare su queste responsabilità quando lavoriamo con l’AI.

Alla prossima risposta insoddisfacente, suggerisco una verifica concreta: l’assistente aveva accesso al documento giusto? Sapeva che era quello approvato? Gli avevamo spiegato come trattare gli altri?

Magari il prompt va riscritto. Magari, prima, va sistemata la cartella “Definitivo_vero_ultimo”.

Vuoi sperimentare questo approccio con il tuo gruppo di lavoro? Scopri il mio corso di prompt engineering e contattami per costruire un laboratorio sui vostri casi reali.

    Qualche dettaglio sul corso (facoltativo)

    Qualche dettaglio sull’evento (facoltativo)

    Bastano poche righe. Se hai già una data o un obiettivo, aggiungili.

    I campi con * sono obbligatori.

    Quando si parla di intelligenza artificiale, il dibattito gira spesso intorno alle solite parole: machine learning, prompt, chatbot, LLM, algoritmi.

    Parole importanti, certo. Ma se usi ChatGPT, Copilot, Gemini, Claude o altri strumenti di AI generativa nel lavoro quotidiano, ci sono altri termini meno popolari che vale la pena conoscere.

    Non per fare bella figura in riunione. Anche se, diciamolo, ogni tanto aiuta.

    Conoscere questi concetti serve a capire perché un chatbot risponde in un certo modo, perché a volte sbaglia, perché alcuni strumenti sono più adatti di altri e perché caricare un documento non significa automaticamente “addestrare” un modello.

    Ecco dieci termini dell’intelligenza artificiale che dovrebbero entrare nel vocabolario di chi usa i chatbot in azienda.

    Risposta breve: quali termini AI servono davvero nel lavoro?

    Per usare meglio i chatbot al lavoro conviene conoscere almeno dieci concetti: context window, grounding, temperature, tokenization, embedding, RAG, hallucination, fine-tuning, inference e AI Agent. Sono parole tecniche, ma hanno conseguenze molto pratiche: aiutano a scrivere prompt migliori, scegliere strumenti più adatti, ridurre errori e capire i limiti dell’intelligenza artificiale.

    1. Context window: quanta memoria ha davvero il chatbot?

    La context window, o finestra di contesto, è la quantità di informazioni che un modello riesce a prendere in considerazione in una conversazione.

    Più è ampia, più il chatbot può lavorare su testi lunghi, documenti complessi, conversazioni estese e molti dati forniti dall’utente. Per chi lavora significa poter analizzare contratti, manuali, verbali, report o procedure senza doverli spezzettare in mille pezzi.

    Attenzione però: finestra di contesto non significa memoria perfetta. Il modello può comunque perdere sfumature, dare più peso ad alcune parti o confondere elementi simili.

    In pratica: quando chiedi a un chatbot di analizzare un documento lungo, non limitarti a caricarlo e dire “fammi un riassunto”. Spiega che cosa vuoi ottenere, quali sezioni sono più importanti e quale uso farai del risultato.

    2. Grounding: collegare l’AI a fonti affidabili

    Il grounding consiste nel collegare il modello a fonti di dati affidabili, invece di lasciarlo rispondere solo sulla base di ciò che ha appreso durante l’addestramento.

    Quando un chatbot consulta documenti aziendali, un database interno, una knowledge base o un archivio di procedure prima di rispondere, sta usando una forma di grounding.

    Questo approccio riduce il rischio di risposte inventate e rende l’AI molto più utile nel lavoro. Non perché diventa infallibile, ma perché lavora su materiale verificabile.

    È lo stesso principio che ho raccontato parlando di second brain, metodo LLM Wiki e Obsidian: l’AI funziona meglio quando ha buone fonti su cui appoggiarsi.

    3. Temperature: quanto deve essere creativa l’AI?

    La temperature è un parametro che controlla il livello di variabilità delle risposte generate da un modello.

    Con valori bassi, il modello tende a produrre risposte più prevedibili, coerenti e ripetibili. Con valori più alti aumenta la varietà delle formulazioni e delle idee.

    Nella documentazione OpenAI sul prompt engineering, la temperature viene spiegata proprio come una leva che rende l’output più o meno casuale. Per attività fattuali, estrazioni di dati o documentazione tecnica è meglio tenerla bassa. Per brainstorming, naming o idee creative può avere senso alzarla.

    In pratica: se devi scrivere una procedura HR, non vuoi troppa fantasia. Se devi trovare dieci titoli per una campagna interna, un po’ di varietà può aiutare.

    4. Tokenization: perché il testo viene fatto a pezzetti

    I modelli linguistici non leggono il testo esattamente come lo leggiamo noi. Lo suddividono in unità chiamate token.

    Un token può essere una parola, una parte di parola, un numero, un simbolo o un segno di punteggiatura. Questo spiega perché esistono limiti di lunghezza nelle conversazioni e perché certi documenti molto estesi devono essere gestiti con metodo.

    Quando un sistema dice che un modello può gestire un certo numero di token, non sta parlando semplicemente di parole. Sta parlando della quantità di testo codificato che può essere elaborata.

    In pratica: se lavori con documenti lunghi, chiedi all’AI di analizzarli per sezioni, creare una mappa iniziale e poi approfondire i punti più rilevanti.

    5. Embedding: il significato trasformato in numeri

    Gli embedding sono rappresentazioni numeriche del significato di parole, frasi o documenti.

    Detta così sembra una cosa da matematici con molto caffè a disposizione. In realtà il concetto è molto pratico: grazie agli embedding, un sistema può capire che due testi sono simili anche se usano parole diverse.

    È il principio che permette la ricerca semantica nei documenti aziendali. Non devi conoscere la frase esatta presente in una procedura: puoi cercare per concetto e recuperare informazioni pertinenti.

    La guida OpenAI sugli embedding li descrive come un modo per trasformare il testo in numeri e abilitare casi d’uso come ricerca, clustering e analisi di similarità.

    In pratica: gli embedding sono una delle basi tecniche dietro chatbot aziendali, motori di ricerca interni, sistemi di knowledge management e assistenti documentali.

    6. RAG: quando il chatbot cerca prima di rispondere

    RAG significa Retrieval-Augmented Generation. In italiano potremmo tradurlo, con poca poesia ma molta precisione, come generazione aumentata dal recupero di informazioni.

    Prima di generare una risposta, il sistema cerca dati rilevanti in una base documentale e li usa come riferimento. In questo modo il chatbot non si limita alla “memoria” del modello, ma lavora su fonti specifiche.

    Secondo Google Cloud, il RAG combina modelli linguistici e basi di conoscenza esterne per migliorare gli output. È una delle tecniche più importanti per usare l’AI in azienda senza affidarsi solo a risposte generiche.

    Strumenti come Gemini Notebook (ex NotebookLM) lavorano proprio in questa direzione: prima le fonti, poi le risposte. Per questo ho raccolto anche una pagina con i miei video YouTube su Gemini Notebook.

    7. Hallucination: quando l’AI inventa con grande sicurezza

    Le hallucination, o allucinazioni, sono risposte apparentemente corrette ma in realtà inventate.

    Il chatbot può creare dati inesistenti, attribuire citazioni mai pronunciate, inventare fonti, sbagliare date o mescolare informazioni vere e false. Il problema è che spesso lo fa con un tono molto convincente.

    Non è un piccolo bug occasionale: è un rischio legato al modo in cui funzionano i modelli linguistici, che generano testo probabile, non verità certificata.

    In pratica: mai usare una risposta AI in un documento importante senza verifica. Soprattutto se contiene numeri, fonti, norme, citazioni, dati economici, informazioni legali o sanitarie.

    Su questo punto torno spesso nei miei corsi su AI generativa per aziende e professionisti: l’AI aumenta la produttività, ma non elimina la responsabilità.

    8. Fine-tuning: non è caricare un PDF

    Il fine-tuning consiste nell’addestrare ulteriormente un modello già esistente su un insieme specifico di dati.

    Un’azienda può, per esempio, adattare un modello al proprio linguaggio, ai propri prodotti, alle proprie procedure o a un certo stile di risposta. È una modifica più profonda rispetto al semplice caricamento di documenti in una chat.

    Qui nasce una confusione frequente: “Ho caricato il manuale, quindi ho addestrato il modello”. No. In molti casi hai solo dato al chatbot un contesto o una fonte da consultare. Il fine-tuning è un’altra cosa.

    In pratica: prima di pensare al fine-tuning, molte aziende dovrebbero sistemare documenti, FAQ, procedure, dati e knowledge base. Spesso il problema non è il modello. È il materiale di partenza.

    9. Inference: il momento in cui l’AI risponde

    L’inference è il momento in cui il modello produce concretamente una risposta.

    L’addestramento può richiedere mesi, enormi quantità di dati e infrastrutture molto costose. L’inference è ciò che accade ogni volta che scrivi una domanda a un chatbot e aspetti la risposta.

    Capire questa distinzione aiuta anche a leggere meglio il mercato: alcuni servizi costano di più perché usano modelli più potenti, gestiscono più contesto, rispondono più velocemente o includono strumenti aggiuntivi.

    In pratica: quando usi ChatGPT o Copilot non stai “addestrando” il modello ogni volta. Stai chiedendo al modello di generare una risposta sulla base del contesto disponibile.

    10. AI Agent: quando il chatbot inizia ad agire

    Un AI Agent non si limita a rispondere alle domande. Può pianificare attività, usare strumenti esterni, consultare database, eseguire azioni e verificare risultati prima di proseguire.

    Nel mondo del lavoro rappresenta un passaggio importante rispetto al chatbot tradizionale. Un agente può, per esempio, recuperare informazioni dal CRM, preparare una bozza di email, compilare un report, aggiornare un gestionale o coordinare più passaggi di un flusso operativo.

    La documentazione OpenAI sugli Agents mostra proprio questa evoluzione: modelli collegati a istruzioni, strumenti e comportamenti eseguibili.

    In pratica: gli agenti AI sono promettenti, ma richiedono governance. Più un sistema può agire, più bisogna definire limiti, autorizzazioni, controlli e responsabilità.

    Il vero vantaggio: meno magia, più metodo

    Conoscere questi termini non serve a trasformarsi in ingegneri del machine learning.

    Serve a usare meglio gli strumenti che ormai entrano in molte attività quotidiane: scrivere, riassumere, cercare, analizzare, confrontare, classificare, generare idee, preparare documenti, supportare clienti e colleghi.

    La differenza tra chi usa un chatbot “a caso” e chi lo usa con metodo spesso sta proprio qui: capire che cosa può fare, che cosa non può fare, quali dati gli servono e quali controlli sono necessari.

    In un mercato del lavoro in cui l’AI diventa una competenza trasversale, il vantaggio competitivo non sarà solo “saper usare ChatGPT”. Sarà comprenderne abbastanza il funzionamento da ottenere risultati migliori, più affidabili e più utili.

    Meno magia, quindi. Più metodo.

    FAQ

    Quali sono i termini AI più utili da conoscere al lavoro?

    Tra i più utili ci sono context window, grounding, temperature, token, embedding, RAG, hallucination, fine-tuning, inference e AI Agent. Sono concetti tecnici, ma hanno conseguenze molto pratiche nell’uso dei chatbot.

    Che cos’è il RAG nell’intelligenza artificiale?

    Il RAG, Retrieval-Augmented Generation, è una tecnica che permette a un chatbot di recuperare informazioni da fonti esterne prima di generare una risposta. Serve a rendere l’output più pertinente e collegato a dati specifici.

    Che differenza c’è tra grounding e fine-tuning?

    Il grounding collega il modello a fonti affidabili da consultare. Il fine-tuning modifica più profondamente il comportamento del modello tramite un ulteriore addestramento su dati specifici.

    Perché i chatbot inventano risposte?

    Perché i modelli linguistici generano testo probabile, non verità garantite. Le risposte inventate ma plausibili vengono chiamate hallucination, o allucinazioni.

    Un AI Agent è diverso da un chatbot?

    Sì. Un chatbot risponde soprattutto a domande e istruzioni. Un AI Agent può anche usare strumenti, pianificare azioni, consultare sistemi esterni e completare attività più complesse.

     

    Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

    Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

    Inviaci email