Tag Archivio per: AI in azienda

Usare dati aziendali con l’intelligenza artificiale può essere utile e sostenibile, ma richiede strumenti autorizzati, informazioni selezionate e regole precise. Il rischio cambia in base a ciò che carichiamo, alle condizioni del servizio e alle operazioni che permettiamo all’AI di svolgere. Pagare un abbonamento non basta a mettere al sicuro un documento.

Immaginiamo questa scena: un dipendente deve riassumere un contratto di trenta pagine. Lo carica nel chatbot, scrive “evidenzia le clausole critiche” e ottiene una risposta in pochi secondi.

Ottimo risparmio di tempo. Ma prima del caricamento mancavano alcune domande: quel servizio è autorizzato dall’azienda? Nel contratto ci sono dati personali? Ci sono vincoli di riservatezza? Chi conserverà il file e per quanto tempo?

Il pulsante “allega” è facilissimo da usare. Le decisioni che dovrebbero precederlo meritano qualche attenzione in più.

Quali dati aziendali possiamo inserire nell’AI?

Propongo un semaforo operativo. È uno schema orientativo per decidere come comportarsi, non una classificazione prevista dalla legge. La valutazione effettiva dipende dal contesto.

Tipo di informazione Esempi Indicazione operativa
Pubblica e non personale Schede prodotto, brochure, descrizioni di servizi Generalmente adatta agli strumenti autorizzati, verificando diritti d’uso e risultati
Interna Procedure, istruzioni di lavoro, bozze organizzative Verificare riservatezza, necessità e ambiente utilizzato
Riservata o personale Contratti, elenchi clienti, retribuzioni, valutazioni del personale Richiedere una valutazione specifica e protezioni adeguate
Particolarmente critica Credenziali, segreti industriali, dati sanitari, fascicoli delicati Escluderla dai chatbot generici; eventuali usi richiedono procedure e ambienti dedicati

Attenzione anche alla parola “pubblico”: un documento disponibile online può contenere dati personali. La pubblicazione non autorizza automaticamente qualsiasi riutilizzo. I principi di liceità, finalità e minimizzazione restano centrali nel Regolamento generale sulla protezione dei dati, consultabile sul sito del Garante.

ChatGPT usa i dati aziendali per addestrarsi?

Occorre distinguere il servizio e il tipo di account.

Nella documentazione sui dati aziendali, OpenAI dichiara che gli input e gli output di ChatGPT Business, Enterprise e della piattaforma API non sono utilizzati per addestrare i modelli per impostazione predefinita.

Per i servizi destinati ai singoli utenti, le condizioni sono differenti: OpenAI spiega quali contenuti possono essere utilizzati per migliorare i modelli e come intervenire nelle impostazioni nella pagina How your data is used to improve model performance.

Quindi la frase “uso ChatGPT” dice troppo poco per valutare il rischio. Servono almeno il piano, l’account effettivamente utilizzato, le impostazioni e le funzionalità attive.

L’esclusione dall’addestramento, inoltre, non equivale all’assenza di conservazione. È una garanzia importante, ma bisogna verificare anche tempi di conservazione, accessi e condizioni contrattuali.

Copilot è sicuro perché è già dentro Microsoft 365?

Microsoft documenta protezioni aziendali per Copilot e Copilot Chat, compreso il mancato utilizzo di prompt, risposte e dati recuperati tramite Microsoft Graph per addestrare i modelli di base.

La stessa documentazione Microsoft sulla protezione dei dati aziendali precisa però che i controlli disponibili dipendono dall’abbonamento e che ricerca web e agenti richiedono attenzione alle rispettive condizioni.

La conseguenza pratica è semplice: occorre verificare l’intero percorso dell’informazione.

Un assistente che consulta un documento interno, effettua una ricerca sul web e richiama un servizio esterno coinvolge passaggi diversi. Le garanzie del prodotto principale non vanno estese automaticamente a ogni integrazione.

Togliere i nomi rende anonimo un documento?

Non necessariamente. Ecco un esempio inventato:

“Il responsabile dell’unico stabilimento di Sulbiate, assunto a marzo, ha chiesto un’aspettativa per una specifica patologia.”

Il nome non compare. Tuttavia, per chi conosce l’organizzazione, la persona potrebbe essere riconoscibile.

Sostituire “Mario Rossi” con “Dipendente A” può ridurre l’esposizione, ma non garantisce l’anonimato. Se una persona resta identificabile, il dato continua a richiedere protezione.

Il Comitato europeo per la protezione dei dati, nel parere sui modelli di AI, sottolinea la necessità di valutare l’anonimato caso per caso.

Per le esercitazioni suggerisco dati interamente fittizi. Per il lavoro reale, invece, conviene selezionare soltanto i campi indispensabili, eliminando anche gli indizi identificativi non necessari.

GDPR e AI Act: quali obblighi considerare?

Quando vengono trattati dati personali, l’uso dell’AI deve rispettare il GDPR. Occorre verificare, tra le altre cose:

  • finalità e base giuridica del trattamento;
  • informazioni da fornire agli interessati;
  • ruoli e accordi con i fornitori;
  • misure di sicurezza e tempi di conservazione;
  • eventuali trasferimenti di dati fuori dallo Spazio economico europeo.

La valutazione d’impatto sulla protezione dei dati, o DPIA, è richiesta quando il trattamento può presentare un rischio elevato per le persone: non è automaticamente obbligatoria per qualsiasi uso di un chatbot. Il riferimento è l’articolo 35 del GDPR.

Sul versante dell’AI Act, l’alfabetizzazione sull’intelligenza artificiale è oggetto dell’articolo 4. Le domande e risposte della Commissione europea aiutano a capire come affrontarla nel contesto dell’organizzazione.

Per me la ricaduta formativa è molto concreta: chi usa l’AI deve sapere quali informazioni può caricare, come verificare le risposte e quando coinvolgere un responsabile. Saper scrivere un prompt efficace è solo una parte della competenza.

Sette regole operative da mettere nella policy aziendale

Queste sono le regole organizzative che suggerisco come base, da adattare con IT, responsabili di funzione e referente privacy.

1. Indicare strumenti e account autorizzati

La policy dovrebbe nominare prodotti, piani e modalità di accesso consentite. “È permesso usare l’AI” lascia troppe decisioni al singolo dipendente.

2. Definire quali dati sono ammessi

Servono esempi riconoscibili: preventivi, curriculum, verbali, progetti, dati dei clienti. Per ciascuna categoria bisogna chiarire condizioni, limiti e responsabile a cui rivolgersi.

3. Caricare solo ciò che serve

Se l’obiettivo è migliorare la formulazione di una clausola, valutiamo se basti quella clausola. Allegare l’intero contratto dovrebbe essere una scelta motivata.

4. Controllare collegamenti e autorizzazioni

Prima di collegare posta, archivi o CRM, definiamo quali fonti l’assistente può consultare e quali azioni può eseguire.

Nel mio approfondimento su agenti AI e second brain mostro perché il contesto documentale è utile. Proprio questa utilità rende essenziale governare gli accessi.

5. Separare preparazione e azioni delicate

Suggerisco di richiedere un’approvazione umana prima di inviare comunicazioni sensibili, pubblicare documenti o modificare informazioni importanti nei sistemi aziendali.

6. Assegnare la verifica a una persona

“Controllare il risultato” è un’indicazione incompleta. Meglio precisare chi verifica importi, scadenze, riferimenti normativi, destinatari e fedeltà ai documenti originali.

7. Prevedere cosa fare in caso di errore

La procedura dovrebbe indicare a chi segnalare un caricamento improprio e quali informazioni conservare per ricostruirlo. Cancellare la conversazione non dimostra, da solo, che il problema sia risolto.

Tre esempi pratici: commerciale, HR e Comune

I seguenti sono scenari didattici, non casi di cronaca.

Commerciale. Per migliorare la struttura di un’offerta, si può iniziare da un modello privo di nominativi, prezzi riservati e condizioni negoziali. I dati reali vengono inseriti successivamente nell’ambiente autorizzato.

Risorse umane. Per creare una scaletta di colloquio, spesso bastano mansione, competenze e obiettivi. Non occorre partire dall’intero archivio dei curriculum.

Comune. Per preparare una checklist relativa a un bando, si può partire dal testo pubblico. L’analisi delle domande dei cittadini, con allegati e dati personali, richiede una valutazione distinta.

La domanda utile, in tutti e tre i casi, è: quali informazioni sono davvero necessarie per ottenere questo risultato?

Un prompt non sostituisce le protezioni tecniche

Scrivere “questi dati sono riservati, non divulgarli” non modifica il contratto del fornitore, le impostazioni di conservazione o i permessi degli strumenti collegati.

Un prompt può aiutare a circoscrivere il compito. Non può diventare una cassaforte.

Prima di caricare un documento, consiglio quindi un controllo essenziale:

Sono autorizzato a far trattare questi dati da questo fornitore, per questa finalità?

Se la risposta è incerta, il passo successivo è chiarirla con chi governa il servizio.

Per costruire un percorso pratico sull’uso dell’AI in azienda o nella pubblica amministrazione, puoi contattarmi per una formazione dedicata: possiamo partire dalle attività quotidiane e trasformarle in esercitazioni, criteri di verifica e regole comprensibili.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Inviaci email

Succede sempre più spesso: qualcuno mostra una demo in cui un agente AI legge le email, aggiorna il CRM, prepara una presentazione e prenota una riunione. A quel punto parte la domanda: “Possiamo averne uno anche noi?”.

La domanda giusta, però, è un’altra: in quale processo un agente AI crea più valore di una normale automazione? In azienda gli agenti AI servono quando il percorso non è completamente prevedibile, occorre interpretare informazioni, scegliere tra più strumenti e gestire eccezioni. Se i passaggi sono fissi e le regole sono chiare, un workflow tradizionale è spesso più economico, veloce e controllabile.

Questa distinzione è il punto di partenza dell’articolo di Digital4 “C’è un agent per tutto. Ma non tutto ha bisogno di un agent”. Un tema molto attuale: oggi costruire una demo è relativamente facile; trasformarla in uno strumento affidabile è tutto un altro lavoro.

Che cos’è un agente AI, in parole semplici

Un agente AI è un sistema capace di perseguire un obiettivo, osservare ciò che succede, decidere il passo successivo e utilizzare strumenti: per esempio un motore di ricerca, un database, la posta elettronica, un foglio Excel o un gestionale.

La differenza rispetto a un chatbot non è che “scrive meglio”. La differenza è che può agire. E la differenza rispetto a un workflow è che non deve per forza seguire sempre la stessa strada.

Anthropic distingue chiaramente workflow e agenti: nei primi, modelli e strumenti vengono orchestrati attraverso percorsi definiti in anticipo; nei secondi, è il modello a decidere dinamicamente come procedere. Anche la guida pratica di OpenAI alla costruzione degli agenti suggerisce di partire da processi in cui regole rigide e automazioni deterministiche non bastano.

Workflow, assistente o agente? La scelta pratica

Non tutti i problemi aziendali richiedono lo stesso grado di autonomia. Prima di aggiungere la parola “agentico” a una presentazione, conviene usare questa matrice.

Il principio è semplice: usare il livello minimo di autonomia necessario. Più autonomia significa più flessibilità, ma anche più costi, più variabilità e più controlli.

Il test delle cinque domande prima di creare un agente AI

Nei corsi e nei progetti aziendali partirei da cinque domande molto concrete.

  1. Il processo cambia spesso percorso? Se la risposta è no, probabilmente basta un’automazione.
  2. Occorre interpretare informazioni non strutturate? Email, documenti, note e richieste ambigue sono un terreno più adatto agli agenti.
  3. L’agente deve usare più strumenti? Per esempio cercare un dato nel CRM, confrontarlo con un contratto e preparare una risposta.
  4. Possiamo verificare il risultato? Se non esiste un modo per sapere se il lavoro è corretto, non esiste nemmeno un buon progetto.
  5. Un errore è reversibile? Cancellare una bozza non equivale a inviare un bonifico o pubblicare un listino sbagliato.

Se il processo non supera questo test, aggiungere un agente rischia di automatizzare non il lavoro, ma la confusione.

Tre casi in cui un agente AI può avere senso

1. Gestire richieste con molte eccezioni

Immaginiamo un servizio clienti che riceve richieste via email. Un workflow può riconoscere alcune parole e assegnare un’etichetta. Un agente, invece, può leggere la conversazione, consultare la scheda cliente, verificare la policy, cercare un ordine e preparare una risposta o chiedere l’intervento di una persona.

Il valore non sta nel testo prodotto, ma nei passaggi manuali eliminati. Naturalmente l’agente deve avere fonti definite, permessi limitati e regole chiare per l’escalation.

2. Raccogliere dati da strumenti diversi

Molte attività aziendali consistono nel fare il giro delle sette chiese digitali: CRM, gestionale, email, fogli, cartelle condivise e piattaforme analytics. Un agente può cercare le informazioni, controllarne la completezza e restituire una sintesi utilizzabile.

Un esempio concreto è il lavoro sui fogli di calcolo. In questo video mostro un agente Genspark che interviene su un file Excel:

Per approfondire, sul blog trovi anche cinque esempi pratici di utilizzo dell’agente Genspark.

3. Preparare un lavoro che una persona deve approvare

L’agente può cercare fonti, confrontare documenti, compilare una bozza e segnalare le anomalie. La persona prende la decisione finale. È un modello molto più realistico del fantomatico collega digitale che sa tutto e non chiede mai aiuto.

Il punto non è sostituire il giudizio, ma recuperare tempo sulle attività preparatorie. Nel video seguente racconto dieci esempi con cui ho misurato un risparmio complessivo di dieci ore in una settimana:

Qui trovi anche l’articolo completo su come recuperare dieci ore alla settimana con l’AI.

Il lavoro difficile non è scrivere il prompt

Con un agente il prompt conta, ma non basta. Bisogna progettare il contesto: quali dati può vedere, quali fonti deve considerare autorevoli, che cosa deve ricordare, quali strumenti può utilizzare e quando deve fermarsi.

Anthropic parla di context engineering per gli agenti AI: non si progetta soltanto una richiesta, ma l’intero ambiente informativo in cui il sistema deve operare. È un passaggio che approfondisco anche nell’articolo dal prompt al contesto.

Se i documenti sono vecchi, le autorizzazioni sono eccessive o le procedure aziendali si contraddicono, l’agente non risolve il problema. Lo esegue più velocemente.

Come avviare un progetto pilota senza farsi male

Un buon progetto non parte dal super-agente aziendale. Parte da un processo piccolo, frequente e misurabile.

  1. Scegliere un solo processo. Per esempio classificare le richieste commerciali in entrata.
  2. Misurare il punto di partenza. Tempo impiegato, errori, volumi, costi e passaggi manuali.
  3. Definire una job description. Obiettivo, strumenti, fonti, divieti, condizioni di arresto ed escalation.
  4. Limitare i permessi. All’inizio meglio leggere e proporre; l’azione autonoma viene dopo.
  5. Creare casi di test. Non solo richieste normali, ma dati mancanti, istruzioni contraddittorie ed eccezioni.
  6. Tenere una persona nel circuito. Le azioni sensibili devono richiedere approvazione.
  7. Decidere in anticipo quando fermare il progetto. Se costa più del lavoro risparmiato o non raggiunge la qualità minima, si torna a un workflow più semplice.

Quali metriche usare per valutare un agente AI

Contare le risposte generate serve a poco. Le metriche utili sono legate al lavoro:

  • tempo medio per completare un’attività;
  • percentuale di attività completate correttamente;
  • numero di interventi umani necessari;
  • costo per attività completata;
  • tasso di errore e gravità degli errori;
  • numero di escalation corrette e mancate;
  • tracciabilità delle fonti e delle azioni;
  • tempo realmente recuperato dalle persone.

Gartner ha previsto che oltre il 40% dei progetti di agentic AI sarà cancellato entro la fine del 2027, citando costi crescenti, valore poco chiaro e controlli del rischio insufficienti. La lezione non è “gli agenti non funzionano”, ma “una demo non è un risultato aziendale”.

Governance: chi controlla l’agente che controlla il processo?

Un agente deve essere trattato come un componente operativo, non come un collega infallibile. Servono registri delle azioni, gestione delle identità, limiti di spesa, fonti approvate, valutazioni periodiche e una persona responsabile del processo.

Il Playbook del NIST per la gestione del rischio AI propone azioni organizzate attorno a quattro funzioni: governare, mappare, misurare e gestire. È una buona bussola anche per un progetto piccolo.

Attenzione inoltre alla Shadow AI in azienda: se gli strumenti ufficiali sono assenti o troppo complicati, le persone ne adotteranno altri senza controllo. La governance efficace non è un elenco di divieti; è un modo sicuro per ottenere risultati.

E nei casi delicati bisogna ricordare che l’AI può anche influenzare male le scelte. Ne parlo nell’approfondimento sulle decisioni artificiali in azienda.

La regola finale: autonomia solo dove produce valore

Gli agenti AI in azienda possono essere molto utili. Ma la maturità non si misura dal numero di agenti attivati. Si misura dalla capacità di scegliere il processo giusto, assegnare un perimetro chiaro, controllare i risultati e fermarsi quando una soluzione più semplice funziona meglio.

Prima si mette ordine nel processo. Poi si decide che cosa automatizzare. Solo alla fine si valuta quanta autonomia concedere all’AI.

Il futuro del lavoro non sarà popolato soltanto da super-agenti. Sarà fatto soprattutto di buoni strumenti, piccoli automatismi e agenti specializzati che fanno poche cose, verificabili, davvero utili.

Domande frequenti sugli agenti AI in azienda

Qual è la differenza tra un agente AI e un chatbot?

Un chatbot risponde principalmente a richieste. Un agente AI può pianificare più passaggi, scegliere strumenti, osservare i risultati intermedi e compiere azioni per raggiungere un obiettivo.

Quando conviene usare un workflow invece di un agente?

Quando il processo è stabile, i passaggi sono noti, le regole sono chiare e le eccezioni sono poche. In questi casi il workflow è generalmente più semplice, economico e prevedibile.

Quali processi sono adatti a un primo agente AI?

Processi frequenti, circoscritti e misurabili: classificazione delle richieste, raccolta di dati da più fonti, controllo della completezza dei documenti e preparazione di bozze da approvare.

Un agente AI può lavorare senza supervisione umana?

Può farlo solo in attività a basso rischio, ben testate e facilmente reversibili. Per pagamenti, contratti, decisioni sulle persone o comunicazioni pubbliche è prudente mantenere un’approvazione umana.

Come si misura il valore di un agente AI?

Con indicatori operativi: tempo risparmiato, costo per attività, qualità del risultato, errori, escalation, interventi umani e tracciabilità delle azioni.

Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa

Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.

Invia un’email